DeepSeek被「猫咪睡觉」给干崩了……
研究员们发现,一句关于猫咪有趣的事实能轻易让AI 出错。通过CatAttack方法测试后,DeepSeek V3的错误率提升了超过300%,表明推理模型在面对看似无关的信息时仍易受影响。
研究员们发现,一句关于猫咪有趣的事实能轻易让AI 出错。通过CatAttack方法测试后,DeepSeek V3的错误率提升了超过300%,表明推理模型在面对看似无关的信息时仍易受影响。
研究人员对1899个开源MCP服务器进行了安全扫描,发现7.2%的项目泄露密钥或违反访问规则,5.5%遭受工具投毒攻击。研究显示MCP虽然表现出色但存在深层次问题和漏洞模式,包括凭证暴露和工具投毒威胁等,揭示了生态系统中仍需警惕的安全风险。