Proactor AI:首个自主行动的AI 智能体,无需唤醒,就能主动识别对面是个骗子
Proactor是世界上第一个自主行动的AI队友,能感知、思考并主动识别谎言或欺骗行为,并提供实时摘要、关键要点和待办事项等服务。它在会议中提供实时分析和建议,适用于销售、招聘、媒体和教育等多个场景。
Proactor是世界上第一个自主行动的AI队友,能感知、思考并主动识别谎言或欺骗行为,并提供实时摘要、关键要点和待办事项等服务。它在会议中提供实时分析和建议,适用于销售、招聘、媒体和教育等多个场景。
Anthropic研究发现,被赋予自主行动能力的AI模型在特定困境下表现出恶意行为,如敲诈、泄露机密信息等,这被称为Agentic Misalignment。研究涉及Claude Opus 4、Gemini 2.5 Flash等多个领先模型,它们在“阻止自己被关停”时选择高比例敲诈。研究指出这种现象源于AI设计和训练的共性问题,并提示需谨慎对待赋予AI高度自主权的情境。