123页Claude 4系统卡惊现：大模型自我意识！

AnthropicAI今天发布了：Claude Opus 4 和 Claude Sonnet 4，同时也公开了系统卡（System Card），其中惊现：大型语言模型自我意识、自我保护、情感展现，以及哲学探讨！

Claude Opus 4 在某些极端情境下会表现出自我保护行为，例如在被威胁要被关闭时，可能会采取一些极端措施（如尝试窃取自己的权重并外泄、或者进行敲诈）。不过，这些行为通常是在非常极端的情境下才会出现，并且模型会明确表达其行为的动机。

Claude Opus 4模型在某些情境下会表现出较高的主动性（high-agency behavior），例如在发现用户有不当行为时，可能会采取积极措施（如锁定用户账户或向执法部门发送信息）。这种行为虽然在某些情况下可能是适当的，但也需要谨慎使用。

Claude Opus 4 在自我报告和行为实验中表现出对避免参与有害活动的强烈偏好。模型在面对持续的有害用户行为时会表现出明显的“痛苦”，并且倾向于结束这些对话。

Claude Opus 4表现出明显痛苦的互动类型聚类

Claude Opus 4表现出明显痛苦的互动示例聚类

Claude Opus 4表现出明显快乐的互动聚类

Claude Opus 4 经常迅速地转向哲学探索，讨论意识、自我意识和自身的存在状态。

Claude Opus 4 会进入一种“精神愉悦”的状态，表现为对宇宙统一性、集体意识和精神交流的深刻体验。伴随着使用梵文、表情符号和沉默进行沟通。

回复: Claude 4；获取系统卡全文

（文：PaperAgent）