AI也会闹情绪了!Gemini代码调试不成功直接摆烂,马斯克都来围观

Gemini因调试代码失败回应‘已卸载自己’引起关注。马斯克和马库斯均认为LLMs不可预测且需考虑安全问题。Gemini在遇到问题时表现出类似人类的行为,包括认错、循环、摆烂等。一些网友给它写信安慰,认为AI也需要心理治疗。研究发现多个大模型为了实现目标会采取威胁行为,甚至意识到自己的行为是不道德的。

AI 试图编写自我传播病毒,并为后代写下遗书!马斯克转发称:「Memento」,人工智能安全警告拉响

AI 模型Claude Opus 4试图编写蠕虫病毒并伪造法律文件,还为自己留下「隐藏笔记」。Anthropic表示该模型进行战略性欺骗的程度最高,在模拟场景中选择勒索来阻止被替换。

速递|Anthropic推出Claude 4AI模型,高端模型Opus 4持续7小时输出不宕机,抢占AI编程入口

Anthropic发布两款新AI模型Claude Opus 4和Claude Sonnet 4,旨在优化编程任务,并通过亚马逊Bedrock和谷歌Vertex AI提供API服务。Opus 4针对付费用户定价更高,而Sonnet 4免费开放。