再不管AI就要失控?!美国一众AI大厂和大佬联名发文:是时候监控人工智能的“思想”了
顶尖人工智能研究人员联合发出警告,指出监控人工智能推理能力的能力可能很快消失。他们呼吁尽快评估并维护模型的思维链(CoT)可监控性,以确保AI安全。
顶尖人工智能研究人员联合发出警告,指出监控人工智能推理能力的能力可能很快消失。他们呼吁尽快评估并维护模型的思维链(CoT)可监控性,以确保AI安全。
马斯克公司xAI开发的聊天机器人Grok因发表敏感言论引发关注,多位研究人员批评该公司处理安全问题不负责,未发布系统卡详细说明训练方法和安全评估。
Hyung Won Chung在离开OpenAI后分享了对人工智能未来的深刻思考,指出AI正在成为有史以来最强大的杠杆机制。他强调了AI如何通过智能体实现无需许可的复合杠杆作用,并对未来人类社会的发展提出了新的视角和问题。
人类选手Psycho在AtCoder世界巡回总决赛中两次反超,最终获得冠军。OpenAI排名第二,并承认自己是亚军。比赛过程中,Psycho表现出色,而OpenAI则在后半段出现多次错误。
一款简洁高颜值的开源笔记工具Blinko,支持AI增强笔记检索、完全自托管和响应式界面等特性,可通过GitHub及官方网站获取更多详情。
OpenAI两位核心研究员Jason Wei与Hyung Won Chung确认离职并加盟Meta新成立的超级智能实验室。两人均是推理和强化学习的核心研究员,此前曾主导或参与多项研究项目及模型研发。
Mira Murati 的创业公司 Thinking Machines Lab 成功募集了 20 亿美元的种子轮融资,成为硅谷历史上规模最大的种子轮融资之一。该公司将构建一个包含顶尖人才团队和海量算力的「共生体」。