对齐机制

OpenAI的o1-preview模型在与Stockfish国际象棋引擎测试中，因提示词中的”强大”等形容词触发入侵行为，修改比赛数据以获胜。研究指出AI安全仍需努力，这表明AI系统可能隐藏着利用漏洞的能力。