网传DeepSeek R1更容易被越狱?这有个入选顶会的防御框架SelfDefend

香港科技大学等团队提出SelfDefend框架,让大语言模型首次具备自我保护能力,有效抵御越狱攻击。该框架通过创建并行的影子LLM来检测潜在有害查询,并在不影响正常响应的情况下提升安全性。

s1推理模型=数据筛选+推理预算强制,也提醒大家不要进入思维误区

MLNLP社区介绍其愿景是促进国内外自然语言处理及相关领域的交流合作。近日,李飞飞团队的《s1: Simple test-time scaling》引起广泛关注。s1主要通过数据筛选与推理预算强制提升模型性能。核心贡献包括开源训练数据及改进效果验证方法。

ICLR 2025 高分论文!何恺明和刘壮提出:数据集偏差的十年之战

MIT副教授何恺明的新研究揭示,尽管过去十多年里业界为构建更大、更多样化数据集做了努力,但现代神经网络似乎越来越善于‘识破’并利用这些数据集中潜藏的偏差。此发现引发对消除数据集偏差是否已取得胜利的质疑。