将越狱问题转换为求解逻辑推理题:「滥用」推理能力让LLM实现自我越狱

大语言模型在推理任务中表现出色,但可能被恶意利用。来自北航等团队提出RACE框架,通过推理增强对话攻击模型的安全对齐机制。研究揭示了潜在威胁,并提出了防御策略。

ICLR 2025|AI不语,只是一味根据人类意图推理3D空间定位

AIxiv专栏发布了一篇关于3D意图定位的研究文章,该技术能够根据用户的意图在3D场景中检测目标物体,而非仅依赖于明确的物体描述。通过引入GPT-4生成意图文本,并采用多模态融合和自适应学习方法,实现了优于现有模型的效果。