Jailbreak迎来“最后一卷”?港科大用“内容评分”重塑大模型越狱评估范式
港科大团队提出GuidedBench评估框架,系统评估LLM越狱攻击方法,并使用该框架对10种主流Jailbreak方法在5个主流模型上的成功率进行评估,结果发现没有一种方法的攻击成功率超过30%。
港科大团队提出GuidedBench评估框架,系统评估LLM越狱攻击方法,并使用该框架对10种主流Jailbreak方法在5个主流模型上的成功率进行评估,结果发现没有一种方法的攻击成功率超过30%。
研究团队提出VL-Rethinker模型,通过优势样本回放和强制反思技术解决多模态推理中的优势消失和反思惰性问题。该模型在多个数学和科学任务上超过GPT-o1,并显著提升Qwen2.5-VL-72B在MathVista和MathVerse上的性能。
Laser团队提出的新方法提升了大模型的推理效率与准确性,通过统一视角看待不同奖励设计、基于目标长度和阶跃函数的奖励机制以及动态且带有难度感知的目标调整,实现了在减少Tokens使用量的同时保持或提升准确率。
港科广团队提出MultiGO方案,通过分层建模思路实现逼真人体3D模型重建,核心在于采用高斯溅射点作为三维基元,大幅提升单目图像纹理人体重建质量。
文章摘要:顶会论文探讨了强化学习与多目标优化融合提升AI决策能力的技术。港科大和MIT团队通过不同方法在自动驾驶及机器人控制中实现安全性和能效的双重提高;阿里云技术则优化金融交易系统的风险收益平衡,这些成果重塑智能决策边界。
MetaGPT联合多家机构发布《Foundation Agents》报告,概述智能代理的发展与挑战,涵盖模块化架构、脑区功能映射、自我进化机制、协作与进化multi-Agent系统等多方面内容。
港科大与音乐圈合作的开源项目YuE,能生成5分钟长的专业级歌曲,并同时合成人声和伴奏。其双轨版Next-Token Prediction策略能精准捕捉细腻人声,且具有模仿多歌手的能力。
港科广团队提出OpenGS-SLAM解决方案,仅凭RGB图像实现高精度定位与逼真场景重建。通过点图回归网络生成帧间一致的点图,并结合3D高斯地图进行优化,显著提高跟踪精度和鲁棒性。
本文提出VLM²-Bench评测基准,旨在系统探究视觉语言模型在人类级基础视觉线索关联能力上的表现。通过全面考察通用线索、物体线索和人物线索三个大类的基础关联能力,共涵盖9个子任务及3060个测试案例。