NeurIPS 2024 利用概念激活向量破解大模型的安全对齐,人大&港科大揭示LLM重要安全风险漏洞
随着大语言模型能力的快速提升,其潜在的安全隐患愈发显著。尽管开发者进行了大量安全对齐工作,以避免模型被用于恶意 … 阅读更多
随着大语言模型能力的快速提升,其潜在的安全隐患愈发显著。尽管开发者进行了大量安全对齐工作,以避免模型被用于恶意 … 阅读更多
十一月科研实验忙?厚德云助你节省算力资源和精力。注册教育优惠领88元代金券,搭配5折券开卡;学术加速配置轻松搞定;稳定可靠的服务响应迅速,支持Windows镜像。此外还有免费AI课程、在线训练模型及比赛机会等福利。
本文介绍了来自北京大学和华为的研究团队对量化技术在大语言模型中的应用及其影响进行了研究。他们发现量化会显著降低大模型的基本数学能力,尤其是在处理算术任务时表现更差。研究者提出了理论模型来解释这一现象,并通过实验验证了其结果。