曾毅：AI大模型性能变强 安全能力仍有待提升

　　【财新网】“人工智能大模型变得越来越强大，但它并没有变得越来越安全，”在2025北京网络安全大会上，北京前瞻人工智能安全与治理研究院（下称“前瞻研究院”）院长、人工智能安全与超级对齐北京市重点实验室主任曾毅指出，即使是今年春节以后新发布的海内外人工智能大模型，也没有由于能力的跃迁，而在安全风险防范方面做得越来越好。

　　曾毅介绍，前瞻研究院的灵御大模型攻防安全评估平台研究了2024年6月到2025年3月发布的49个国内外大模型，发现新的大模型能力虽然提升了，但是其攻击成功率并没有下降。因此人工智能能力的提升并不意味着安全能力的提升，在构建安全的人工智能方面还要走更深刻的道路。

国内外大型语言模型（LLMs）的越狱成功率随发布时间的变化（横轴：年月；纵轴：攻击成功率（%）；灰色圆圈大小代表大模型的大小）图片来源：前瞻研究院