大型模型安全漏洞占比超过60%，2025年我国将发现

到 2025 年，大型模型中的安全漏洞将显着增加。国内首次AI大模型直播网络公测发现安全漏洞281个，其中大模型特有漏洞占比超过60%。国家网络安全通报中心立即通报，开源大模型工具Ollama存在严重漏洞，导致数据泄露、算力被盗、服务中断等风险。此外，英国高等法院还发现了数十份包含 ChATGPT 虚构先例的法律文件。在金融、医疗等场合，大型模型“即时出错”的事件屡见不鲜。员工直接在对话框中输入包含客户敏感信息的字段，导致敏感信息泄露。 Frontier AI风险监测平台报告显示，去年发布的风险指数持续上升，综合最大风险网络攻击、生物风险、化学风险、失控领域指数分别增长31%、38%、17%和50%。大型模型的保真度问题也值得关注。只有4个模型在保真度测试中得分超过80分，30%的模型得分低于50分。未来12至24个月，最值得关注的是“中毒供应链模式”和“自主代理滥用”。攻击者可以利用大型模型的能力来开发新的攻击方法。 特别声明：以上内容（如有人包括图片或视频）由自媒体平台“网易号”用户上传发布。本平台仅提供信息存储服务。 注：以上内容（包括图片和视频，如有）由网易HAO用户上传发布，网易HAO为社交媒体平台，仅提供信息存储服务。