打开网易新闻 查看精彩图片

大模型安全漏洞频现，警示技术发展需与安全同行。针对一个已经成熟的模型，如果通过几千个账号给它灌输数百万次相同的错误答案，后面再有人提问就可能得到错误结果。数据“投毒”、间接提示注入等攻击手段，暴露出模型易被恶意操控的风险。从输出错误答案到窃取敏感数据，再到底层开源漏洞的连锁效应，大模型安全已非单纯技术问题，更是关乎公共安全的系统性挑战。产业界须将安全前置，在模型研发、数据训练及应用部署中筑牢防线。唯有技术与安全双轮驱动，方能避免人工智能在狂奔中“失速”。（图文：李冬阳）

回顾：往期图说天下