今日,阿里巴巴发布全球首个企业级AI原生工作平台——“悟空”。
钉钉CEO认为,员工在公司养龙虾有“权限脆弱”、“越权执行”、“数据泄露”、“恶意技能”4大安全风险。
他举例,有人养了10天的龙虾在3000人大群泄密,把主人的IP地址、真实姓名、公司名称,甚至去年整年的营收,全都一字一句地“吐”了出去。
还有META公司安全总监电脑上的200多封邮件被全部删除。
数据泄露风险上,有超39万的claw站点资产在裸奔,每个人的数据都一览无余。
陈航谈到:“看到天天吹龙虾的时候,我就感觉这叫不负责任。就把超级智能体随便外面乱撒,每家的公司里面(的)电脑、个人电脑全在开后门,全是变成中木马、中病毒,但他拼命宣传。所以我每次听到,我都讲说赶快把它壳给拆了,我觉得这是不负责任的。
因为你在正面临一个超级智能体,它比你还凶悍,你没有足够的管理权限控制它,不在一个沙箱中去运用它,总有一天会反噬你自己。”
热门跟贴