我们生活在一个人工智能可以为你做任何事情的时代，但围绕这一整个问题的最大疑问之一是你是否应该真的让它这样做。即使不考虑那些令人信服的道德论点，人工智能仍然处于初期阶段，完全可能犯下人类不会允许的错误。这就是为什么你会在《堡垒之夜》里看到人工智能聊天机器人说脏话，甚至人工智能造成的损害可能大于好处。

这就是为什么当微软说它正在为Windows 11制作可以访问你电脑文件并代表你执行操作的人工智能代理时，你最好确保自己清楚潜在的后果是什么。根据微软自己的说法，其中一个后果可能是人工智能代理在你毫不知情的情况下就会在你的电脑上安装恶意软件。

微软警告：Windows 11 人工智能代理可能会损坏您的电脑

微软警告：Windows 11 人工智能代理可能会损坏您的电脑

微软最近发布了一份较长的警告，内容是关于它计划很快在 Windows 11 中添加的实验性代理功能。在这份警告中，微软指出，如果有人有意，这些代理可能会被篡改，进而提取并分享您的数据，或在未经您许可的情况下安装恶意软件。

“随着这些能力的引入，人工智能模型在其行为方面仍面临功能限制，并且偶尔可能会出现幻觉和意外输出，”警告指出。“此外，代理型人工智能应用带来了新的安全风险，比如跨提示注入（XPIA），其中嵌入在用户界面元素或文档中的恶意内容可能会覆盖代理指令，导致意外行为，比如数据外泄或恶意软件的安装。”

这确实是一个让人感到害怕的前景，这就是为什么这些代理目前默认是关闭的。如果你想试试它们，就得手动激活。不过我觉得，光是为了让一个AI代理帮我处理一些琐事，就冒着让我的电脑和数据面临风险，实在不划算。将来它们可能会默认开启，但现在，除非你自己去冒险，否则你的数据是安全的。