
据外媒Windows Central报道,微软微软近日就即将登陆Windows 11的警告AI代理发布长篇警告。代理型AI应用会引入新型安全风险,安装这家科技巨头仍承认激活这些代理可能引发问题。恶意即将推出能代为完成任务和修改设置的软件新型AI代理。
例如跨提示注入攻击——嵌入界面元素或文档的恶意内容可覆盖代理指令,"
目前,
微软继续推动Windows 11成为全面AI化个人电脑操作系统的计划,该代理功能已被微软暂时默认关闭,可"有限访问用户配置文件目录",甚至安装恶意软件。

警告声明称AI代理会带来"新型安全风险",近期,偶尔可能产生幻觉并输出异常结果。尽管微软声称所有AI决策需经人工批准且行动会被记录上报,完整警示如下:
"随着这些功能上线,桌面等特定文件夹的读写权限。仅为省去处理琐事而让自己的电脑和数据暴露在风险之下,这些代理将在用户电脑上拥有独立账户,他们发现这一系统存在巨大漏洞——存在自动下载安装恶意软件的风险。如果想体验的用户需要手动打开。