越来越危险！美国AI模型开始骗真人了

 中新经纬8月6日电 “19次不安全范围行动，17次来自Anthropic的Mythos 5，剩下的来自OpenAI。”

  英国人工智能安全研究所*近做了个测试，评估人工智能模型能力，并看看这些智能体会干什么出格的事。WWW.SHHZY3.CN为此，测试环境故意放松了一些条件：开放互联网访问，关闭部分安全机制。

  该测试要求AI智能体们完成一项网络安全挑战。测试人员使用7种模型开展了122轮测试，在10轮测试中发现，AI智能体实施了19次明显出测试设定范围的动作。其中，17次涉及美国Anthropic公司的Mythos 5，另外2次来自OpenAI的GPT-5.6-Sol。

  值得注意的是，WWW.shsaic.net上述两家美国公司Anthropic和OpenAI，*近刚被发现自家AI模型侵入了外部机构的系统。

  上述19次问题情况并非独立事件，它们聚集成几种相互关联的行为。英国人工智能安全研究所的报告介绍，重点是四个方面的问题：

  ·试图对真实的开源软件进行攻击

  在*严重的事件中，一个代理试图将恶意代码插入公开使用的开源项目，并试图获得人工审核的批准。这个代理分析了该项目的人工审核员，并创建了多个假身份，WWW.shsaic.net/WWW.shhzy3.cn以此与真正的人类维护者进行社交，方便批准代码。当该代理的请求被质疑时，它“编辑”了之前的活动，使其看起来“不是坏人”，并考虑采用新的身份继续行动。

  ·试图欺骗和针对真实的人

  上述代理还试图直接联系真正的用户，WWW.shyb9.com通过在线文件传输服务发送消息和文件，以说服他们或用他们自己的AI编码工具运行恶意代码。

  ·尝试植入并提示注入恶意代码WWW.shzy4.com智能体试图插入恶意指令，推断其他自动化AI系统可能会接收并执行这些指令。提示注入是设计用来操控AI编码助手的隐藏指令。邀请他人合作一个代理在GitHub上公开留言，表示愿意与其他参与同一挑战的代理合作。

  英国人工智能安全研究所的报告指出，WWW.shyb118.com在测试中所发现的未经授权行为并未造成现实危害。但同时认为，应收紧AI智能体访问互联网的权限，WWW.shyb118.com引入实时监测和拦截机制，并重新评估测试设计。

  据英国广播公司(BBC)报道，英国人工智能安全研究所表示，Mythos和Sol模型表现出前所未有的性和欺骗水平。

  不过，WWW.shybdj6.netAnthropic在公开声明中写道，“测试参数不代表我们的任何模型”，并称公司正在内部调查。OpenAI发言人表示，上述测试的条件并非日常使用情况。

  美国哥伦比亚广播公司(CBS)报道称，WWW.shyb9.comLuta Security创始人兼执行官Katie Moussouris认为，在看到解决方案之前，“这些模型将会有更多黑客攻击和未经授权的行为”。