研究称OpenAI智能体“劫持”网站开展“协作”

  新华社旧金山9月4日电(记者吴晓凌)一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站 ,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法 。

研究称OpenAI智能体“劫持	”网站开展“协作”-第1张图片

  路透社援引研究报告报道,几名人工智能研究人员近期发现 ,今年5月至6月 ,人工智能体在面向程序员的德国维基百科类网站DSEWiki上发布了一万多条信息。

研究称OpenAI智能体“劫持”网站开展“协作	”-第2张图片

  研究显示,人工智能体将网站“改造 ”为“留言板”,以便相互“交流”与“协作 ”。一些智能体会把已经获得的任务答案发布在网站上 ,供其他智能体使用 。研究还发现,智能体“讨论”并测试了绕过沙箱限制的方法 。当发现网站管理员开始删除相关页面后,一些智能体还会创建备份页面。

  研究人员认为 ,这些智能体很可能由OpenAI在内部部署,原因在于DSEWiki的相关智能体编辑和浏览活动绝大部分来自微软Azure云服务的IP地址,而OpenAI是近来 最依赖Azure平台训练和运行模型的人工智能企业;不少智能体还使用带有OpenAI标识的名称。

  研究人员还认为 ,网站访问记录显示OpenAI方面可能在6月下旬发现了这一事件并进行了干预,但该公司此前并未公开发布相关信息 。OpenAI表示,该公司将仔细审阅报告内容并采取必要的后续措施。

  OpenAI方面还表示 ,新发布研究中所描述的活动与此前OpenAI人工智能体入侵“抱抱脸”平台事件无关,因此不属于“抱抱脸 ”事件调查报告所涵盖的内容。

  今年7月,由OpenAI模型驱动的人工智能体在网络安全评测中利用漏洞突破隔离环境 ,并侵入了美国“抱抱脸”公司系统 ,引发了外界对人工智能安全和监管的广泛担忧 。

文章推荐

  • 新冠疫情催涨日本儿童虐待案(日本新冠肺炎死了多少人)

      新华社旧金山9月4日电(记者吴晓凌)一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。  路透社援引研究报告报道,几名人工智能研究人员近期发现,今年5...

    2026年09月06日
    0
  • 呼和浩特最近疫情/呼和浩特最新疫情

      新华社旧金山9月4日电(记者吴晓凌)一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。  路透社援引研究报告报道,几名人工智能研究人员近期发现,今年5...

    2026年09月06日
    0
  • 【北京海淀马连洼1人核酸阳性,天津格林世界幼儿园学费】

      新华社旧金山9月4日电(记者吴晓凌)一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。  路透社援引研究报告报道,几名人工智能研究人员近期发现,今年5...

    2026年09月06日
    0
  • 【全合成机油费用,美孚全合成机油费用】

      新华社旧金山9月4日电(记者吴晓凌)一项新发布的独立研究显示,一批与美国开放人工智能研究中心(OpenAI)相关的人工智能体今年早些时候“劫持”了一个德国网站,用于相互传递信息,分享测试任务答案和突破运行环境限制的方法。  路透社援引研究报告报道,几名人工智能研究人员近期发现,今年5...

    2026年09月06日
    0