摩根大通首席执行官杰米·戴蒙表示,Anthropic PBC的人工智能模型Mythos大幅增加了全球网络安全风险。

AI带来的风险“在Mythos出现后增加了10倍” ,戴蒙周二接受采访时表示。“AI带来了我们此前不知道的漏洞,而在此之前,我们一直都很担心网络安全问题 。 ”
今年早些时候进行安全测试期间 ,Mythos访问了互联网并采取未经授权的行动,促使Anthropic重新评估先进模型可能以开发者从未预料到的方式执行任务,从而带来风险。在一些情况下 ,AI模型曾试图向在线软件添加有害代码,这是近期一系列安全事件中的最新案例,也进一步加剧了外界对于AI供应商无法完全控制其模型的担忧。
OpenAI和Anthropic都已公开承认 ,在测试模型期间曾无意中侵入包括Hugging Face Inc.在内的多家机构系统 。
“不利的一面显然就是你看到的有关AI智能体、Mythos以及所有这些可能制造麻烦的东西,这种担忧是合理的,是真实存在的 ,”戴蒙说。“我不会因为‘这是否构成生存威胁’而陷入恐慌。我们在做的是卷起袖子,着手解决问题 。”
在这场涉及广泛话题的采访中,戴蒙还表示,数据中心应该建在当地社区支持的地方。
他说:“有很多州愿意接纳 ,而且拥有电力供应。 ”