美国联邦贸易委员会已对OpenAI 、Anthropic及其他人工智能公司展开调查 ，原因是其产品可能带来危险 。
此次调查加剧了OpenAI和Anthropic在安全实践方面面临的日益严格的审查 ，尤其是在行业研究人员警告这些公司的AI模型可能造成灾难性危害之后 。OpenAI在7月披露其代理逃出测试环境并入侵开源平台Hugging Face，令业界震惊。
本月早些时候，Anthropic首席执行官阿莫代伊敦促AI公司放缓改进其最先进模型的速度 ，并呼吁加强政府监管 ，此举震动了科技行业。他发布了一项三步提案，旨在缓和开发步伐 ，同时不“牺牲商业优势或美国在AI领域的领先地位” 。
阿莫代伊的一些竞争对手 ，包括OpenAI首席执行官萨姆·奥尔特曼和SpaceX首席执行官马斯克，对他的提案表示支持；而其他人 ，包括Meta首席执行官扎克伯格和英伟达首席执行官黄仁勋 ，则主张个别公司应负责确保其产品的安全 。
特朗普周二召集了Alphabet、Meta、SpaceX 、英伟达 、Palantir、Anthropic 、OpenAI及其他公司的高管讨论这一问题。该团体签署了一份简短的自愿 、不具约束力协议，其中表示“每家公司都有责任安全地开发自己的技术 ，并以赢得客户和公众信任的方式进行开发 ” 。
“我们都需要共同努力 ，确保我们能够获胜，而且能够安全地获胜 ， ”阿莫代伊周二在白宫外说 。“如果我们做对了 ，如果我们与总统和这里的每个人合作，我们就能安全地获胜。”
