谷歌、微软、英伟达、OpenAI 和 Anthropic 等顶尖AI公司承诺负责任地开发人工智能

这七家公司包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI，它们都同意了政府的一系列要求。以解决人工智能带来的许多风险。这些承诺包括加大网络安全投资、开展歧视研究，并推出一个新的水印系统，让用户知晓内容是否由 AI 生成。

这些公司是自愿签署这些协议的，所以目前如果它们未能遵守承诺，暂时不会有后果。许多承诺预计不会在周五立即实施，但这些公司预计将立即着手实施。

上周四，白宫官员在与记者的通话中表示，拜登政府目前正在制定一项行政命令，以解决人工智能带来的一些风险。该官员拒绝提供具体细节，但表示行动可能会在联邦机构和部门中展开。

在过去几个月里，拜登政府已经与科技高管以及劳工和民权领袖举行会谈，讨论人工智能的问题。今年 5 月，白宫宣布为开发人工智能技术的公司提供更多资金和政策指导，其中包括向国家科学基金会拨款 1.4 亿美元，用于推出七个新的国家 AI 研究所。谷歌、微软、英伟达、OpenAI 和其他公司还同意允许其语言模型在今年的 Def Con 会议上进行公开评估。

此次周五的公告是继纽约州民主党参议院多数党领袖 Chuck Schumer 近一个月前发表计划，旨在监管技术而不扼杀创新之后的举措。该计划名为「SAFE（Security， Accountability。 Foundations， Explain）Framework」，没有提出具体的政策要求，但呼吁立法者共同努力，制定规则来解决人工智能可能对国家安全、就业和信息传播造成的潜在危害。

Schumer 上个月在对计划的评述中说：「人工智能可能是我们最令人瞩目的创新，一种可以引发新的技术进步、科学发现和产业实力的力量。」

Schumer 的计划还包括为参议员举行一系列有关技术的简报。下周，他将主持第三次简报。前两次会议介绍了技术，并介绍了它对国家安全的风险。

自 Schumer 发表计划以来，两党议员已提出了监管这项技术的立法。一些限制国防部使用生成型人工智能的新规定已被纳入今年必须通过的《国防授权法案》。据 CNN 报道，参议员预计将在下周投票通过该法案。

至于白宫峰会，来自这七家公司的代表预计将于周五在白宫进行承诺的实质签署。白宫还没有公布活动的具体时间。