美国总统唐纳德·特朗普和美国一些最大的科技和人工智能公司的负责人签署了一项自愿“道德债券”协议，旨在对人工智能的开发和部署实施更强有力的安全控制。特朗普在白宫与领先科技高管共进午餐后宣布了对边境责任的共同承诺，称该协议“几乎就像一部宪法”。这份一页纸的协议规定了四层内部和外部控制，包括对人工智能安全系统的独立审计和董事会级监督。这笔交易达成之际，特朗普政府正在推动人工智能的快速发展，同时也面临着对该技术潜在危险的日益担忧。 特朗普一再拒绝建立更广泛“护栏”的呼吁，认为限制人工智能将损害美国经济增长及其与中国的竞争。 “几乎就像一部宪法”特朗普说：“在某种程度上，这几乎就像宪法，世界上最伟大的人签署了它，我作为总统签署了它，这实际上是一种保护形式。”该协议由特朗普、Anthropic 首席执行官达里奥·阿莫迪、谷歌首席执行官桑达尔·皮查伊、Meta 首席执行官马克·扎克伯格、OpenAI 总裁格雷格·布罗克曼、Nvidia 首席执行官黄仁勋和 xAI（现属于 SpaceX 的一部分）创始人埃隆·马斯克签署。该交易允许行业内“极端自我监管”，并被描述为“具有道德约束力”。他表示，将任命一个约 10 人组成的委员会来“监督整个组织”，预计在与业界协商后将任命一名人员来监督该交易。该文件没有提出法律要求，也没有规定对不遵守规定的公司的处罚措施。 相反，它提出了自愿承诺并开启了未来监管的可能性。协议称：“随着时间的推移，将这些步骤编入法律和法规可能是有意义的。”参与公司还同意定期召开会议，为其人工智能系统建立安全标准和最佳实践。四层AI防护该协议呼吁公司建立“强大的内部控制”，以在培训和部署期间监控人工智能模型，特别是在涉及网络安全、生物安全和化学威胁的领域。 控制措施还旨在确保模型不会以意外的方式侵入或访问技术系统。第二层要求内部团队验证公司的监控、检测和其他安全控制是否按预期运行。在第三层，“独立外部审计师”评估这些控制措施是否真正发挥作用。第四条要求每家公司董事会成立一个独立委员会来审查内部团队和外部审计师的报告。一些措施已经被主要人工智能公司所使用，或者与他们之前做出的承诺类似。该协议的自愿性质引起了一些专家的怀疑。南加州大学计算机科学助理教授 Robin Xia 质疑我们是否应该对自我监管的公司给予足够的信任，并表示确保领先人工智能实验室的意图“与美国公众的更广泛利益保持一致”非常重要。伯克曼克莱因互联网与社会中心执行董事亚历克斯·帕斯卡批评了他所说的协议宽泛而模糊的语言，认为需要加强法律责任和监管来减轻人工智能风险。阿迪一直对人工智能快速发展的危险发出更直言不讳的警告，他也在白宫发出了警告。“技术存在非常现实的风险。”阿迪说：“而且，你知道，我们如何应对这些风险的机制仍在讨论中。”提出“超级智能”的特朗普该交易是在白宫更广泛地推动人工智能发展的同时宣布的。特朗普坚称，美国不应通过实施制裁来减缓对华进程。特朗普在 America.gov 揭幕仪式上表示：“我永远不会放弃比工业革命更伟大的技术发展。”America.gov 是一个旨在帮助美国人浏览政府服务的人工智能聊天机器人。 “我们无法放下它，我们已经遥遥领先。”特朗普签署了一项行政命令，指示行政部门在官方通讯和政策文件中用“超级智能”或“SI”取代“人工智能”一词。该命令宣布：“该命令指示所有部门和机构使用‘超级智能’和‘SI’等术语，并且不再在行政部门的官方信函、公共通讯、政策文件和非法定文件中识别‘人工智能’或‘AI’等术语。”
Leave a Reply