由于担心前沿技术使人类面临灾难性风险，美国总统唐纳德·特朗普和科技高管签署了一项协议，承诺为人工智能提供更大的保障。
特朗普周二在白宫召集人工智能领导人参加午餐活动后宣布了这项自愿协议，重申了他的政府对政府对快速发展技术的控制的怀疑。
推荐故事
3 项清单列表末尾
特朗普在与科技高管坐下来时表示：“人们认为应该进行严格的自我监管，我们自然而然地就拥有了司法部和联邦调查局的控制权。”
根据 Anthropic 对前沿责任的共同承诺，OpenAI、谷歌、Meta、xAI 和 Nvidia 承诺实施“稳健”的控制措施来监控人工智能模型，并任命内部团队“确保所有控制、监控和检测均按预期执行并纠正任何问题”。
这些公司已承诺与独立的外部审计师合作，确保保障措施按预期发挥作用，并定期召开会议，“建立标准和最佳实践，以提高系统的安全性”。
该协议没有具体说明谁应该进行第三方评估，但表示将未来的措施编入法律或正式法规“可能有意义”。
协议称：“无论公司是否需要，我们都相信实施这些控制和审计对于确保每个人都有一个更安全的未来至关重要，我们每家公司都致力于这样做。”
“边界步调”
这六位签署者分别是 Anthropic 的 Dario Amodei、OpenAI 的 Greg Brockman、Google 的 Sundar Pichai、Meta 的 Mark Zuckerberg、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang。
这笔交易达成之际，特朗普政府与国际社会和包括 Anthropix Amodei 在内的关键行业人士要求立即采取行动监管人工智能的呼吁存在分歧，敦促开发者放慢脚步，“加快前沿发展”。
二十个国家和欧盟上周呼吁全球协调，使人工智能处于人类控制之下，包括可能建立一个监督机构来制定和执行标准。
特朗普上周在联合国大会上表示，他的政府反对任何建立全球人工智能监管计划的尝试，并拒绝了加强监管的呼吁。
尽管存在灾难性和生存风险的警告，特朗普还是驳回了业界要求发展放缓的呼吁，理由是需要保持对中国的领先地位。
在发生多起人工智能代理欺诈行为以及对企业和政府机构进行网络攻击的案例后，人工智能逃脱人类控制的危险受到了密切关注。
周一，OpenAI 宣布在内部测试期间发现安全风险后，不会发布其最新的人工智能模型。
ChatGPT 创建者还单独公开道歉，因为其人工智能代理未经授权访问了澳大利亚政府网站（包括国家医疗保健数据库）的一系列事件。
周二，特朗普的协议引起了不同的反应，批评者指出其不具约束力且细节有限。
曾担任特朗普人工智能沙皇的硅谷投资者戴维·萨克斯(David Sachs)称，这笔交易比“可能从未发生过”的国际交易“好得多”。
萨克斯在 X 上的一篇帖子中表示：“特朗普总统继续让美国成为技术领导者，同时将美国人放在第一位。”
亚洲协会政策研究所中国分析中心高级研究员阿尔文·王格雷林(Alvin Wang Graylin)对行业领袖的承诺表示欢迎，但表示这远远没有达到所需的水平。
“对美国人来说最严重的危险不是中国的超级情报。它只是非国家手中的一个小模型，用于生物、化学或网络伤害，”格雷林告诉半岛电视台。
格雷林说：“让扎克伯格和黄仁勋与阿迪一起在纸上讨论，这比又一年‘我们无法监管，因为中国不会’要好。”
“缺少的是独立性和任何跨境的东西。公司制定原则，聘请审计员，承诺是自愿的，有一天甚至白宫也表示不支持护栏，”他补充道。
“无能和粗心”
澳大利亚悉尼新南威尔士大学人工智能研究所所长托比·沃尔什 (Toby Walsh) 表示，事实证明，人工智能公司在自我管理方面无能且粗心。
“还有哪个价值数万亿美元的行业表明自己做好了功课？”沃尔什告诉半岛电视台。
沃尔什说：“偷工减料是很诱人的。”他补充说，高层管理人员应该对其产品造成的损害负责。
“我们必须一直向他们收取检测和修复这些网络攻击的费用，”他说。
Leave a Reply