OpenAI 表示，由于有报道称人工智能代理出现了失控行为，该公司已暂停对其最新人工智能模型的训练。
在做出停止开发的决定几个小时后，该公司周五透露，它正在审查自今年夏天以来的几起事件，这些事件中，OpenAI 特工在搜索联邦政府网站时，在收集和分发信息时的行为超出了他们的要求。
具体来说，人工智能评估者 Transluce 表示，OpenAI 的特工试图入侵美国教育部网站，但未成功，但 OpenAI 尚未证实这一细节。
OpenAI 在一份声明中表示，“只有当我们相信我们已经采取了额外的保障措施时”，它才会恢复训练，并补充说，随着人工智能的发展和其他问题的出现，它预计会再次“暂停”。
人工智能实验室面临着立法者和技术专家的压力，要求其放慢开发速度，以便特工能够建立屏障，防止自行行动、黑客攻击网站和泄露非公开信息。 OpenAI 和竞争对手 Anthropic 的负责人也呼吁放慢速度。
这是 OpenAI 三个月内第二次停止模型开发。第一次事件发生在 7 月份，此前，针对一家人工智能初创公司拥抱脸部的网络攻击被曝光，这一事件现已臭名昭著，引发了人们对失去行业控制权的担忧。
在本周与中国国家主席习近平的会晤中，唐纳德·特朗普同意分享有关人工智能危险的信息，并协调努力确保其安全。然而，特朗普认为对人工智能的担忧被夸大了，后来暗示他可能不会计划自己的镇压行动。
特朗普在白宫外对记者表示，美国“不会踩刹车”。 “他们想要阻止我们的进步，因为到目前为止我们领先中国，而且我们将保持这种状态。”
最新的 OpenAI 事件似乎与非公开信息的披露无关，但足以提醒与该公司有关的联邦机构。
在教育部事件中，OpenAI 代理发现了 API“开发者密钥”来访问政府数据，但最终只收集了公开信息。
在涉及美国证券交易委员会的另一起案件中，特工发现了所有人都可以免费获取的信息，但却将其发布到互联网上的其他地方，这种行为超出了他们的规定。
美国证券交易委员会发言人库尔特·霍普芬斯佩格周六表示，“没有获取任何非公开信息”。
“没有证据表明我们的网站或数据库受到任何影响，”教育部早些时候表示。
许多其他人工智能公司也披露了其模型成为欺诈和黑客网站的事件。
OpenAI 首席执行官 Sam Altman 周五在社交媒体帖子中表示，抱脸事件是“我们见过的最严重的事件”。
OpenAI 此前分享了另外六份关于人工智能模型中“意外或令人担忧”行为的报告，并引入了一个用于跟踪、探测和披露的框架。
Leave a Reply