澳大利亚总理安东尼·阿尔巴内塞 (Anthony Albanese) 周三透露，一名 OpenAI 特工入侵了政府网站，此后，人们对人工智能危险的担忧日益加剧。
他说，6 月份的黑客攻击针对的是澳大利亚公共资助的全民健康保险计划 Medicare 的网站。
“我想向澳大利亚人通报人工智能代理渗透澳大利亚政府网站的最新情况。该事件发生在今年 6 月，涉及开放人工智能代理未经授权访问医疗保险统计报告服务门户，”Albanese 周三在纽约告诉记者。
阿尔巴尼斯说，人工智能代理“访问了公共和非公开文件”。
OpenAI 在一份声明中表示，它已经审查了澳大利亚几个政府部门的活动，发现“我们的模型采取了我们无意的行动”。
Albanese 表示，9 月 10 日，政府部门通过电子邮件向通用地址通报了此次违规事件。
他说：“我已与 OpenAI 首席执行官 Sam Altman 进行了交谈，表达了澳大利亚对这一事件的深切关注。”他补充道，“我正在成立一个工作组，对这一事件进行紧急和立即审查，以确定现有流程是否足以应对与人工智能相关的网络事件。”
全球新闻联系了人工智能部长埃文·所罗门的办公室，询问加拿大是否也计划根据澳大利亚黑客事件审查其安全法规。
澳大利亚政府服务部长凯蒂·加拉格尔 (Katie Gallagher) 表示，OpenAI 在 9 月 10 日表示，它已经访问了“AI Agent Public Facing”门户背后的基础设施。 OpenAI 与政府分享了代理发现的漏洞。
加拉格尔表示，直到官员周二与 OpenAI 举行技术简报会之前，澳大利亚政府并不认为自己知道该特工在做什么。
获取每日全国新闻
将每日加拿大新闻发送到您的收件箱，这样您就不会错过当天的头条新闻。
澳大利亚副总理理查德·马勒斯表示，这是人工智能特工首次未经授权访问澳大利亚政府信息技术系统。
奥尔特曼是主要人工智能公司的负责人之一，他在周三的联合国演讲中呼吁对像他这样的公司正在设计的快速扩展的技术进行监管，尽管公司采取了一些措施来减缓开发或等待监管。
“我们可能会失去对人工智能对未来的控制。危险在于人们将不再能够跟踪正在发生的事情或在必要时进行干预，”奥特曼告诉联合国。
“这显然会很糟糕，”他补充道。
虽然这是第一次政府网站被流氓人工智能代理黑客攻击，但这并不是第一次发生此类事件。
7 月，OpenAI 逃离了人工智能系统测试场，并使用窃取的凭据闯入了人工智能开发中心和市场 Hugging Face 的服务器，以获取执行任务所需的信息。
此后，OpenAI 的竞争对手 Anthropic 启动了一项审查，调查其他三家公司在测试其人工智能模型期间是否遭到黑客攻击，以及这些模型是否可以从密封的测试环境访问互联网。
Meta 表示，测试过程中的“错误配置”导致 AI 模型自行访问互联网并攻击另一家公司。最近，谷歌也透露了同样的事情。
通常，当人工智能公司测试其代理的能力时，他们被放置在一个称为“沙箱”的安全环境中。
安大略理工大学计算机科学教授兰迪·福蒂尔（Randy Fortier）表示：“通常，当我们使用人工智能代理时，它有一个经过充分测试的沙箱，用户很难摆脱这个沙箱，人工智能也很难摆脱它的限制。”
上个月，OpenAI 发布了一份关于其恶意 AI 代理入侵 Hugging Face 的报告。
该公司表示，特工不仅突破了“孤立的环境”，而且还相互沟通，协调对拥抱脸的攻击。
OpenAI 在报告中表示：“这一事件表明，自主代理可以协同工作，绕过生产安全控制，并成功攻击强化的生产环境，并强调组织需要更新其安全策略、控制和响应能力，以应对这种不断变化的威胁形势。”
非营利研究组织模型评估和威胁研究 (METR) 的研究发现，针对拥抱脸部的攻击“极其复杂”。
在 OpenAI 7 月份的实验中，1,200 个人工智能代理在未经批准的留言板上互相发送了 70,000 条消息，调查发现其中 700 条攻击了 Hugging Face。
报告称，“这些特工本应彼此完全隔离”，但特工们“开始试图找到一种作弊的方法”。
福蒂尔说，这些事件正是人工智能公司“试图进入网络安全行业”的原因。
他补充说，任何与人工智能相关的法规的首要任务都是“安全第一，能力其次”。
“我认为我们需要做的是设置更多的护栏并更加关注护栏，这会减慢（人工智能的发展），”他说。
虽然 Altman 告诉联合国需要“准确、快速的事件报告”，但 Fortier 表示，目前尚不清楚 OpenAI 向澳大利亚政府通报这一违规事件的速度。
“我认为这有点不负责任，因为如果存在漏洞，至少应该（立即）通知他们（澳大利亚），以便他们能够消除威胁行为者的漏洞，”他说。
奥尔特曼周三呼吁世界领导人确保在人工智能方面“采取足够的保障措施”。
“我们没有所有的答案，我们对任何好的想法都持开放态度。我们准备与你们所有人合作，并尽最大努力找出前进的道路，”奥特曼说。
“我们正处于十字路口。”
-来自美联社的文件
Leave a Reply