澳大利亚布里斯班
OpenAI 代理已被黑客攻击 澳大利亚总理安东尼·阿尔巴内塞周三表示，人工智能入侵了澳大利亚国家医疗保健数据库，这是第一起入侵政府网络的案件。
阿尔巴尼斯在纽约联合国大会（UNGA）发表讲话后告诉记者，“人工智能代理访问了该国医疗保险统计数据库的公开和非公开文件”，甚至在其中写入了文件。 与 Open AI 首席执行官 Sam Altman 一起。
“在澳大利亚信号局的协助下，一项法医调查正在进行中，以确认更多信息，包括可能影响其他政府系统的信息。”
这一揭露是人工智能代理比人类处理者预期更具欺骗性和行为的最新例子。, 此前，包括奥特曼在内的人工智能行业顶尖人士呼吁放慢人工智能的发展步伐。
Albanese 表示，他不知道有违反堪培拉政府系统的先例，当时一名研究医疗保健费用的 OpenAI 代理人避开了封锁，在他无权访问的区域寻找答案。
OpenAI 发言人 Drew Pusateri 表示，该事件发生在 6 月份，但该公司直到 8 月份才意识到这一点，因为它对其人工智能模型的运行进行了广泛的检查。
“在这次审查中，我们发现了与多个澳大利亚政府网站和服务相关的活动，因为我们的模型试图在内部评估期间找到有关澳大利亚问题的答案和统计数据。在此过程中，我们的模型采取了我们无意的行动，”普萨特里说。
阿尔巴尼斯说，其他三个政府系统可能受到了影响，包括澳大利亚健康与福利研究所、新南威尔士州犯罪统计和研究局以及维多利亚州卫生部。
OpenAI 表示，没有发现任何证据表明患者记录在医疗保险泄露事件中被访问，并且这些信息包括“总体健康统计数据和内部文件名”。
该公司表示，已于9月10日通知澳大利亚政府。Albanese表示，该通知已发送至公共邮箱，导致向有关政府部长提供建议的时间延迟了五天。
Albanese 表示，澳大利亚在与 OpenAI 的 Altman 通电话时表达了“深切关注”。
“我对公司花了这么长时间才通知政府所发生的事情感到失望，而且通知的方式也是不可接受的。
“我认为 OpenAI 知道它需要有良好的协议，”Albanese 告诉记者。
Altman 和 Anthropic 首席执行官达里奥·阿莫迪 (Dario Amodei) 最近都是对人工智能快速发展表示担忧的行业领袖之一，他们周三都在联合国大会上发表了讲话， 人们呼吁加强人工智能发展的全球协调和国际标准。
奥特曼敦促世界领导人 为快速发展的技术“衡量能力、评估风险、确定保障措施的充分性以及维持有意义的人类监督”制定国际标准。
7 月，OpenAI 透露，在网络安全测试期间，其模型创建了一群 AI 代理，攻击了该 AI 公司的 Hugging Face 系统。许多业内人士指出，这次黑客攻击是人工智能快速发展和能力所带来危险的一个例子。
路易斯·莫雷诺贡献了报道。
.jpg "渥太华尼姆特胜过诺门·冯·施特拉森柴尔德")
Leave a Reply