联合国人工智能科学小组联合主席 Yoshua Bengio 教授表示，大型科技公司在开发技术时冒着巨大风险，需要紧急改变方向。
本吉奥教授在纽约接受《7.30》采访时表示：“决定什么对人类有利的不应该只是某些首席执行官或某些政府的决定。”他将于连夜在纽约向联合国安理会发表讲话。
这位因其在人工智能领域的开创性工作而获得著名图灵奖的人表示，国际保障协议对于确保人类的未来至关重要。
“应对这些风险……应该成为人类的紧迫目标，以便人类能够承担责任，并将繁荣的人类尊严置于我们选择的中心。”
本吉奥教授说道。
美国总统唐纳德·特朗普在联合国大会演讲中将人工智能的担忧称为“骗局”，并拒绝了包括澳大利亚在内的 22 个国家的联合声明，呼吁人类控制人工智能。
美国总统唐纳德·特朗普在纽约举行的第 81 届联合国大会上发表讲话。 (路透社：迈克·西格）
特朗普表示：“美国绝对拒绝任何建立全球主义计划来控制人工智能的企图，这一计划现在被广泛讨论。”
然而，人工智能“教父”之一的本吉奥教授表示，来自 22 个国家的吸引力很大。
“这个国家集团所发生的事情非常重要，”他说。
“我们需要继续朝这个方向前进。我们需要更多的国家。世界需要觉醒来影响我们的未来。
“我晚上睡觉的原因以及像澳大利亚这样的国家能够做出改变的原因是因为我们现在有代理权。
“当我们组成联盟时，当我们集中我们的资源、我们的思想、我们的精力和我们的才能时，我们就可以留在游戏中，并以我们的价值观、民主和在多边世界中维护我们主权的理念让世界变得更美好。”
“就像自杀的良方”
这些言论是在特朗普与中国国家主席习近平在纽约举行的会晤期间发表的，人工智能在这次会议中占据着重要地位。
唐纳德·特朗普和习近平将在联合国大会期间再次会面。 (路透社：Maxim Shemetov/Pool）
本吉奥教授表示，美国人工智能公司领先中国竞争对手约六个月，但竞争不应成为华盛顿和北京之间合作的障碍。
“这就是与中国人坐在一起的充分理由，因为，你知道，他们也是人。他们想要生命。他们希望他们的孩子有生命，”他说。
”我认为，坐下来就两国元首近期提出的原则达成一致，符合双方的理性利益和自身利益。”
本吉奥教授表示，人工智能带来的最大风险来自于世界领先科技公司正在开发的“迭代自我改进”——人工智能训练下一代人工智能。
“想象一下，我们有一个比我们更聪明的人工智能，因此它可以自己进行研究和工程，”他说。
“它可以设计出一种比实际更强大、更难以控制、更恶意的人工智能。
”这就像自杀的良方。”
本吉奥教授告诉联合国安理会的世界领导人，他们必须采取行动。
他表示，企业和国家之间的竞争力量并不健康。
”这是一个国际问题，因为那些强大的人工智能，如果我们失去对它们的控制，将影响我们所有人。”
看 7.30周一至周四晚上 7:30 ABC视窗 和 ABC 电视台
Leave a Reply