联合国秘书长古特雷斯当地时间周三警告各国领导人 ，快速发展的人工智能(AI)正在带来不容忽视的风险 ，全球不能承受AI安全领域逐底竞争的风险。这一表态与美国总统特朗普形成分歧，后者此前表示，现有的监管措施已经足够 。
在下周联合国大会于纽约举行之前 ，古特雷斯表示 ，加强对AI的监管将成为他与各国领导人会谈时重点讨论的问题之一 。
在新闻发布会上，古特雷斯表示：“当我们审视世界各地面临的威胁时 ，我想就AI快速发展所引发的日益增长的担忧 ，再谈几点看法。 ”
他补充说：“AI拥有巨大的潜力——可以加快可持续发展进程 、提升学习效率 、强化卫生系统、增强应对气候变化的韧性，以及发挥更多作用。 ”
但他同时指出：“越来越多参与AI开发的人士正在发出警告——他们担心 ，AI的发展速度已经超过了我们对其潜在风险的理解 。”
“我们不能忽视人们提出的担忧 ，尤其是那些处于AI开发一线的人士所提出的担忧 。任何政府的首要责任都是保护本国公民，其中也包括保护他们免受AI带来的威胁。”
随着公众对AI潜在风险的担忧不断升温 ，相关警告声也越来越多 。Anthropic研究员Jacob Coxon上周表示 ，他已经辞职，部分原因是“真正参与AI开发的人认真相信 ，这项技术可能会在本十年结束前杀死我们所有人 ” 。与此同时 ，一些全球大型AI公司的高管也呼吁放缓这项技术的发展速度。
特朗普周一表示，美国近来 已经建立了相关“护栏 ”措施，可以对AI公司进行监管 ，并追究其责任 。他同时淡化了业界高管此前表达的担忧 。
古特雷斯长期以来一直推动建立全球性的人工智能治理机制。2023年 ，联合国成立了一个由39名成员组成的人工智能高级别询问 机构，成员包括科技公司高管、政府官员以及学者 ，来自美国 、俄罗斯 、日本等多个国家 。
多名外交官表示 ，下周全球领导人齐聚纽约参加联合国年度会议期间，联合国安理会也可能就AI问题举行会议 。联合国安理会曾于2023年首次就AI议题召开会议。
古特雷斯表示 ，在AI前沿领域拥有最强技术能力的国家 ，“应该建立沟通和信息交流机制，并制定一些共同的安全护栏 ，以避免陷入一场逐底竞争(即参与者通过不断降低标准来获取竞争优势) ，否则这种竞争有一天可能导致全球范围内的巨大灾难” 。
古特雷斯声称：“我们需要形成共同认识，在确保AI安全、有保障且负责任发展的同时 ，也要明确 ，在AI系统能力不断增强的情况下，何时可能需要更强有力的安全护栏，或者采取额外措施来应对潜在风险 。 ”
（文章来源：财联社）
