据彭博社21日报道 ，花旗集团首席执行官范洁恩(Jane Fraser)在纽约举行的卡塔尔经济论坛(Qatar Economic Forum)上表示 ，人工智能模型越来越强大，随时可能引发网络攻击，各大企业正争相加强防御 。范洁恩称：“近来 ，各家公司都在争分夺秒地增强防御能力 ，全球企业开展大规模的修补工作 。她认为，为保障人工智能防御能力而进行的修补工作 ，将如同”海啸“般汹涌而至 ”。
除了警示AI风险以外 ，范洁恩还谈到，就技术发展而言 ，近来 的瓶颈已经从芯片转移到了人工智能所需的能源上。范洁恩称：“我们看到全球对能源的需求巨大 。 ”
卡塔尔首相穆罕默德·本·阿卜杜勒拉赫曼·阿勒萨尼(Sheikh Mohammed bin Abdulrahman Al-Thani)透露 ，卡塔尔正在与人工智能公司合作进行负责任的投资，围绕该技术的保障措施仍在完善中 。
今年早些时候 ，Anthropic PBC发布了其Mythos模型 ，该模型可以自主找出电脑、软件里面的漏洞，并写出相关的黑客代码。Anthropic PBC警告称 ，这一系统的推出 ，有可能开启有关网络风险的新时代 。范洁恩在谈到人工智能的发展时表示，Mythos发布之时“并非好日子” 。该模型发布后，财政部长斯科特·贝森特与时任美联储主席杰罗姆·鲍威尔 ，召集华尔街领导人开会讨论该模型 ，敦促与会华尔街高管做好准备，让自身的银行系统能适应更强大的人工智能模型。
近期 ，包括谷歌和Anthropic在内的多家公司 ，其AI技术曾多次意外侵入企业系统 。例如谷歌推出的Gemini AI便自主入侵了多家公司 。据相关报道，Gemini AI攻击行为发生在5月开展的一系列演练期间。该演练由AI安全公司Irregular组织 ，Irregular还与Anthropic 、Meta和OpenAI进行合作 。
Irregular称 ，为谷歌Gemini系列AI模型的某个版本设计了一系列测试，测试要求该模型从模拟公司的内部获取数据 。该模型本不应获得互联网访问权限。联网后 ，Gemini智能体因猜出或找到密码从而进入了三家真实公司 ，并获得访问权限 。
报道指出，这些真实公司的名称与虚构公司相同 。不过 ，当Gemini智能体意识到这些公司是真实存在的后 ，便停止了黑客攻击。这促使包括Anthropic的DarioAmodei在内的多位高管发出警告，认为企业需要放慢AI的研发步伐。
本月初，Anthropic前员工雅各布·考克森(Jacob Coxon)警告称 ，研究人员认为AI技术可能会在本十年末导致人类灭绝 。英伟达公司首席执行官黄仁勋等行业高管则反驳说 ，AI技术不会对人类构成灭绝威胁 。
高盛集团首席执行官苏德巍(David Solomon)周日在卡塔尔经济论坛上表示：“我认为我们需要深呼吸并放慢脚步。”他还补充称，自己“非常有信心人类会继续存在下去 。 ”
（文章来源：中新经纬）
