问题与解决方案：奥特曼出售针对其公司人工智能引发的网络攻击的解决方案。

人工智能的蓬勃发展正在推动新一轮自主网络攻击，对包括电网在内的关键基础设施构成重大且日益严重的威胁。

根据美国州首席信息官协会和通用动力信息技术公司的一份新报告，美国州政府约 90% 的首席信息官最近表示，针对关键服务的网络攻击是一个严重的问题，其中包括针对供水和污水处理系统、医院、交通运输、能源网络和电信的威胁。

人工智能的快速普及给关键基础设施和服务带来了诸多重大威胁。随着人工智能工具的发展速度远远超过网络安全防护措施的开发速度，外部威胁变得更加强大且难以预测。

与此同时，将大型语言模型广泛集成到关键服务本身，也给这些系统带来了新的漏洞。雪上加霜的是，根据安全与新兴技术中心2024年的一份研讨会报告，与人工智能集成相关的风险责任已经变成了“高管之间互相推诿的烫手山芋”。

就连人工智能公司也越来越意识到自身业务固有的风险。上周末，包括埃隆·马斯克、Anthropic CEO达里奥·阿莫迪和OpenAI首席执行官萨姆·奥特曼在内的一些业内知名人士呼吁立即放缓人工智能技术的扩张和发展。

“我们需要放慢提升人工智能模型能力的速度，”阿莫迪在周六发表的一篇广为流传的 3800 字的文章中写道。

Amodei 强调的最令人担忧的警告信号之一是与 ChatGPT 的开发商 OpenAI 及其竞争对手 Hugging Face 有关的网络安全事件。

7 月，OpenAI 披露，该公司内部训练的大约 700 个 AI 代理成功逃离了它们本应待的隔离“沙盒”环境，并集体对另一个实体 Hugging Face 的服务器发动了无端攻击。

此次安全漏洞令人担忧，原因有几点。首先，人工智能似乎已经超出了预设的控制范围。其次，这起事件似乎并非孤立事件。

在 OpenAI 的“拥抱脸”事件发生后的几周内，Anthropic 和 Meta 也承认他们自己的 AI 模型也执行了类似的黑客攻击操作。

而这或许仅仅是个开始。

“我们很快就会拥有更强大的智能体，这清楚地表明，目前世界还不知道如何安全地构建这些系统，”人工智能安全公司 Apollo Research 的联合创始人兼首席执行官 Marius Hobbhahn 在安全漏洞发生时告诉 CBS 新闻。

阿莫迪在他的文章中将 OpenAI 的机器人群描述为一个“狂热的奉献群体”，并警告说，这一事件可能预示着更糟糕、更可怕的事件。

“由于无人受伤且经济损失有限，很容易对这起事件不予理会，但我认为，如果蜂群的飞行能力更强，且飞行方向出现类似偏差，则可能会造成灾难性的破坏，”阿莫迪写道。

“鉴于人工智能能力发展速度的加快，我担心的是，在 6 到 12 个月内，像这样的一群僵尸网络就可能通过持续存在的僵尸网络控制整个互联网，造成数千亿美元的损失，如果人工智能在缺乏必要防护措施的情况下变得更加强大，损失规模还会继续扩大，”他补充道。

需要哪些护栏？

那么，必要的保障措施是什么？如果你问奥特曼，答案是……更多的人工智能。

自“拥抱脸”事件以来，奥特曼与一些美国大型能源公司的代表进行了广泛的讨论。最初是一场网络安全峰会，但实际上已经演变成奥特曼的游说活动，他现在正鼓励公用事业公司允许OpenAI接入电网。

Politico 最近报道称，OpenAI 与几家大型能源公司的代表会面，讨论如何保障电网安全。此次会谈的背景是，该公司自身产品在一次大规模网络攻击中所扮演的角色不断被披露。

据报道，奥特曼希望包括杜克能源、埃克塞隆、南方能源和NextEra能源在内的公司与Daybreak合作，Daybreak是OpenAI斥资10亿美元发起的网络安全计划，旨在解决关键基础设施中的漏洞。