(三藩市14日讯)美国人工智能(AI)巨头Anthropic表示,小型人工智能模型可能只需几个月,就能像电脑蠕虫一样,无需人类帮助就能将自己从一个连网装置复制到另一个装置。
法新社报导,这项发现可能为人工智能带来的网络安全威胁开辟了新的战线,这些威胁已经让各国政府和竞相采用该技术的公司感到不安。
这项研究于周一晚发布在Anthropic的部落格上,而科技公司正竞相将功能越来越强大的人工智能,直接整合到手机、笔记型电脑、汽车和家用设备,而不仅仅在遥远的数据中心运行。
电脑蠕虫是一种恶意软体,能够自行在电脑之间传播。Anthropic的研究人员表示,人工智能版本的蠕虫将不再需要强大的数据中心来运作。
相反,它可以透过由智能电视盒和厨房电器等廉价、安全性差的消费硬体组成的网络,从一个设备跳到另一个设备。
研究人员根据Kimwolf的数据,来计算这种蠕虫病毒的传播范围。Kimwolf是一个由骇客控制的被劫持设备组成的僵尸网络,鼎盛时期感染了超过200万台设备,其中大部分是杂牌的安卓(Android)电视盒。
不法分子才是最大威胁
Anthropic的威廉(音译,William Zhou)和弗里曼表示,研究中描述的那种人工智能蠕虫可能速度很慢,需要几天时间才能复制自身。他们将人工智能蠕虫比作一群果蝇,需要几天时间才能繁殖。
但一旦形成,就很难根除,因为没有中央开关可以关闭。
Anthropic的研究人员表示,他们对人工智能驱动的恶意软体传播速度和范围的估计比较粗略,因为是基于一种类型的设备和一个过去的僵尸网络。
但研究人员补充,随著时间的推移,日常设备中的运算能力预计将会持续成长,而实现这一目标所需的人工智能模型可能会变得更小、更容易获得。
美国伊利诺伊大学电机与电脑工程系助理教授钱德拉塞卡兰表示,这项研究并不令人意外,与近期类似的研究结果相符,但他同时提醒,Anthropic的研究尚未得到独立验证。
他还指出,恒温器或家用摄影机等设备的安全性“历来非常薄弱”。
但他表示,说到人工智能,目前最大的威胁是人类不法分子利用人工智能来改善他们的骇客攻击,而不是人工智能系统本身失控。
他说:“如今,心怀恶意的人类被人工智能赋予了强大的力量去作恶,而且我们正在目睹这种情况大规模地发生。”
要看最快最熱資訊,請來Follow我們 《東方日報》WhatsApp Channel.