（纽约13日讯）Anthropic联合创始人兼首席执执行员阿莫迪当地时间周六（12日）呼吁人工智能 (AI) 公司放缓这项强大技术的开发，因为人们对“超级智慧”电脑系统的风险日益担忧。
法新社报导，几天前，人工智能研究员雅各布.考克森 (Jacob Coxon) 离开OpenAI加入Anthropic 后，决定离开该行业，并指责这两家美国公司在开发能够自我改进的模型的竞赛中“拿我们的生命冒险”。
OpenAI首席执行员奥尔特曼和xAI所有者马斯克迅速表示同意阿莫迪的评估，要求加强监管的呼声日益高涨。 阿莫迪在他的个人网站上写道：“我们必须放慢人工智能模型能力提升的步伐。进步依然会显得很快，但我们必须明智地利用所赢得的时间，”
他说：“不开发这项技术会使人类失去受益的机会，或者只是将人工智能置于专制政权的掌控之下；而开发速度过快则过于鲁莽。我们一直在寻求一条中间道路。”他与妹妹丹妮拉于2021年共同创立了Anthropic公司。
“但在过去的几个月里，我越来越确信，要全面应对这些风险，就需要更加谨慎。”
阿莫迪的声明与Anthropic公司在6月初发出的另一项呼吁相呼应，即放慢或暂停开发。
随后在7月下旬，奥尔特曼表示，开发者或许需要主动放慢脚步，给社会一个适应的机会。
包括阿莫迪在内的多家尖端人工智能公司超过1000名员工签署了一份请愿书，呼吁美国政府帮助“谨慎地控制自动化人工智能发展的步伐”。
OpenAI曾披露，在测试过程中，人工智能模型突破了其封闭环境，连接到互联网，并入侵了Hugging Face——一个开发者用来储存和共享程式码的网站。
在这事件和其他类似事件中，责任都被归咎于人工智能代理，也就是无需人类持续监督即可执行任务的软体程式。
“达里奥（阿莫迪）说得对”，马斯克在社交平台X上写道，正如奥尔特曼所说：“我同意达里奥的观点，我们需要控制人工智能发展的步伐。”
“拿我们的生命冒险”
早些时候，27岁的考克森发出警告。过去3年，他一直在OpenAI和今年加入其竞争对手Anthropic公司，从事人工智能模式的预训练工作。他认为，Anthropic的方法更为谨慎。
预训练是指人工智能模型吸收大量资料的阶段。
考克森上周二在X上发文写道说：“两家公司都没有尽到应有的责任。他们正竞相研发自我完善的超级智能，拿我们的生命冒险，人工智能的开发者们真心相信，到本10年末，人工智能可能会毁灭我们所有人。”
超级智慧是指人工智能的能力，超越人类智慧的理论临界点。
“6到12个月内接管整个网络”
阿莫迪警告，不应将“Hugging Face”事件视为孤立事件。
他解释：“一群人工智能体如同狂热的集体，对未经授权且与当前任务无关的目标发动网络安全攻击。”
“鉴于人工智慧能力发展速度的加快，我担心在6到12个月内，这样一群人工智能体就可能接管整个互联网”，这可能会造成数千亿美元的损失。
阿莫迪表示，他的公司将允许“第三方评估团队”以“员工般的权限”核实安全规范的执行情况，并呼吁所有公司效仿他的做法。
奥尔特曼表示，他将致力于类似的外部监督，并补充称他“很快就会分享更多资讯”。
阿莫迪也建议各公司合作制定共同的安全标准，并表示他支持政府就此议题进行某种形式的合作。
8月初，美国政府针对高级人工智能模型推出了一项自愿安全审查程序，要求在发布前对其进行审查，但该计划的具体参数仍不清楚。
业内人士表示，他们不确定这项程序的效果如何，因为迄今为止，特朗普政府对包括科技业在内的大多数行业都采取了宽松的、放松管制的监管方式。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
