（三藩市18日讯）美国人工智能（AI）巨头Anthropic表示，人工智能系统越来越有能力建构自身的未来版本，这加剧了有关这项强大技术潜在风险的担忧。
法新社报导，近几个月来，关于人工智能风险的争论愈演愈烈，这主要是由于一些事故和业内人士发出的末日警告。
Anthropic表示，该公司的聊天机器人Claude正主导超过1/4的研发工作，并在超过90%的任务中与人类员工合作。
该公司指出，随著世界“正在考虑放慢”人工智能的发展步伐，公布这些资讯是为了让公众、第三方和政府“更好地了解人工智能的发展速度”。
Anthropic的首席执行员阿莫代伊本月呼吁放缓人工智能的发展速度，因为该技术的快速进步引发了关于失业、数据中心能源需求飙升和环境影响的担忧。
Anthropic和竞争对手OpenAI的几个人工智能模型据报自行突破了封闭环境，访问了互联网并入侵网站和平台，这引发了人们对智能体设计者可能会失去对其作品控制权的担忧。
“加速自身发展的模型可能会使人类更难理解或控制这些系统。”Anthropic在一份报告中说：“因此，分享这些指标非常重要，以便了解世界距离实现递回自我改进（一种完全自主地构建其后续模型的模型）还有多远。”
截至8月，Claude主导了Anthropic的26%研发工作，这意味著它可以在人类监督下完成大部分从头到尾的任务。
Anthropic表示，Claude目前还无法“完全自主运作”。
该公司称，其拥有约3万个智能体从事研究和工程工作，指的是那些具有执行任务潜力的机器人。
尽管对行业监管的担忧，但Anthropic预计将在今年稍后抢在ChatGPT的创造者OpenAI之前上市。
要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.
.jpg/1036c1937991c6b61675451d2ebf9a90.jpg)
