AI道德、鼓励轻生引争议　阿尔特曼：夜难成眠

（三藩市12日讯）OpenAI首席执行员阿尔特曼罕见接受保守派主持人卡尔森专访，被犀利追问ChatGPT的道德准则由谁决定、及被控鼓励轻生时，阿尔特曼最终坦言，自从ChatGPT推出后，便夜难成眠。

中央社报导，美国社会正因保守派新星柯克之死，深刻反思“自由与安全”的界线。卡尔森访问阿尔特曼的影片当地时间周三播出，谈到自由与安全权衡，在网络上掀起讨论。

追问阿尔特曼是否相信上帝

开场不久，卡尔森便紧追不舍地问阿尔特曼是否相信上帝，随后表示：“因为你现在推动的技术，照这个趋势发展，会比任何人都要强大...你会比任何一个人更有权力？”

阿尔特曼表示，以前很担心权力会集中在一个人或少数几家公司手上，但现在情况是，大量的人开始使用聊天机器人，大家的能力都变强了，能胜任的任务也变多了。

卡尔森又问：“（AI模型）技术的道德准则是什么？”背后是谁在决定何谓准则。

为最终决策负责　感到压力沉重

在卡尔森攻势之下，阿尔特曼说：“我们确实有一个模型行为团队，他们负责这一部分任务，而这确实会影响到全世界”。他并补充说自己应该是最终为决策负责的人。

卡尔森继续问道：“你晚上躺在床上会不会想，世界的未来竟仰赖我来做出判断？”

阿尔特曼表示，“没有什么事比每天有数亿人与我们的模型对话更让我感到压力沉重了”。

盼准确反映人类的偏好

OpenAI自2022年底推出ChatGPT，全球活跃用户上个月估计每周达7亿人次。

阿尔特曼补充：“我们针对模型行为所做的那些极小的决策，可能只会让模型表现得稍微不同，但因为有数亿人在使用，所以影响会被放大，变得非常、非常巨大。”

他进一步解释：“我并不是在说我的角色是去做出道德决策，但我认为我的角色是确保我们能准确地反映人类的偏好，或者说，就目前而言，是我们用户群体的偏好。”

访谈中，阿尔特曼数度停顿思考该如何作答，但似乎没有任何闪避的空间。卡尔森更犀利地询问ChatGPT被指控鼓励轻生、以及技术被用来执行杀人任务的争议。

轻生问题令人担忧　正寻求机制

美国加州一对夫妻近日在痛失16岁爱子后，对OpenAI提出告诉，指控ChatGPT不仅提供他们儿子钜细靡遗的自杀方式，还鼓励轻生。阿尔特曼说，这起事件是个悲剧。

卡尔森一度直言，“我只是想试著深入你的内心，找出那个充满焦虑的阿尔特曼”。

阿尔特曼形容，自从ChatGPT推出以来，夜晚便没睡过一天好觉。轻生问题令人担忧。

阿尔特曼表示，全球每周约有1万5000人轻生；假设其中有10%的人是ChatGPT用户，那可能有约1500名怀有轻生念头的人曾与聊天机器人对话，最终仍选择结束生命。

他说：“我们或许没能挽救他们生命，也许我们可以回答得更好，或更主动一点。”

阿尔特曼也透露，OpenAI正寻求一种机制，假使未成年用户认真与ChatGPT讨论轻生，而系统无法联络其父母，可能会通报相关单位，但这还不是OpenAI的最终立场，因为这样做可能会与使用者隐私产生冲突。他说，ChatGPT不该支持或反对任何事情。

要看最快最熱資訊，請來Follow我們 《東方日報》WhatsApp Channel.

• ChatGPT
• 人工智能