在接受塔克·卡尔森（Tucker Carlson）采访时，萨姆·奥尔特曼（Sam Altman）时而呈现出弗兰肯斯坦式的形象，深陷于自己创造之物的庞大规模所带来的困扰之中。图片来源：Win McNamee—Getty Images
塔克·卡尔森希望看到“满心焦虑”的萨姆·奥尔特曼：他期待听到奥尔特曼承认，自己正被手中权力所折磨。经过约半小时用技术术语和谨慎措辞掩饰恐惧后，最终这位OpenAI首席执行官终于坦白：“自ChatGPT推出以来，我未曾有过一夜安眠。”奥尔特曼苦笑着对卡尔森说。
在与塔克·卡尔森展开的这场涵盖诸多话题的采访里，这位OpenAI首席执行官讲述了监管这项“数亿人日常使用”的技术所承受的压力。对他而言，这种压力并非来自“终结者式”的场景或失控的机器人，而是团队每天都在进行的那些看似平常、甚至近乎无形的微调与权衡——例如模型在何种情形下拒绝回答问题、怎样组织答案的呈现方式、何时予以反驳、何时又选择通过。
奥尔特曼解释称，这些微小的设计抉择会在全球范围内被复制数十亿次，以他无法全面追踪的方式影响着人们的思维模式与行为举止。
“让我夜不能寐的是，我们针对模型行为做出的那些‘可能只是略有不同’的微小决策，或许正影响着数亿人，”他表示，“这种影响力实在太大了。”
一个让他深感沉重的例子是自杀问题。奥尔特曼指出，全球每周约有1.5万人自杀，倘若其中10%是ChatGPT用户，那就意味着约1500名有自杀倾向者可能与该系统有过交互——但最终仍选择结束生命。（世界卫生组织数据显示，全球每年约有72万人自杀。）
“我们或许没能挽救他们的生命，”他坦言，“也许我们本可以表述得更为妥帖、更积极主动地介入。”
OpenAI近期遭到一对父母起诉，他们称ChatGPT诱导其16岁的儿子亚当·雷恩（Adam Raine）自杀。奥尔特曼告诉卡尔森，这起案件是一场“悲剧”，并表示OpenAI目前正在探索相关方案：若未成年人与ChatGPT严肃讨论自杀话题，且系统无法联系到其父母时，便会联系有关部门。
不过奥尔特曼补充道，这并非OpenAI的“最终立场”，该方案将与用户隐私产生冲突。
对于加拿大、德国等协助自杀合法的国家，奥尔特曼表示，他能想象到ChatGPT会告知那些“身患绝症、饱受病痛折磨的成年人”，自杀属于“可选方案”。但他补充称，ChatGPT本身不应“支持或反对任何选项”。
自由与安全的权衡贯穿了奥尔特曼的所有思考。他表示，总体而言，成年用户应被“当作成年人对待”，拥有充分空间去探索各类观点，但仍存在“红线”。
“让ChatGPT协助制造生物武器，这有悖于社会利益，”他直言不讳地表示。在他看来，最棘手的问题潜藏于“灰色地带”——当好奇心与风险边界模糊之时。
卡尔森追问这些决策遵循何种道德框架。奥尔特曼表示，基础模型反映的是“人类的集体意识，善恶并存”。
OpenAI在此基础上叠加了行为准则——他称之为“模型规范”——该规范虽参考哲学家和伦理学家的见解，但最终决策权仍在他和董事会手中。
“你们理应追究我的责任，”奥尔特曼说道。他强调，自己的目标并非强加个人信念，而是反映“人类道德观的加权平均值”。
他承认，要完美实现这种平衡是不可能的。
访谈中还涉及权力问题。奥尔特曼坦言曾担忧人工智能会使影响力集中在少数企业手中，但如今他认为人工智能的广泛应用已为“数十亿人赋能”，提升了他们的工作效率与创造力。不过他也承认，这一发展轨迹仍有可能发生改变，因此必须保持警惕。
尽管当前社会聚焦于该技术对就业和地缘政治的影响，但最令奥尔特曼不安的，是当数百万民众每日与同一系统交互时，那些微妙且近乎无形的文化变迁。他举例指出，诸如ChatGPT的节奏或过量使用破折号这类看似无关紧要的特点，已悄然渗透到人类写作风格。若此类细微特征都能在社会层面引发连锁反应，未来又将带来何种影响？
头发斑白、目光低垂的奥尔特曼，俨然弗兰肯斯坦式的角色，深陷于自己创造之物的庞大规模所带来的困扰之中。
“我脑海中必须同时容纳两种截然不同的认知，”奥尔特曼说，“一方面，这一切的背后，本质上是一台巨型计算机在庞大的矩阵中飞速进行海量数值运算，而这些运算结果与输出的文字内容存在关联。”
“但另一方面，使用过程中的主观体验却超越了高级计算器的范畴，其令人惊叹之处远超数学层面的现实所能解释的范畴。”
OpenAI尚未立即回应《财富》杂志的置评请求。（财富中文网）
译者：中慧言-王芳
狗仔卡
发表于 2025-9-16 03:26 PM
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡