编辑|李婧滢
本周二,Salesforce、Reddit和汤森路透等软件、媒体和信息类公司的股价遭遇重挫。直接原因是初创公司Anthropic推出了最新人工智能工具,市场普遍解读为:这对任何不制造或销售实体商品的公司都构成了生存威胁。
这种焦虑被夸大了。尽管这些AI工具展示了AI在办公工作中的潜在威力,却尚未成熟到可大规模商用的阶段;事实上,对使用它们的企业而言,反而可能暗藏风险。更重要的是,这类AI智能体依旧依赖于同样的软件和信息来源,而投资者似乎认为它们将会取代的,恰恰就是这些东西。
尘埃落定之后,软件、媒体和信息行业里会有不少公司出现颇具吸引力的估值。私募股权买家恐怕已经摩拳擦掌。私募股权公司Thoma Bravo的创始人奥兰多·布拉沃上个月在达沃斯接受采访时也表达了类似观点。云软件先驱Salesforce目前的股价对应的预期市盈率只有15倍,创下其历史最低的市盈率水平。
引发这轮抛售的那些技术,都属于Claude Cowork的一部分——这是一款桌面智能体,目前只在Mac电脑上可用。智能体会利用大语言模型,仅凭一个简单提示就能完成一连串复杂任务。比如:“把我的邮件和消息都过一遍,找出我这周所有要交付的成果物,并为它们生成初稿,包括任何图表和幻灯片。然后把这些初稿发邮件给团队,征求反馈。”
本周三,Anthropic为Cowork发布了10款插件,旨在在销售、金融到法律和客户支持等多个领域完成这些任务。这一消息将“智能体带来颠覆”的担忧从企业软件领域扩大到了信息服务领域。周二,汤森路透暴跌16%,标普全球跌11%,广告控股公司WPP下跌13%。
科幻作家阿瑟·C·克拉克曾写道:“任何足够先进的技术,初看都与魔法无异。”AI智能体在正常运行时,确实宛如魔法,但它们并非总能正常工作。一旦赋予智能体过高的系统权限与访问范围,就可能引发灾难性后果。
市场所有的AI恐慌,都源于对Claude、OpenAI的ChatGPT这类大语言模型运行原理的误解。它们本质是高级的概率模型,基于训练数据中的人类语言,逐词猜测生成语句,最终只是在模仿训练数据中的人类表达——无论是知名物理学家,还是网络喷子。它们极其擅长模仿人类,以至于我们会用“推理”“感知”这类词汇形容它们,但这些概率模型根本不具备此类能力。
这些模型虽然很擅长让自己听起来像个无所不知的人,但它们也会经常生成看似权威、实则完全虚构的内容,也就是AI行业所说的“幻觉”。为消除幻觉,人们投入了大量研究,但这仍是一个尚未解决的问题。没有人能完全确定它们为什么会发生。
Anthropic在其Claude聊天机器人底部的一行极小字里警告说:“Claude是AI产品,可能会出错。请务必复核所引用的来源。”我每天都在使用Claude、ChatGPT和谷歌的Gemini,我可以证明,Claude的这条提醒所言不虚。Anthropic在其文档中还补充道:“用户不应将Claude作为唯一的真相来源,并应对Claude给出的任何高风险建议进行仔细审视。”
这听起来像是一个你会放心托付整个电脑系统的可靠助手吗?
这不仅仅是理论上的担忧;我们已经在现实世界里看到了“幻觉”带来的危险。为法律行业提供新闻和信息服务的汤森路透股价遭到重挫,原因是Cowork这款法律插件。它宣称可以“审查合同、对保密协议进行分流处理、应对合规事务、评估风险、为会议做准备,并起草模板化回复”。
但使用AI语言模型来加快工作进度的律师,已经惹上了不少麻烦。巴黎高等商学院(HEC)研究员达米安・夏洛廷整理了一份事件清单,记录了律师提交由AI撰写的法律文书、其中却包含完全捏造的判例和引述的情况。他统计到此类事件已达355起,其中2026年有34起。许多涉事律师可能要承担罚款和行业纪律处分责任,并且可能面临客户提起的渎职诉讼。
Anthropic在其Cowor发布公告的安全说明中表示:“需要了解的关键是,Claude可能会采取具有潜在破坏性的行动。”Anthropic也建议不要将Cowork用于任何受监管的工作负载,例如病历记录。智能体同样容易受到一类尚未解决的网络攻击影响,这类攻击被称为“提示注入”,这是各类机构尚未做好应对准备的重大威胁。
这并不是说,智能体永远都无法在不出现幻觉和安全漏洞的情况下完成商业任务,终有一天会实现,只是不会在短期内到来。如今任何把它们用于关键任务的人,最终都会发现自己深陷一场灾难之中。
但即便到了技术成熟的那天,AI智能体也不会成为软件行业的终结者。在微软旗下的全球最大代码托管平台GitHub上,Anthropic公开了Claude智能体当前使用的软件清单,名单里全是业内最知名的大型软件。比如,Cowork的法律插件会使用 Microsoft 365、Jira、Slack和Box来完成任务。Anthropic内部没有任何人用公司自家的Claude Code智能体编写的软件去复刻这些应用。
最后,随着信息和媒体企业在市场中价值缩水,投资者明智的做法是更广泛地思考其影响。训练AI模型需要由人类创作的文本、图片和视频,以便对其进行模仿。到目前为止,AI公司已经使用了有史以来写过的每一本书,以及尽可能多的互联网内容。但如果AI摧毁了人类文本的来源,那么它们又将何去何从?
那才是真正的末日。