随着人们越来越习惯把工作、健康、情感困扰乃至不愿对身边人说的话告诉人工智能，聊天记录作为一种新的数字记录，越来越多地出现在司法案件中。它能够帮助警方提前发现危险，却也让人们对另一个问题变得担忧：当人们以为自己只是在和一台机器说话时，这些聊天究竟还算不算私人谈话？从今年3月份开始，Amber的手机上开始时不时弹出一些匿名骚扰信息。起初是一些意义含混不清的句子，“原谅自己吧”，很快内容的恶意程度逐步加深，升级到“出轨的荡妇”“等不及要闻你的味道”，词句开始带有侮辱、色情和威胁性质，有时候发来的消息还直接点明她当下所在的位置，暗示对方掌握她的行踪。
Amber的态度是置之不理，她猜测这些内容可能来自前男友Darren Zhou。一方面，是时间节点吻合，这些消息恰好出现在他们3月份分手之后，另一方面，账号被拉黑后，Darren使用匿名号码联系过她。Amber也感到很恐惧，但她还是希望这些骚扰会随着时间的推移停止，毕竟两人之前还有些感情，她也不愿报警让他陷入麻烦。但在5月27日，佛罗里达州棕榈滩县警长办公室的工作人员找上了门。Amber才惊讶地发现，Darren的情绪不仅没有平息，反而向ChatGPT详细讲述了一套针对她及家人的谋杀计划，正是这段与ChatGPT的对话引起了警方的注意。
从履历上看，今年只有25岁的Darren是典型的金融才俊，在美国东北大学攻读数学和工商管理学位，熟练掌握英语、中文和德语，2024年大学毕业后加入高盛成为一名金融分析师。从2025年下半年到今年3月份，Amber和他交往了6个月。在短暂的相处中Amber发现他行为反复无常，嫉妒心强且有控制欲。今年2月份，Darren曾因为不满意“超级碗”比赛结果，开始暴力破坏屋子里的东西，还对她破口大骂。担心他可能情绪失控，Amber最终通过电话结束了这段关系。
《美国爱情故事》剧照
警方获取到的聊天记录显示，Darren在分手后，频繁与ChatGPT讨论这段感情，并让ChatGPT判断Amber与其他男性在社媒上的评论互动是否属于“暧昧”，以及复合的可能性。慢慢地讨论开始变得暴力，“如果我得不到她，谁都别想得到她”“我要把她的脸打烂”，随后又出现了想要自杀和杀害Amber及其家人的言论，而且这些内容从单独的语句变成了一整套详细的计划。比如4月24日，Darren告诉ChatGPT，他将去Amber每周四打排球的地方，在停车场外面等候，等她出现手捧着鲜花靠近她，如果她拒绝，就掏出枪杀死她，然后自杀，当天稍晚以及28日和29日，他反复描述了这场计划。
根据警方提交给法庭的合理依据宣誓书（Probable Cause Affidavit），其中汇总警方掌握的初步证据，5月份，ChatGPT 的开发方、美国人工智能机构OpenAI在后台识别到Darren重复性的暴力言论，向执法部门发布了紧急披露通知。通知称，用户多次发表意图袭击或谋杀前女友的言论，“本月底前杀死她”“等她从邮轮旅行回来后杀死她”，而且他声称拥有枪支，正在追踪前女友的日程安排，以便知道在决定升级行动时去哪里找她。警方称，这些ChatGPT的对话内容尤其重要，其中明确指出了受害者、接近方式、武器、行动顺序以及预谋的性暴力行为，显示出持续的演练和策划，并非一次的冲动言论或模糊的情绪爆发。
警方结合ChatGPT对话内容和Amber手中保存的骚扰截图，锁定了Darren并判断他已经对Amber构成了足够的人身安全威胁，于5月份将其逮捕。佛罗里达州助理检察官安娜·库斯科娃（Ana Cuskova）指控他犯有严重跟踪罪、书面威胁伤害罪以及非法使用双向通讯设备，最高可判处25年监禁。8月13日，Darren就这三项指控全部认罪。同一天，法官暂不作出定罪裁决，判处被告Darren8年缓刑。
《傲骨贤妻》剧照
巡回法院法官斯科特·苏斯卡乌尔（Scott Suskauer）在法庭上曾表示，助理检察官和Darren达成了一份认罪协议，而他之所以接受，是因为受害人同意了这份协议。该协议使Darren免于入狱，也避免了重罪定罪。在此期间他必须遵守一系列限制性规定，例如缓刑的前两年需要佩戴脚踝监控器，不能拥有武器，需要参与施虐者干预项目心理治疗活动等。
马修·克里斯（Matthew T. Christ）是佛罗里达州拉弗蒂·多姆尼克·坎宁安与亚法律师事务所（RDCY）的合伙人律师，此前还担任过佛罗里达州最高法院大法官芭芭拉·帕里恩特的法律助理。克里斯告诉本刊，从最终的缓刑判决来看，受害人的意见在其中发挥了很大作用，根据佛罗里达州的马西法（Marsy’s Law），受害者在类似审判决策中有一定发言权，受害者同意协议，加上Darren没有犯罪记录，此前履历光鲜，以及尽管聊天记录中暗示他拥有枪支，但实际上并未持有枪支，法官也是综合考虑了这些因素，决定暂缓定罪。
“我完全不敢相信这是真的。”Mitchel告诉本刊，他和Darren从高中相识，认识近10年时间。Mitchel说，Darren老家在美国东北部马萨诸塞州，在他的印象里，Darren是个很健谈的人，喜欢开玩笑、积极阳光爱运动，打网球和橄榄球，非常注重身材管理。他在社媒上经常发自己去健身房锻炼的照片，喜欢小动物，会给在街边角落偶遇的小猫拍照。但去年见面的时候，他发现Darren变化很大，首先是比以往明显胖了很多，另外，性格好像也有些改变，许久不见，他只是一直不停地谈论自己，说多爱自己的工作，他的职位有多厉害和高级，经常去音乐节，参加很多派对。但每当问到很具体的问题，例如工作内容怎么样，住的环境如何，他总是回答“Good”“Fun”，一两个单词就结束了对话，只剩下一阵尴尬的沉默。
《金装律师》剧照
尽管上大学后大家各奔东西，但彼此也保持着社媒上的联系，会给对方的内容点赞评论，Darren经常在社媒上发与Amber的合照，“两个人在照片里很亲密，互相拥抱依偎，看起来是一对很甜蜜的情侣。”Mitchel说，整件事最令他感到意外的是，Darren以前对女性很友好，也会认为男友过多干涉女朋友在社媒和其他人互动，是一件控制欲很强的事，他一直很反对男性这样做，认为这类行为“有毒”，“不知道他为什么会变成今天这样”。
复盘Darren案件的过程中，其中一处细节让克里斯尤为注意——ChatGPT在其中扮演的角色。他告诉本刊，Darren和ChatGPT的对话在案件中起到了至关重要的作用。首先，受害者并没有报案的想法，这意味着没有ChatGPT的对话内容，就不可能触发案件调查。而且，没有直接的证据证明受害者收到的匿名短信来自Darren，ChatGPT的内容帮助建立了联系，降低了案件调查的难度，而且，根据佛罗里达州的法律，严重跟踪的罪名需要满足反复的跟踪行为、有可信的威胁、让受害者有合理的恐惧并且表现出明显的实施能力，ChatGPT的对话内容显示了Darren存在反复的跟踪，而且威胁行为在过去两个月里逐步升级。
《冬至》剧照
根据克里斯的观察，大约在两年前，聊天机器人的对话记录开始被引用到搜查令和宣誓书中，他作为律师，在办理案件时，也开始询问当事人是否与人工智能聊天机器人就某一话题进行过对话。克里斯说，30年前，调查案件的律师可能会寻找信件、商业记录和证人证言，之后电子邮件、短信以及大量的社交媒体开始出现，每当人们的生活在网络上更进一步，诉讼就能覆盖更多的信息，随着人们越来越多的转向人工智能聊天机器人寻求工作、健康和情感建议，这些与聊天机器人的对话记录也正愈发频繁出现在法庭上作为呈堂证供。这些对话记录通常被视为普通电子记录，而非受特权保护的通信内容，可能通过民事证据开示、传票、法院命令、对嫌疑人设备的搜查，或由人工智能公司转交等方式被提交。
《华盛顿邮报》的一项统计发现，在过去两年中，至少有12起法庭案件引用了聊天机器人的对话记录。“我们发现，人工智能聊天机器人提供了一种虚假的亲密感、隐私感和安全感，大多数人倾向于相信他们在这里的对话永远不会被另一个人读到，所以他们经常会在这里更多地透露自己的真实动机。”克里斯告诉本刊。在法律实践中，聊天机器人的对话记录经常用于证明当事人的意图，前后证词是否矛盾。例如，在一起交通事故中，当事人引发了一起交通事故并导致他人受伤，他可能会向自己的保险公司、律师以及受伤方的律师声称，是对方闯红灯导致事故。与此同时，在事故发生当天，当事人可能会在人工智能聊天机器人的聊天记录中提到“我今天闯了红灯，引发了一起事故，我将承担什么样的责任？可能会面临什么样的赔偿？”此时，这在法律上就相当于“当事人自认”。
克里斯说，相比于传统的数字证据，聊天机器人的对话记录提供了新的视角，互联网搜索记录可能只是几个词，可以有多种解释空间，但对话记录可以通过当事人提供的提示词信息，以及来回的问答交互，可以看到对方整个思维过程和行为意图。但并不是所有的聊天记录都被视作证据使用。
《豺狼的日子》剧照
克里斯称，举例来说，带有负面以及暴力倾向的聊天机器人对话可能代表偶然的情绪宣泄，一时的好奇或者角色扮演，近些年，真正能作为可信威胁证据的人工智能机器人聊天记录，要考虑言论持续的时间，语言的模糊或详细程度，负面程度是否升级、是否有能力完成威胁等，以及判断对话内容是否“越界”的重要一点——是否存在实际行动，“以Darren案件为例，如果仅有ChatGPT的对话内容，而他其实并没有给对方发送任何骚扰信息，那么仅以聊天内容作为证据是不足以起诉的。”克里斯说，但这并不意味着什么都不能做，鉴于言论的严重程度，警方可以向法院申请，对其进行精神健康评估，或者申请人身限制令。
Darren案已经不是OpenAI第一次主动将令人担忧的ChatGPT聊天内容提交给执法部门。今年6月份，OpenAI还曾对巴西执法部门发出警告，一名36岁的巴西男子在ChatGPT上花了两个月时间，讨论如何杀死自己8岁的孩子，然后自杀，以避免支付抚养费。最终该男子被要求佩戴电子脚踝监视器，并被禁止接触男孩以及男孩的母亲。OpenAI发布的数据显示，仅在2025年下半年，该公司披露了80多个账户的数据，较上年同期增长了四倍多。
然而，并非所有潜在的危险都得到了识别和提前预警。今年2月份，加拿大不列颠哥伦比亚省发生校园枪击案，事后人们发现，枪手曾在ChatGPT平台上输入与暴力相关的提示词。一份法庭文件显示，2025年8月，OpenAI曾识别到枪手的暴力言论，标记为“针对真人的枪支暴力可信和具体的威胁”，随后仅封禁了枪手的账户。OpenAI解释称，当时未及时向执法部门报告，是因为没有发现袭击即将发生的证据。
《犯罪心理》剧照
“事实上，佛罗里达州案件和加拿大枪击案的对比，恰恰凸显出为何此类报告决策如此艰难。”人工智能治理和合规咨询公司“AGC for Africa”创始人迪米特里斯·比洛（Dimitris Bilo）告诉本刊，与几年前相比，现有的人工智能风险预警机制在识别暴力和犯罪预谋方面有些进步，可以做到识别明显危险的内容、拒绝有害请求以及针对严重威胁制定升级处理流程，但仍有一定局限性，“因为检测词语与理解危险并非一回事。”
比洛说，打个比方，如果有人输入“我想杀死我的老板”，人工智能系统可以轻松识别出该句子包含暴力语言，但系统可能无法判断此人是在发出真实的威胁，还是在表达经历艰难一天后的暂时沮丧，正处于心理健康危机之中，又或者只是在撰写小说，引用电影台词，讨论一种假设情境。词语本身很容易被检测到，而确定这些词语在现实世界中的意义则要困难得多。反之，一些真正危险的情况可能根本不包含明显的警告性措辞。用户可能会用间接的语言讨论目标、地点、时间表或准备工作，而这些话语单独看似乎相对无害。只有当这些对话被视为一段时间内的模式时，风险才会显现出来。人工智能系统通常只能获取对话内容本身，而无法了解那些有助于判断威胁是否真实的更广泛背景情况。这些最终都需要主观判断，即便是经验丰富的人工调查员，处理起来也依然困难。
在非营利组织“AI for Change”基金会法律顾问兼人工智能伦理专家玛丽娜·林德（Marina Linde）看来，如果企业将每一段令人不安的对话都上报，不仅会给执法部门带来过载风险，还会破坏用户信任，担心隐私被泄露，并导致人们在陷入困境时不敢寻求帮助。美国圣克拉拉大学法学院教授、高科技法律研究所联席主任埃里克·戈德曼（Eric Goldman）对本刊表示，在美国，现在这些聊天记录只被视作一般的数据证据，但应该看到的是，人们与人工智能聊天机器人的互动方式、信任程度以及据此形成的技术关系，与其他技术相比存在本质上的差异，“在我看来，人们正在使用人工智能聊天机器人来解决生活中的问题，它所扮演的角色有点类似心理咨询师，而患者与心理咨询师的对话是受到法律保护的。”
《her》剧照
OpenAI的政策显示，该公司可能会向执法机构或政府机构披露用户数据，前提是其认为此类披露对于防止可能危及生命或造成严重人身伤害的紧急情况是必要的。Anthropic的报告制度也有类似的表述，声称除非根据有效的法律程序，例如有效签发的传票或搜查令，否则不会应政府要求披露有关客户的信息。但如果公司认为存在可能导致迫在眉睫的人身伤害或死亡的紧急情况，且及时提供用户信息可能避免该紧急情况，可以做例外处理。谷歌旗下Gemini的隐私政策是，为遵守法律或监管要求，公司可能被要求或基于善意，由其自行决定在认为必要时，向执法机构、政府机构、监管机构或第三方共享用户的个人信息。
林德认为，当前各个公司既有的报告系统透明度不足。大多数人工智能公司都会说明，在特殊情况下可能会审查对话内容，且可将严重威胁上报给相关部门，但用户往往并不清楚这些决定是如何做出的，也不知道此类情况发生的频率。他们至少应该概括性说明，哪些情况可能会触发人工审核、上报或移交执法部门，对于不同风险的报告标准应该更加透明。提高透明度有助于建立信任，人们之所以对个人隐私泄露以及平台上可能正在发生的犯罪预谋感到担忧，往往是因为他们不了解哪些内容会被监控、何时会有人工审核人员介入，以及在什么条件下信息可能会被共享，更清晰的说明和定期发布的透明度报告可以减少这种不确定性。
（文中Amber、Mitchel为化名）
狗仔卡
发表于 2026-9-13 06:00 PM
提升卡
置顶卡
沉默卡
喧嚣卡
变色卡