少女之死催生的社交媒体管制事件

源济

少女之死催生的社交媒体管制事件

2019-05-13  杨猛

杨猛：记者，作家。获开发亚洲新闻奖一等奖。著有《陌生的中国人》、《不平静的江河》。

导读

少女Molly 的死是青少年沉迷网络引发不良后果的又一例证。

2017年11月， 14岁的英国少女Molly 在浏览了社交媒体上的内容之后自杀了。今年4月，英国政府公布了一份白皮书，宣布向社交媒体暴露的社会问题开战。最近英国媒体都在集中报道此事，从诸如“英国将执行世界上最严的网络监管”、“社交媒体自我监管时代已经结束”之类的标题可以看出，英国政府这次下决心要从社交媒体公司手上夺回监管权。

（一）

少女Molly 的死是青少年沉迷网络引发不良后果的又一例证。

Molly

照片上的Molly一头金色长发，甜美可爱。女儿去世后，父亲Ian为寻找答案，查看了她的Instagram账户，发现Molly 在死前浏览了大量自残和自杀的内容。

Instagram是著名的社交媒体，有7亿活跃用户，每天有9500万张图片上传。

Ian形容女儿死前浏览的内容“令人作呕”，充满了“焦虑、抑郁，自残和自杀被正常化和受到鼓励”。

他告诉英国媒体，“长时间看Molly 看过的帖子太令人痛苦了，我可以肯定地说，这些帖子加深了Molly 的沮丧，并且在她想要结束生命时发挥了蛊惑作用。”

他指控Instagram是女儿自杀的帮凶，对Molly 的死负有部分责任。

社交媒体是否会增加自我伤害事件存在不同观点。英国一项研究发现，2011年到2014年，13到16岁女孩的自我伤害事件增加了68%，这一时期社交媒体的使用量也呈增长趋势。但是曼彻斯特大学的学者说，两者不能简单联系，有必要进行更多的研究以确定原因。

牛津大学的另一项研究表明，适度使用社交媒体可能有益，极端使用则可能产生轻微的负面影响，最好限制青少年的使用时间。

Molly 自杀之后，Instagram在声明中表示“不允许促进或美化自我伤害或自杀行为，并将删除此类内容” 。Instagram老板亚当·莫塞里表示，他被Molly 的故事深深打动，并承认平台对自杀和自残问题关注不够。但他又说，“关键是，被其他人看到之前，我们还没有找到足够的这些图像” 。

像Instagram这样的社交媒体都有处理极端图像的公司规定，但是首先依赖用户的报告，然后才会删除。这种处理流程并不足以有效扼制有害内容的传播。亚当·莫塞里的辩解显然是为了开脱责任。

（二）

Molly死后，《每日电讯报》调查发现，在社交媒体上，令人心理不适的自我伤害图像随处可以找到，许多是由年轻用户上传，这可能会影响弱势群体，进而实施自我伤害。

一些青少年自杀案例被发现跟社交媒体有关。2015年到2016年首先在俄罗斯社交媒体上传播的“蓝鲸挑战”，教唆青少年自残和自杀，导致数百名青少年死亡。这场比赛还蔓延到了印度、英国、中国。

Instagram为传播这些图像的行为辩护说，“对于许多年轻人来说，讨论他们的心理健康或者和其他曾经与类似问题作斗争的人联系，是他们康复的重要部分。这就是为什么我们不删除某些内容，而是让人们在最需要的时候查看或发布以获得支持”。

在Instagram输入关键词搜索一些自残主题的内容时，会跳出弹窗警告，但是又允许自行解锁，实际上用户还是能接触到这些内容。

特别麻烦的是，现在社交媒体公司积极发展了算法。为了追踪用户，社交媒体会不断提供相似的产品，接触越多，实则陷入了信息单一的空间。或者上瘾，严重如Molly 者则走向自我毁灭。

另外，社交媒体公司强调自己只是平台，而不是发布机构，希望藉此免责，让自己置身事外。

对此，Molly 的父亲Ian批评说，如果建造了一个体育场，法律将要求它是安全的。如果你建立了一个在线体育场，并邀请数百万儿童来玩，却不执行安全保护义务，显然于理不通。

（三）

女儿的死把Ian带到了聚光灯下。他以Molly之名成立了预防自杀的慈善基金，向社交媒体巨头们喊话，“当我对扎克伯格先生（Facebook创始人）、莫塞里先生（Instagram老板）、西尔伯曼先生（Pinterest创始人）和库克先生（苹果首席执行官）说，你们都有道德责任保护我们的孩子时，很少有人会不同意。你们现在都必须采取行动，制止其他弱势群体的伤害”，“我们不能再等了”。

他批评硅谷社交媒体的技术研发仍然朝着错误的方向前进，批评扎克伯格计划在Facebook上增加隐私和加密功能，警告说，这样只会使自残等行为更加难以调查。

他向国会议员游说，敦促政府在社交媒体平台上引入监管，“现在是时候让社交媒体平台承担责任了”“对Molly 来说已经太晚了，但是这个房间（议会）里的人有能力阻止有害内容传到我们的孩子身上” 。

英国人喜欢听故事。这位悲伤的父亲化身挑战世界最大公司的斗士，他的富有感染力的话语通过英国媒体不断传播出去，引发了积极的社会反响。

在Ian的抗争下，饱受指责的社交媒体被迫采取行动。Instagram终于同意从平台上删除自我伤害的图像。亚当·莫塞里表示，未来平台上不会出现“自我伤害图像”。

当《每日电讯报》问他为什么Instagram花了这么长时间才解决这个问题时，莫塞里说：“这是我们希望迅速纠正的问题。不幸的是，过去几周我们才意识到这一点。我们现在有责任尽快解决这个问题。“

目前，搜索一个带有用户自我伤害图像的主题标签时，首先会弹出警告说，以下某些帖子“可能会鼓励造成伤害甚至死亡”，并补充说，“如果你遇到困难，我们想提供帮忙”。

（四）

Ian呼吁政府从社交媒体手中夺回监管权也引发了连锁反应。

长期以来，英国政府一直主张由社交媒体公司实施自我监管。但是有证据表明公司没有对有害内容强制执行规则，也没有任何惩罚。

3月新西兰的恐怖袭击中， 攻击者使用Facebook 来直播杀戮过程，数百人观看了直播，直播持续了17分钟。直播结束12分钟之后才有第一个举报。在网站删除视频前又有4000人看到了视频。

目前的法律并没有跟上社交媒体的发展速度。像谷歌这样的公司价值超过900亿英镑，常规性的处罚对这些大公司并不具有威慑力。

Molly 事件之后，一篇评论写道：如果社交媒体公司自己做不到，民主政府必须介入，以维护我们年轻人的权利和安全。2月8日《独立报》的评论则说，现在国家需要采取最终行动，接管这些世界上最大的公司了。

数字、文化、媒体和体育委员会主席达米安·柯林斯告诉ITV，他相信科技公司对有害内容“视而不见”，“他们的商业模式收集了数十亿关于用户的数据，跟踪我们在互联网上的每一个动作，并建立我们的数据档案，以便他们可以将这些信息出售给广告商” 。

卫生部长马特·汉考克给这些科技公司写了一封公开信，呼吁采取紧急行动“阻止青少年陷入自杀陷阱”。他说：“让我明确一点，我们将在必要时引入立法。”

在BBC发言时，他敲打社交媒体公司说：如果不采取行动，政府有权实施经济处罚甚至禁令。

数字和创意产业部长詹姆斯在接受BBC采访时也发表了类似意见，“我们将引入法律，迫使社交媒体平台删除非法内容，并优先保护用户”。

文化部长杰里米·赖特也宣称政府会公布提案，帮助推动社交媒体迅速采取行动。

部长们形成了共识：对互联网巨头施加法律上可执行的注意义务，需要得到一个更加强硬的监管机构的支持，同时需要一个惩罚制度，可以对这些地球上最大的公司采取行动。

（五）

到了今年4月，一份由英国内政部和英国文化、传媒和体育部联合发布的白皮书上线，征求公众意见。

从政府网站上可以看白皮书的全文。浏览发现，这只是个框架式的东西，没有具体的执行细则，但是提出了一些方向性的改革建议，包括：建立一个独立的监管机构，为社交网络和互联网公司编写“行为准则”，这让英国将成为首个为社交媒体成立独立监管机构的国家；

新成立的监管机构的任务是指导和协助社交媒体解决在线安全问题，包括煽动和传播暴力（包括恐怖主义）、鼓励自残或自杀、传播虚假信息、网络欺凌、儿童剥削和虐待等；

政府有权指导监管机构处理恐怖活动或儿童性剥削等具体问题、监管部门有权强迫社交媒体公司删除非法内容；

政府正在就这个监管机构是建立一个新机构还是利用现有机构进行磋商，监管机构将由社交行业资助，将拥有执法权力，包括征税权和巨额罚款，确保所有公司在监管框架范围内履行注意义务；

以及，社交媒体公司需要提供年度“透明报告”，披露其平台上有害内容的流行程度和他们正在采取的措施。

白皮书的咨询截止日期到7月1日。从披露的框架性的内容分析，英国政府显然认为社交媒体没有能力完全扼制有害信息的传播，因此有必要由政府出面实施监管。这将根本改变此前的由社交媒体自我管理的做法。借用文化大臣杰里米·赖特的话说：“网络公司的自我监管时代已经结束。”

（六）

同时在英国社会中也弥漫着质疑，认为政府采取的接管行动正在威胁言论自由。一个全新的组织能否承担起管理互联网的艰巨工作？这个监管机构又将如何裁定那些虽然没有违法但可能被视为有害的信息？在具体操作中都有不小争议。

最激烈的反应当然来自社交媒体，他们不情愿拱手让出权力，在BBC的采访中，反对者炮轰政府的做法将“制定国家对数百万英国公民言论的监管”。

Facebook英国政策的负责人表示：“互联网的新规则应该保护社会免受伤害，同时支持创新，数字经济和言论自由。”

Twitter的英国公共政策负责人在声明中表示：“我们期待着参与该流程的下一步，并努力在保持用户安全和保持互联网开放自由的之间取得适当的平衡。”

代表英国科技产业的组织TechUK表示，政府必须“明确如何在预防危害与基本权利之间取得平衡”。

亚当·斯密研究所自由市场智囊团研究负责人马修·莱斯批得更狠。他说：英国一方面批评别国违反言论自由，同时又在破坏本国的自由，“政府应该为自己在互联网审查中领导西方世界感到羞耻。这些建议是对言论自由和新闻自由的历史性攻击” 。

英国并不是第一个对社交媒体开刀的国家。白皮书公布一周前，澳大利亚通过了一项法律，规定互联网平台如果未能删除“令人憎恶的暴力材料将被罚款”。德国2018年推出了类似立法，要求网站在24小时内删除“明显非法”内容，否则面临高达5000万欧元的罚款。

一方面英国一直宣称要建设世界最好的数字业务，另一方面又希望借助监管打造最安全的在线网络，这两个目标并不容易同时实现。世界上任何地方的政府机构能否在不压制言论和表达自由的情况下取得成功？严格的监管能否扼杀创新？英国政府的做法注定是个冒险。如何在监管和创新方面保持平衡，这场战斗能否真正改变网络生态，都有待观察。