【睡前消息1044】网络上瘾 让社交平台赔600万
美国重要互联网判例
一、美国互联网判例与230条款的背景
督工：大家好，2024年4月19日星期五，欢迎收看第1044期睡前消息，请静静介绍话题。
静静：3月25日，美国加州洛杉矶高等法院做出裁决，认定Meta和谷歌要对一名未成年用户的心理问题负责，两家公司要赔偿600万美元。新华社时评说，这个判例对我国有借鉴之效。督工，你怎么看？
督工：这是美国第一次形成判例，认定社交平台设计的算法要对未成年人的网瘾负责，确实值得关注。或者说，中国在网络管理方面只有惯例，缺乏明确的法律边界，必须通过关注美国才能修正管理模式。
先简单解释一下法律背景。过去将近20年，美国的社交平台一直享受着法律特权，在一般情况下不需要对内容负责。早在1934年，美国就颁布了《通讯法》，1996年修正之后增加了一个免责条款——230条款。这个条款规定，计算机服务的提供者不能被看作信息内容的发布者，平台账号发布什么东西跟平台没有直接关系。另一方面，如果平台方是出于善意，删除或者调整了用户内容，也可以免除民事责任。
美国给互联网平台特权，是20世纪早期互联网时代的遗产。上世纪90年代，美国是唯一的互联网大国，出现了第一批网络论坛，跟今天的网络环境类似。当时用户也会在论坛讨论各种八卦新闻，必然要包括很多谣言，制造很多法律纠纷。当时就有人主张，论坛的法律定性应该和报社或者杂志社一样，对自己发布的内容负责。
支持互联网发展的人对法官说，论坛更像是一个书店老板，不可能读过店里卖的每一本书，只有明知道书籍有问题还卖才需要承担责任。所以在1991年，纽约法院形成了一个判例，认定网络平台的身份确实更类似于书店，不需要对内容负责。任何人如果想要追究法律责任，只能去起诉发送信息的具体用户。
没过几年，美国互联网又发生一起案件。很多观众可能看过莱昂纳多主演的《华尔街之狼》。1994年，莱昂纳多原型贝尔福特创办的证券公司因为涉嫌欺诈被调查。同一时间，美国一家大型论坛发布消息，指责贝尔福特是大骗子，贝尔福特就把这家论坛告上了法庭。按照1991年的判例，论坛不需要承担法律责任，但是贝尔福特的律师找到了漏洞。论坛曾经发过广告，声称自己会主动过滤脏话，而且要聘用版主删除不当言论。在法院看来，既然论坛在管控内容，再说自己只是书店老板就不合适了。纽约州最高法院最后认定，论坛存在诽谤行为。
两个判例放到一起制造了一个悖论。如果一家论坛什么都不做，随便用户发什么内容就不会有责任。但如果有论坛想要管理内容，就算只漏掉一条不实信息，反而就要负责了。互联网公司用这个悖论反驳判例，产生了效果。1996年，两名国会议员提出一条法案，也就是今天的230条款。按这条规定，美国的社交媒体不需要对用户发表内容负责，而且只要理由说得过去，还可以删除用户的内容。
当然这个230条款也不让平台无限免责。首先，平台不能发布侵权内容，比如说盗版资源。也不能发布违反联邦法律的内容，比如说恐怖主义或者洗钱。其次，平台也必须接受检验，确定自己只是一个内容发布平台，不会主动参与内容传播。如果用户发布内容之后，平台主动打标签帮助引流，那就变成了共同创造者，必须承担责任。
还有一些极端案例，平台必须对自己诱导的心理效果负责。比如说Snapchat曾经推出一款滤镜，可以显示用户的驾驶速度。2017年，有三名用户为了刷出好看的数字，把车开到时速将近230公里，最后车祸死亡。法院最后裁定，Snapchat鼓励危险行为，属于产品设计缺陷，不能只当作一个内容服务提供商。总体来说，除了一些例外情况，只要平台可以证明自己没有参与内容创造和传播，就可以免除法律责任。过去20年，美国的互联网平台高速发展，鼓励用户自由创造，占领了中国之外的全球市场，230条款起到了很大作用。
在230条款形成的年代，网络论坛确实只是一个发布平台。因为中国没有相关的立法，中国的互联网平台也跟着美国的惯例，大致遵守了美国的法律秩序。比如说现在已经半死不活的天涯社区，当年正常运行的时候，各个板块内部内容基本上都是按照时间排序，平台一般不会随便调整。汇集了各个板块优质内容的热榜，一般来说也确实是用户自己点出来的，平台只负责发布。甚至2011年出现的知乎，早期的主要信息流也来自用户自己选择的关注列表，平台推荐的内容是第二位的。
但是就在2011年前后，全世界的社交平台都发现了，让用户自己去选择信息流、决定信息流，不利于赚钱。互联网平台可以不去管大多数用户发什么，但是必须管到用户能看什么，以及他们发送的东西有多少人能看到。这就是我们现在每天都被迫适应的深度学习推送，自动捕捉用户的兴趣，达到定制化的内容分发，再叠加平台企业手动推送的商业信息流。
在互联网上，每个人都有自己的个性化信息流，优先会和自己观点类似的人形成互动，这就是所谓的信息茧房。不同的人会看到不一样的互联网世界。但在早期互联网时代，信息茧房只能是每个人自己手动选择的。只要有人用理性意识到自己看到的内容有局限，就可以手动修改关注列表，用理性去打破信息墙。到了最近十几年，推送算法成形之后，无论是算法迎合用户推送的内容，还是平台为了商业利益刻意添加的内容，都无法辨别，也不能拒绝。每个人都在接受平台给自己定制的信息，被算法、商业合同以及自己的情绪包围，而且不能拒绝，不能打破。
这就产生了一个新问题，社交平台制造了推荐算法，而且没有问过用户的意见。如果用户看了推荐内容产生了法律问题，社交平台要不要负责呢？这在中国是一个含含糊糊，没有办法精确讨论的问题。但在美国，是一个必须严肃讨论的法律规范。
二、算法上瘾判例：凯莉诉Meta与谷歌案
这还没到夏天，就有朋友发私信来问这个小冰被的券。我一看他的坐标在广东，我就懂了。所以啊，我又问小鹿的PR要了券。他这次推出的小冰被2.0我是试过的，上手依旧是凉凉滑滑的质感，透气更是做了升级。我这条才100多，很划算，体感比三四百的相凉被还要好。很多地方已经开始热了，可以提前准备起来，到时候把这一换直接就一键入夏。小鹿不用多说，是老熟人了，好多朋友都在我这里买过，好评也不少。这条被子依旧强推。它设计了双面不同的质感。A面的Q-Max值高达0.49，将近国标凉感值的两倍，光是摸着就凉快，盖在身上更是消暑，一躺进去那股燥热就没了。B面保留一定凉感的同时，又软又糯，适合裸睡的时候盖，贴肤裹着很治愈。睡一觉疲惫都能扫光。内里填充的生物基聚乳酸纤维，是从玉米红薯提取的天然原料。它还添加了东华大学联合研发的透气安心丝。像前几天温度上去的时候，我盖着睡了几晚，一整晚下来身体都很清爽。我说大家那几床老棉被不用带到夏天了，盖着又闷又不透气，盖在身上还会粘粘的，晚上睡不好，白天工作都没有精神。就趁着这时候换季，把这个小冰被2.0换上。它是A类母婴标准的七级抗菌面料，我没有套被套直接睡都很放心。脏了可以直接丢洗衣机，洗完了也不会变形结团。睡个几年都不成问题。尤其是家里有老人，就算扛着热他们也不舍得开空调，给他们买这床被子，天再热盖这么一条都冰冰凉凉的。现在领券到手就是全年低价了，有三个颜色两种尺寸可选，小的是单人盖，平时还能当沙发毯，大的一家人睡都没有问题。他们的店里还有玻尿酸款，想要边睡觉边护肤的可以入了。运费险和两年质保都全，赶紧给家里安排上啊。
静静：这次法官为什么要认为平台要为用户的心理问题负责？
督工：因为原告和律师找到了证据，证明平台主动引导用户上瘾。算法是平台为此专门打造的工具。这里简单讲述一下案情。原告是一个20多岁的女性，化名凯莉。从6岁开始，凯莉就在YouTube看视频。8岁的时候，凯莉谎报年龄，开设了自己的YouTube账号。两年时间，凯莉上传240个视频。为了给自己的视频引流，凯莉还开了9个小号，给自己的作品点赞和评论。
到了9岁，凯莉又注册了Ins账号。按照凯莉的说法，自己每天醒来就要打开Ins，然后玩到深夜，最多一次连续玩了16个小时。凯莉声称，这些社交媒体不停地播放感兴趣的内容，没完没了，让她根本停不下来。高强度的网上冲浪很快给凯莉带来了焦虑。如果自己的作品拿不到点赞，凯莉就会自我攻击。等到凯莉十多岁的时候，几乎没有什么朋友，每天只能刷社交软件到半夜。同时，这些平台还让凯莉产生了身材焦虑。
跟绝大多数中国软件一样，Ins也提供了美颜滤镜，让用户看起来又瘦又漂亮。为了吸引观众，凯莉就必须保持身材，不然就没人看。按照凯莉的说法，自己是一个社交媒体重度成瘾者，任何人想要拿走她的手机都会引发她的恐慌情绪。代理律师因此宣布，凯莉是典型的社交媒体受害者，互联网巨头需要对此负责。
Meta和谷歌的律师也知道，直接讨论算法责任问题对自己不利，所以主要的辩护方向是替代因果关系，把平台责任摘出去。律师详细调查了凯莉的家庭，认为凯莉就算没有接触社交媒体，生活也不会变得很好，还是会产生心理问题。按照辩护律师的调查，凯莉三岁的时候父母离婚，基本上没有见过父亲。在母亲一方，辩护律师也找到一些证据，证明有精神虐待行为。比如说凯莉曾经录过一段视频，她的母亲正在大声地辱骂，说到笨和蠢。凯莉还给自己的姐姐发短信，说妈妈不准她吃东西，证明凯莉有身材焦虑跟平台没有关系。在凯莉13岁的时候，姐姐自杀未遂，后来因为进食障碍直接住院了。律师以此宣布，凯莉就算不用社交软件，迟早也会产生心理问题。
情况看起来对于凯莉不太乐观。但是到了质证环节，这两家公司的员工出来作证，给出了关键事实。员工说，公司早就知道推送机制会让用户上瘾，而且儿童缺乏自控力，是最好的拉新目标。一名Meta员工表示，公司设计算法就是想让用户沉迷，追求Ins的奖励。YouTube有份备忘录显示，公司认为赢得青少年最好的办法就是赢得儿童。对于大公司律师列出来的凯莉家庭矛盾，原告的律师反驳说，就是因为凯莉的家庭环境脆弱，社交媒体的诱导行为才更容易引发心理问题。
经过一个月的商量，洛杉矶高等法院做出判决。首先，让凯莉上瘾的平台内容本身符合230条款规定，平台确实不需要负责。但是，平台设计的一整套使用逻辑，比如说算法推送、通知点赞数量、提供美颜滤镜，就是想让未成年人上瘾，也给未成年用户带来了心理压力。所以法院和陪审团裁定，Meta和谷歌要赔偿600万美元。
三、判例的影响与全球社交媒体监管趋势
静静：谷歌和Meta赔钱会影响其他公司吗？
督工：会的。对于美国互联网公司来说，这点钱不是大问题，真正的问题是判决本身。美国是一个判例法国家，法官做出的法律结论，除非被高级法院推翻，否则都会影响后续类似案件。中国虽然总体上算是大陆法系，这些年也开始重视判例。最高法和最高检都会定期发布指导案例，给基层法院做判案依据。现在中国检察机关判断是否是正当防卫，有一条原则，“法不能向不法让步”。这来自2018年的昆山龙哥案，被列入当年的指导案例，成为司法机关的依据。
回到凯莉案，今年2月份宣判之前，已经有大量的父母聚集到法院门口，认为社交媒体要对孩子的死亡负责，需要赔偿。按照媒体说法，现在已经有超过1600名原告准备起诉社交平台，除了Meta和谷歌，也包括了TikTok和Snapchat。接下来一段时间，美国估计会出现大量的类似案件。美国互联网巨头的赔款肯定不止这600万美元。
另外除了凯莉案，扎克伯格还有其他麻烦。前面提到230条款有很多的例外情况，比如说违反联邦法律需要负责。这又带来另外一个问题，就算互联网平台发布了违法内容，地方检察机关也没有权利起诉，只能去协调联邦政府。美国有一些网站就利用230条款当了保护伞，发布未成年性交易内容，被告的地方法院一般不会担责。所以在2018年，美国又修订了230条款，在性交易方面剥夺了社交平台的豁免权。从这一年开始，只要社交平台涉嫌协助性交易，各州都有权提起公诉，受害人也有权直接起诉要求赔钱。法律修订之后，各大网络平台马上就修改了自己的算法，开始限制性交易内容。
扎克伯格的Meta就被新墨西哥州的检察机关盯上了。在美国，如果互联网平台发现了涉及儿童的违规内容，必须向儿童保护中心举报，儿童保护中心再把举报信息分发给各地的警察。但是互联网平台来做这种不赚钱的事情，积极性很差。2022年，儿童保护中心一共收到了3200万份举报，其中84%来自Meta。举报信息基本上都是AI生成的低质量内容，对警察基本上没什么用，反而浪费了大量精力。
Meta工程师警告过公司高层，用AI生成报告会影响质量，结果并没有引起公司重视。Meta的行为已经引起了执法部门的不满。新墨西哥执法人员启动一次秘密行动，注册了很多儿童账号。结果账号刚刚创建，就收到了大量的性暗示信息和成人内容。新墨西哥法院的陪审团因此认定，Meta明知道产品有缺陷会助长儿童的性剥削，但是没有修改算法逻辑，违反了当地的不公平行为法。所以Meta每一次误导推送都要罚款5000美元，总额累积3.75亿美元。
最让扎克伯格心烦的恐怕不是罚款。美国政府机构起诉大型企业一般要分两步走。第一步是陪审团决定公司有没有犯错，要不要赔钱。基本事实确定之后，法官还要进行第二次审理，确定企业应该怎么整改，以后才能不再犯错。今年5月份第二阶段就要开庭了。检察机关希望法院能够出台禁令，强制要求Meta修改算法，甚至任命了监管人员进入公司，监管算法的合规情况。现在美国所有社交平台肯定都在关注5月份的庭审进展。
很多观众应该记得，2021年扎克伯格看准了元宇宙概念，给资本市场讲故事，直接把自己的公司名字改成了Meta。一年之后，ChatGPT的3.5版本上线，新一轮增长重心变成了AI。扎克伯格又开始紧急补课，高价花钱收购公司，其中包括中国企业沐瞳科技。结果又惹了新麻烦。至于说元宇宙业务，Meta花掉800亿美元没有任何结果，今年6月份就要正式关闭了。AI掉队，赚钱业务遇到司法麻烦，扎克伯格的日子应该很不好过。
另外最近几年，美国以外的西方国家都开始限制未成年人使用社交媒体。比如说2024年底，澳大利亚通过了网络安全修正案，要求社交媒体必须采取合理措施，阻止未满16岁的人使用服务。如果有企业不配合，罚款可能会达到4950万澳元，折合人民币将近2.3亿。去年底澳大利亚再次立法，直接禁止16岁以下的人群拥有社交媒体账号，在全球是第一个。今年1月份，英国上议院也表决通过一项法律，同样禁止16岁以下的未成年人使用社交媒体。
英国社交媒体禁令现在走到了下议院审议程序。为了评估禁令是否必要，英国政府在3月份启动了一组社会实验。有将近300名青少年被分成几个不同的组。有的组完全禁止使用社交媒体，有的是晚上禁止使用社交媒体，还有的是每天只准用一个小时。实验同时设立一个对照组，可以随便使用社交账号。按照计划，实验会重点关注这些受试者的睡眠质量、学习情况以及家庭关系。包括中国在内，很多国家都在关注这个社会实验的进展。最新消息，法国总统马克龙提出，15岁以下的年轻人禁止使用社交媒体，互联网平台恐怕要换一种方式去吸引年轻用户了。
美国互联网这些问题在中国互联网上都存在，而且更严重。因为用户基数大，提供的数据多，在短视频行业，最强的推荐算法就来自中国，可以充分挖掘用户的潜意识，放大情感价值，压制理性思考。在其他平台，用户就算自己手动定制关注列表，也不能按照自己的列表去看信息流，一定会被平台强行插入其他信息。至于说各平台的榜单和进入大容量流量池的本地信息，凡是智商正常的中国人，只要看一秒钟就不会相信这是用户自己投票选出来的，必然是算法和人工引导的结果。
到了2024年，每一个中国用户都被养在无法拒绝的信息茧房里。但是中国的网络平台也并不满意这种情况，因为这些权利或者说特权并不是230条款或者是其他法律明文保护的，只是长期以来的惯例。或者说，是互联网平台野蛮生长试探出来的生存空间。虽然中国的网络平台不会被忽然起诉，对网络成瘾的用户不会赔偿几百万美元。但是日常运行，网络平台也不能拿出230条款说我只要不干预信息流，就可以对其他责任绝对免责。
实际运行的时候，因为模糊但是推脱不掉的责任，互联网平台和员工的压力也很大，也要投入天文数字的开支负责监控和筛选信息。这又进一步限制了普通人的权利。不经过法律程序，平台员工就可以让一个用户说不出话，或者看不到特定的信息。在一个模糊的法律空间里，平台和普通用户可以同时是受害者。
所以一开始提到的新华社时评说的对，美国的互联网立法、美国的重要互联网判例都值得中国人严肃借鉴。虽然中美两国国情不同，借鉴不等于照搬，但是最值得借鉴的内容本来也不是判决本身，而是互联网管理需要明确法律边界的共识。如果有人认为美国的法律不适合中国国情，结论是没有问题的，但是至少要先说清楚什么是中国国情，然后公开讨论，在博弈中去制定适合中国的互联网法律。否则的话，中文互联网长期只能按照惯例和传统运行，用暗号分配的方式修修补补，早晚会因为积累的矛盾把内容产业卡死，让互联网信息变成定期循环的情绪垃圾。
感谢大家收看，1044期睡前消息到此结束，我们周二再见。