Facebook吹哨人Frances Haugen在美国参议院作证

　　据外媒 TechCrunch 报道，在周日晚上透露了自己的身份后，向《华尔街日报》泄露有争议的 Facebook 文件的检举者 Frances Haugen 于当地时间周二在美国参议院商业、科学和运输委员会作证。

　　Haugen 的证词是在上周的听证会之后作出的，当时 Facebook 全球安全主管 Antigone Davis 被问及该公司对儿童和青少年的不利影响。Davis 的证词让参议员们感到沮丧，因为她没有直接回答问题。但曾在 Facebook 担任公民错误信息项目经理的 Haugen 更愿意提供信息。

　　Haugen 是一位算法专家，曾在 Google、Pinterest 和 Yelp 等公司担任项目经理。当她在 Facebook 时，她处理与民主、错误信息和反间谍有关的问题。

　　“在四个不同类型的社交网络工作过后，我明白这些问题是多么复杂和细微，”Haugen 在她的开场白中说。“然而，在 Facebook 内部做出的选择是灾难性的–对我们的孩子、对我们的公共安全、对我们的隐私和对我们的民主，这就是我们必须要求 Facebook 做出改变的原因。”

　　算法

　　在整个听证会上，Haugen 明确表示，她认为 Facebook 目前的算法是危险的，该算法奖励那些产生有意义的社会互动（MSI）的帖子。这种新闻源算法于 2018 年推出，优先考虑来自 Facebook 认为你最亲近的人的互动（如评论和点赞），如朋友和家人。

　　但正如 Haugen 泄露的文件所显示的，数据科学家提出了担忧，认为这一系统产生了“对重要的公共内容片断的不健康的副作用，如政治和新闻”。

　　Facebook 还使用了基于参与度的排名，其中人工智能显示它认为对个人用户最感兴趣的内容。这意味着引起用户强烈反应的内容将被优先考虑，促进错误信息和暴力内容。Haugen 表示，她认为按时间顺序排列将有助于减轻这些负面影响。

　　“我职业生涯的大部分时间都在研究基于参与的排名等系统。当我来到你们面前说这些话时，我基本上是在破坏我自己 10 年的工作，”Haugen 在听证会上说。

　　正如 Haugen 周日晚上在《60 分钟》节目中所说的那样，她曾是 Facebook 在 2020 年选举后解散的公民诚信委员会的成员。Facebook 在 2020 年美国总统选举前实施了保障措施，以减少错误信息。选举后，它关闭了这些保障措施。但在 1 月 6 日美国国会大厦遇袭后，Facebook 又将其重新打开。

　　”Facebook 在选举前改变了这些安全默认值，因为他们知道它们很危险。因为他们希望在大选后恢复这种增长，所以他们又恢复了原来的默认值，”Haugen 说。”我认为这是有很大问题的。”

　　Haugen 表示，Facebook 正在强调一个错误的选择–他们可以使用他们不稳定的算法，继续他们的快速增长，或者他们可以优先考虑用户的安全和下降。但她认为，采取更多的安全措施，比如来自学术界、研究人员和政府机构的监督，实际上可以帮助 Facebook 的底线。

　　”我所要求的是（摆脱）短期主义，这就是今天 Facebook 的运行状况。它是由指标而不是人领导的，”Haugen 说。”有了适当的监督和一些限制，Facebook 有可能在 5 年或 10 年后成为一家盈利能力更强的公司，因为它没有那么大的毒性，也没有那么多人退出。”

　　建立政府监督

　　当被问及作为一个”思想实验”，如果她是首席执行官马克-扎克伯格，她会做什么时，Haugen 说，她会制定关于与包括国会在内的监督机构共享信息的政策；她会与学术界合作，确保他们有必要的信息来进行关于平台的研究；她会立即实施已确定的”软干预措施”，以保护 2020 年选举的完整性。她建议要求用户在分享链接之前点击链接，因为其他公司如 Twitter 已经发现这些干预措施可以减少错误信息。

　　Haugen 还补充说，她认为 Facebook 目前的结构无法防止疫苗错误信息的传播，因为该公司过度依赖人工智能系统，而 Facebook 表示，这些系统可能永远无法捕捉到超过 10% 到 20% 的内容。

　　后来，Haugen 告诉委员会，她”强烈鼓励”改革第 230 条，这是美国《通信规范法》的一部分，它免除了社交媒体平台对其用户发布内容的责任。Haugen 认为，第 230 条应豁免有关算法的决定，使公司有可能在其算法被发现造成伤害时面临法律后果。

　　”用户生成的内容是公司不太能控制的东西。但他们对自己的算法有 100% 的控制，”Haugen 说。”Facebook 不应该在它做出的优先考虑增长、病毒性和反应性而不是公共安全的选择上获得自由通行证。”

　　参议员 John Hickenlooper 问，如果算法促进安全，Facebook 的底线会受到什么影响。Haugen 回答说，这将产生影响，因为当用户看到更多有吸引力的内容时（即使它更令人愤怒而不是有吸引力），他们在平台上花费更多时间，为 Facebook 带来更多广告费。但她认为，如果该平台遵循她所概述的改善用户安全的步骤，仍然会有收益。

　　国际安全

　　正如《华尔街日报》报道的那样，根据 Haugen 泄露的文件，Facebook 的员工标记了该平台被用于海外暴力犯罪的情况，但该公司的应对措施并不充分。

　　例如，员工们对埃塞俄比亚的武装团体利用该平台协调针对少数民族的暴力袭击表示关切。由于 Facebook 的审核做法非常依赖人工智能，这意味着其人工智能需要能够在其 29 亿月度活跃用户所说的每一种语言和方言中发挥作用。据《华尔街日报》报道，Facebook 的人工智能系统并没有涵盖网站上的大多数语言。Haugen 说，虽然只有9% 的 Facebook 用户讲英语，但该平台 87% 的错误信息支出都是针对讲英语的人。

　　”看来，Facebook 对那些赚钱最多的用户投资更多，尽管危险可能不是根据盈利能力平均分配的，”Haugen 说。她还说，她认为 Facebook 的反间谍、信息运营和反恐团队的人员配置始终不足，是一种国家安全威胁，她正在与国会其他部门沟通这一问题。

　　Facebook 的未来

　　参议院委员会的成员表示，他们有动力对 Facebook 采取行动，而 Facebook 也正处于反垄断诉讼中。

　　”我实际上是反对拆分 Facebook 的，”Haugen 说。”如果你把 Facebook 和 Instagram 拆开，很可能大部分广告费都会流向 Instagram，而 Facebook 将继续成为这个危及世界各地生命的’科学怪人’，只是现在没有钱来资助它。”

　　但批评者认为，此前 Facebook 六个小时的宕机–与周二的听证会无关–显示了一家公司拥有如此多控制权的弊端，尤其是当 WhatsApp 这样的平台对海外通信来说是如此不可或缺。

　　与此同时，立法者们正在起草立法，以促进未成年人在社交媒体平台上的安全。上周，参议员 Ed Markey（D-MA）宣布，他将与参议员 Richard Blumenthal（D-CT）重新提出名为 KIDS（儿童互联网设计与安全）法案的立法，该法案旨在为 16 岁以下的在线用户建立新的保护措施。周二，参议员 John Thune 提出了他与其他三名委员会成员在 2019 年提出的一项两党法案，名为《过滤泡沫透明度法案》。这项立法将提高透明度，让用户可以选择查看不是由秘密算法策划的内容。

　　参议员 Blumenthal 甚至建议 Haugen 再来参加听证会，讨论她对 Facebook 威胁国家安全的担忧。尽管 Facebook 高层在听证会上对 Haugen 发表了反对意见，但政策制定者似乎被她的证词所感动。