Facebook的WhatsApp (NASDAQ:FB) 长期以来因其端到端加密而受到称赞,这种加密可确保用户的隐私。在过去一年Facebook和其他网站发生用户数据洩露和隐私丑闻之后,政府和消费者最近都要求社交媒体网站和科技公司提高透明度和内容管理。然而,犯罪分子还是可以在旨在保护网民的安全措施上有机可趁。

例如,儿童色情作品作者为了自己的邪恶目的而使用加密服务。以色列两个非政府组织刚刚发布详细调查,显示WhatsApp被许多人用作分发儿童色情内容的前线,因为其加密质量和未经筛选的内容。非法照片和视频主要通过WhatsApp群组分发,这些群组公然暗示聊天的色情内容。

作为对低质量筛查指控的回应,WhatsApp发表声明称:"WhatsApp对儿童性虐待採取零容忍政策,我们採用最先进的技术,包括人工智能、扫描内容中的个人资料照片和图像,以及积极禁止涉嫌分享这些恶劣内容的账户。我们还响应世界各地的执法请求,并立即向国家失踪与受剥削儿童中心报告滥用情况。可惜的是,因为应用商店和通信服务被滥用以传播违法内容,科技公司必须共同努力阻止它。"

自2016年引入群组邀请链接功能以来,人们可以加入不了解任何成员的群组,增加儿童色情和毒品转移的风险。

更重要的是,审核都是自动化的,因此WhatsApp的保护措施存在漏洞,这些保护措施不断被剥削,包括256个成员的上限。事实上,WhatsApp只有300名员工负责监控非法活动。

虽然由Facebook拥有,WhatsApp几乎单独的实体运营 - 这意味着Facebook没有投入相同的资源来监控WhatsApp上的活动,而是将其用于其他违反政策的行为。事实上,儘管Facebook最近採用了一种新的机器学习工具来删除大约870万张带有儿童裸露的照片,但WhatsApp的加密功能使得以软件为主的过滤无法进行。

WhatsApp採用群组链接作为一种据称是故障安全的增长黑客措施,但没有安装必要的安全设备来监控此类举动带来的大量负面内容。

对WhatsApp内容审核的宽鬆态度可能是因为WhatsApp知道其用户群主要位于印度,监管筛选相对不常见,并且对屏幕内容的需求较少,缺乏监督极大地促成了"假新闻"和非法内容的传播。