必应搜索被曝包含儿童色情内容 微软承诺努力修复

2019-01-11 11:01      腾讯科技 审校/金鹿  [用户 L001上传 ]  


  1月11日消息,据外媒报道,在微软的必应搜索引擎上,很容易找到非法利用儿童的图片。而更令人担忧的是,必应可提供相关的关键字和图片,为恋童癖者提供更多的儿童色情内容。在接到匿名举报后,美国科技媒体TechCrunch委托在线安全初创公司AntiToxine发布了一份调查报告,结果令人震惊。

  调查发现,像“色情儿童”、“色情CP”(儿童色情的缩写)以及“裸体家庭儿童”等词汇,都出现了非法利用儿童的图片。即使是没有刻意搜索这些令人厌恶内容的人,也可能会被必应引向它。

  当研究人员搜索“Omagle Kids”(受青少年欢迎的视频聊天应用程序)时,必应自动完成的推荐包括“Omegle Kids Girls 13”,搜索时会发现大量的儿童色情内容。如果用户点击这些图片,必应会在其Similar Images功能中显示更多非法虐待儿童的图片。另一个对“Omegle for 12 years old”的搜索,促使必应建议搜索“Kids On Omegle Showing”,这会显示更多的犯罪内容。

  证据显示,微软未能充分控制其必应搜索引擎,也未能阻止其推荐搜索和图片帮助恋童癖者。谷歌上的Similar搜索功能并没有像必应那样产生明显的非法图片,也没有产生更多必应那样令人担忧的内容。像微软必应这样的互联网公司必须投入更多资金,通过可扩展的技术解决方案和人类版主来打击这种滥用行为。微软这样的公司没有借口不为安全措施提供充足的资金,该公司上个季度实现了88亿美元的利润。

  TechCrunch此前收到了匿名举报,内容涉及必应令人不安的问题。上个月,有报道称WhatsApp上存在非法利用儿童图像的聊天群体,此后WhatsApp禁止了更多此类群体及其成员,谷歌将WhatsApp群体发现的类似应用程序踢出了Google Play,谷歌和Facebook都阻止了这些应用运行它们的广告,后者同意向广告商退款。

  接到匿名举报后,TechCrunch委托AntiToxin对必应的题进行调查,并在适当的法律监督下,于2018年12月30日至2019年1月7日进行了调查。人们在“安全搜索”功能关闭的情况下,在桌面版的必应上进行搜索。AntiToxin成立于去年,旨在开发技术保护网络,让人们免受欺凌其他形式的虐待。

  AntiToxin首席执行官佐哈尔·莱克维茨(Zohar Levkovitz)表示:“作为家长,我们应该期望负责任的科技公司加倍努力,以确保他们不会给已经很危险的儿童网络环境增加毒性。作为AntiToxin的首席执行官,我想明确表示,我们将随时待命,帮助任何将保护儿童作为首要任务的公司。”

  微软必应与AI产品首席副总裁Jordi Ribas发表声明称:“很明显,在我们的标准和政策下,这些结果是不可接受的,我们感谢TechCrunch让我们意识到这一点。我们立即采取行动将其移除,但我们也希望防止今后发生任何类似的违规行为。我们专注于从中吸取教训,这样我们就可以做出必要的改进。”

  微软声称,该公司已经指派了工程团队来解决被披露的问题,现在他们正在阻止任何类似的查询,以及有问题的相关搜索推荐和类似图片。然而,AntiToxin发现,尽管其报告中的部分搜索词现在已被适当禁止或清理,但其他搜索词仍会显示非法内容。

  微软表示,该公司正在改变必应的标记选项,将用户可以报告的类别囊括到“儿童性虐待”等更广泛的类别中。当被问及这个问题是如何出现的时,微软发言人指出:“我们和谷歌一样,对所有东西都进行了索引,我们会尽最大努力进行筛选。我们使用PhotoDNA和人类审查员相结合的方式,但这并不能让我们每次都做到完美。我们一直致力于变得更好。”

  微软发言人拒绝透露有多少审查员为必应工作,也不愿透露微软是否计划增加更多人力以加强防御。但他接着试图反驳上述推理,并说,“我有一种感觉,你是在说我们完全搞砸了,我们总是很糟糕,这显然不符合事实。”然而实际上,微软确实搞砸了,而且它开创了非法图像检测技术PhotoDNA,这种技术被其他科技公司使用,但这并没有改变这一点。

  必应儿童色情问题是这家科技公司拒绝将利润充分再投资于确保自身客户和整个社会安全的又一个例子,公众不应再将这些缺点视为科技巨头不负责任地优先考虑增长和效率的后果。事实证明,技术解决方案没有足够的保障措施,需要更多的人手把关。这些公司现在必须付出代价,以保护我们免受它们所释放的危险所伤害,否则世界将不得不为安全付出代价。

相关阅读