Facebook正在推出一种新的复仇色情检测工具，利用AI来追踪未经同意分享的亲密照片。该公司声称，机器学习可以帮助它在用户举报之前检测近乎裸体的图像和视频。然后由人工管理员审查标记的内容，如果违反了社区标准，就将其删除。该公司表示，分享复仇色情内容会导致Facebook封杀其来源的账号，不过如果出现不正确的删除，可以上诉。
这些工具将同时在Facebook和Instagram上推出。它们还包括为受害者提供的资源——比如当地支持团体的联系信息，以及如何报告内容的指南——在Facebook的安全中心。这些工具是用户反馈的结果，包括与来自英国、肯尼亚和丹麦的受害者、倡导者和学者的讨论。Facebook表示，它还利用美国、巴基斯坦、巴西和韩国的非营利组织，帮助为受害者创建与文化和当地相关的资源。
Facebook在一篇博客文章中表示：我们创建了上传图片的副本，以防止将来共享。“在未来几个月将扩大这一试点，让更多的人在紧急情况下可以从这一选择中受益，”
Facebook全球安全政策项目经理Karuna Nain和产品政策研究主管Radha Iyengar在一篇博客中写道：“我们的研究表明，我们可以改进我们的报告工具，以确保它们更方便使用，不会让那些尝试使用的人感到沮丧。”
图文出自：engadget
原文链接：https://www.engadget.com/2019/03/15/facebook-ai-revenge-porn/
