伴随着互联网的发展,各种渠道、机会增加,诈骗、色情等灰黑产也在阴影处不断滋生。
其中,「不实信息」就是威胁用户上网安全的一大因素。
相信不少冲浪的用户,都见识过“信息欺骗”的力量——贩卖焦虑赚钱,煽动男女对立吸流量。
那些「不实信息」伴随着互联网的特点被快速扩大和加速传播,通过夸张、画质低劣的视频煽动用户情绪,甚至对用户进行洗脑,引导用户落入财务陷阱。
那么,这些「不实信息」究竟是如何产生的?我们又该如何抵挡「不实信息」的侵害?
对此,抖音在 8 月 16 日举办“治理不实信息开放日”,相信我们能从中得到答案。
01 什么是「不实信息」?
提到「不实信息」,不少业内人士认为,其威胁性不亚于网络诈骗。
“网络诈骗固然可恨,但是由于不断地宣传教育+严厉打击,用户的心智已经相对成熟,甚至会在抖音小安的提醒下主动举报;相比之下,用户难以甄别「不实信息」,更容易中招。”
在「治理不实信息开放日」的相关信息中,运营社发现,抖音明确界定了不实信息并非仅仅指谣言,而是虚假人设+谣言+辅助传播工具的结合。
这意味着「不实信息」定义范围更广,相较于谣言,「不实信息」也更加狡猾难缠,因此抖音用了一个更高更全局的视野去分析和治理这个风险。
这具体体现在界定「不实信息」形式的多样化上:
一方面,「不实信息」会以虚假的专业知识存在。
美国社会学家奥尔波特和波斯特曼曾总结过一个谣言公式: 谣言的传播能力=(问题重要性×谣言模糊性)÷公众判断能力。
这个公式认为,公众判断力越弱,谣言的传播能力就越强。
因此我们也就不难发现,由于大众科学素养缺失,在专业知识领域,尤其容易出现「不实信息」。
拿健康知识举例,随着生活水平的提高,用户越来越关注家居环境,于是不少不法分子利用用户的恐惧过度渲染「甲醛危害」,甚至引诱用户缴纳各种“除甲醛智商税”……
这种「不实信息」就属于在专业知识中,掺入虚假信息,形成半真半假的内容。对此,不仅用户难以辨别,就连平台想要出手打击也颇为费力。
另一方面,更多的「不实信息」还会存在于庞杂的社会类新闻中。
受到巨大的流量引诱,只要有热点资讯,这些「不实信息」常常会出现。
第一类是日常主动编造类型。
比如抖音前一段时间封禁的“外卖小哥,因为一份麻辣烫给我下跪”这类视频。
大量不同的账号,批量编造着同样的内容——一个外卖小哥带着两个孩子送外卖,孩子真正的父母都去世了云云,以此来博取不正当流量。
由于其编造内容均来自日常生活,在没有发酵前,极难被甄别处理。
第二类是重大事件中蹭热度、仿冒正主类型。
比如俄乌战争前后,各种蹭热度的“第一手信息”层出不穷—— 2 月 27 日,一名在乌克兰工作和生活的华人,利用海内外信息差,将俄罗斯阅兵时场景编入视频在多平台分发,谎称为俄乌战争视频。
再比如,6 月 10 日,唐山事件出来以后,为了挑拨群众,恶化矛盾,获取不益流量,不少违法账号仿冒正主出来发声,甚至虚假摆拍,称“受害女子被打死”、“被汽车碾压”等。
短短三天时间,平台就主动拦截和处置了 157 个违法、违规账号,处理违规视频 4992 条。
第三类是演绎摆拍被当作真实事件传播类型。
前段时间,在海南三亚,一女子在夜市内唱歌被客人泼酒的视频引发热议,随后,视频中店铺的工作人员却表示,“该视频是拍摄的段子,出镜的都是自家的员工,都是有剧本的”。
这类视频的内容大多具有煽动性,让情绪上头的用户难以辨别。
除此以外,还有两类由于“传递不当”产生的「不实信息」,包括用户以讹传讹,对事件进行玩梗、猜测,引发大量关注和传播后,导致的「不实信息」;还包括由于信息传递不完整,受众进行各种猜测,造成的「不实信息」。
综上,我们不难发现,和其他网络灰黑产相比,「不实信息」在前期真相不明的时候,具有极强的隐蔽性。
对于用户来说,它们往往披着「科普」、「真实」的外衣,却和诈骗、网暴、色情等行为结合,将用户带入「情绪」、「认知」的陷阱中。
对于平台来说,任由「不实信息」横行,不仅会降低用户信任度,长此以往,更有损平台公信力,而比点击量更珍贵的,恰恰是平台的公信力。
02 打击「不实信息」,非一方之责
了解了「不实信息」的狡猾和难缠以后,我们也就不难理解,为什么被处理的不实信息占整体比重极小,抖音仍然坚决打击处理。
观察下来,在多轮较量、长期观察后,这场打击「不实信息」的战役似乎已经进入到相持阶段——「不实信息」不断迭代,抖音也不断更新能力,包括追溯、研判、干预……
「虚假专业知识」类不实信息账号善于利用权威人设伪装自己,那么抖音就会对创作者和内容属性进行「分析」,还会通过各方努力对内容进行「验真」,帮助用户甄别虚假知识。
「日常主动编造类型」和「演绎摆拍被当作真实事件传播类型」不实信息往往取材于现实生活,用户难以界定是真是假,是真实发生还是恶意煽动。
对于这类暂时无法核实又被怀疑的视频,抖音会利用「提醒」能力进行打标处理,提示用户理性看待。
「重大事件中蹭热度、仿冒正主类型」不实信息往往热较度高,且极易传播出去。
因此抖音就上线了「拦截」和「打标」能力,主动拦截已经明确的不实信息,同时限制其再次传播,从流量源头掐断不实信息的滋生。
抖音公开数据显示,2022 年以来,在多重能力加持下,抖音共处理 319 万条不实信息, 对 90 万条存疑信息打标。
这样看,在处理「不实信息」上,抖音历经百战,似乎已有进展。
但是,在对话时,抖音相关负责人却告诉运营社,抖音在治理不实信息上依然存在困难,常年单打独斗+层出不穷的「不实信息」,对平台的精力和耐力提出了极大的考验。
对方提到,他们在处理「不实信息」过程中,面临着杜绝难、核实难、辟谣难三大问题。
首先,从源头上看,「不实信息」难以被杜绝。
原因有二:
一方面,只要流量不息,不法分子就会一直制造谎言,谎言不结束,「不实信息」就会一直存在。平台也不可能为了杜绝「不实信息」,就将所有“经过艺术加工的视频”限流甚至封禁,投鼠忌器,「不实信息」也就越来越猖獗。
另一方面,我国目前针对谣言的法律治理机制还不完善,不法分子仍然有漏洞可钻。