算法争议频出,“谣言”和“网暴”治理难点在哪?|界面新闻 · 科技

算法争议频出,“谣言”和“网暴”治理难点在哪?|界面新闻 · 科技

宇文邕 2025-01-24 公司架构 29 次浏览 0个评论

界面新闻记者 | 肖芳

界面新闻编辑 | 文姝琪

去年11月 ,农夫山泉创始人钟睒睒公开喊话要求今日头条、抖音让内容平台的推荐算法问题再度引发公众讨论。

在他看来,抖音 、今日头条是一个以盈利为目的的平台企业,应该承担企业的文明准则和规则 。

虽然推荐算法并非新生事物 ,围绕它的争议却从未间断。上线初期,推荐算法带来低质内容泛滥的问题曾引发讨论,一些内容创作者为了迎合算法的推荐规则 ,获取更多的流量和收益 ,可能会制作标题党、低质量、甚至虚假的内容。这些内容往往缺乏深度和价值,却因算法的推荐而大量传播 。

信息茧房的争议同样持续已久。很多人担心算法会根据用户的偏好,推送相似内容 ,导致用户获取的信息局限在特定范围内,难以接触多元观点,思维逐渐固化。

在钟睒睒公开喊话之后 ,公众关心的依然是推荐算法带来的谣言 、网暴等低质内容泛滥以及信息茧房等问题 。因为在信息传播高度依赖算法的当下,算法推荐哪些内容确实直接影响着公众认知 。

算法争议频出	,“谣言”和“网暴”治理难点在哪?|界面新闻 · 科技

实际上,一味指责算法带来的问题而忽视其积极影响也有失偏颇。在北京大学教授、北京大学中国社会与发展研究中心主任邱泽奇看来,虽然算法带来了种种问题 ,但其对中国社会的积极作用更大。

一家头部平台的运营负责人也持类似的看法 。在他看来,算法提升了信息分发效率,让很多素人也拥有了被别人看到的可能。信息本身作为一种生产要素 ,流动效率更高 ,肯定对生产也起到促进作用。 ”

如何让算法更好的发挥正向作用,是从业者需要思考的问题 。

算法的透明性亟待提升

虽然推荐算法带来的信息茧房问题屡次引发争议,但在国内外的传播学学者看来 ,这并不是当下算法最棘手的问题。

加拿大渥太华大学传播学助理教授Elizabeth Dubois以及牛津大学互联网研究所的学者Grant Blank2018年发表的一项研究成果显示,信息茧房(回音室效应)的作用被夸大了。该研究随机抽样2000名英国人,通过实证研究探讨了政治兴趣、媒体多样性与信息茧房的关系 ,结果表明,人们经常接触到不同意见,会主动核实信息来源 ,甚至改变自身政治观点 。即使是对政治不感兴趣的人群,也未呈现明显的信息茧房特征。

中国人民大学新闻学院副教授董晨宇对界面新闻表示,信息茧房不能只拿单个平台说事 ,因为没有用户只看一个平台。用户接收到的信息是不是丰富,是一个由媒体环境带来的结果 。如果一个用户既看抖音,又看小红书 、微博 ,任何一个单一平台的数据都无法反映这个用户生活的真实面貌。

在董晨宇看来 ,相比于信息茧房,学界目前更关注算法的透明性和公平性。

从国内各个内容平台算法引发的争议来看,算法不透明带来的问题尤其突出 。比如近期在抖音上走红的吴柳芳事件” ,很多用户认为是平台通过算法推荐吴柳芳的擦边内容,带动其走红 。但实际情况是,在成为社会热点事件之前 ,吴柳芳在抖音上的流量和粉丝量一直较少,平台也并未对其进行推荐。其流量的增长是在该热点引发社会关注后,用户主动搜索导致的。但由于平台未能及时 、清晰地向公众解释算法机制 ,使得公众对算法产生了误解,认为平台存在不合理的推荐行为 。

抖音集团副总裁李亮在接受界面新闻采访时表示,关于算法的问题 ,抖音内部用了一个鸵鸟的方式来处理,没有和公众做比较好的沟通解释,是很不应该的。很多东西要说清楚 ,面对行业的质疑 ,我们应该把真实的情况告诉大家。”

界面新闻观察发现,去年12月以来,李亮开始在微博上活跃 ,其在认证为抖音集团副总裁的个人账号上先后多次解释算法的相关问题,并对吴柳芳事件、抖音用户把钱读成米等热点事件进行了回应,增加与公众的沟通 。

李亮透露 ,抖音预计将在今年春季上线安全与信任中心,让公众看到平台处理谣言、网暴信息的全过程,以减轻外界对平台的误解。

处理谣言和网暴 ,平台需要解决诸多难题

钟睒睒公开喊话今日头条和抖音,主要诉求是希望两个平台能够撤除对其的个人名誉权的侵害的言论 、图片。

2024年初,娃哈哈集团创始人宗庆后逝世后 ,农夫山泉创始人钟睒睒第一笔创业收入来自娃哈哈 ”“钟睒睒因冲货被开除 ”等网络传言纷起,钟睒睒个人和农夫山泉均卷入舆论漩涡 。据媒体统计,自228日起 ,农夫山泉官方旗舰店连续5日销量暴跌 ,较风波之前日销售额跌超90%。

33日,钟睒睒在农夫山泉官微发文辟谣网络传闻,但由于舆论来势汹汹 ,辟谣并不能完全消除网络传言带来的负面影响。

作为一个被网络传言伤害的个体,钟睒睒对平台有怒火是一个很正常的反应 。但此事的复杂之处还在于,网友对钟睒睒的声讨除了事实层面的信息带来的之外 ,还夹杂着对其过往商业竞争策略等方面的不满情绪,不只是简单把谣言处理掉就能平息的。

而从行业来看,此事更值得讨论的是 ,其暴露了平台在处理谣言和网暴信息时,机制上仍存在诸多不健全之处。

据界面新闻了解,今日头条、抖音等平台并不是没有谣言和网暴信息的处理机制 ,但在快速发酵的舆情处理中确实面临诸多现实的挑战 。

李亮表示,抖音对平台不实信息,首选会做主动的发现和治理 。尤其是社会信息 ,专业知识等影响较大的内容 ,会通过站内挖掘,站外监控,风险互通等渠道 ,主动进行不实信息的线索发现,由专门搭建的相关专业团队进行内容研判,对明确的不实信息录入不实信息库 ,发起回查和其他处置干预。但这个过程中,较难解决的就是,对于很多似是而非的信息 ,平台无法判断真伪。

此前,今日头条和抖音面向公众开放了谣言举报功能,如果用户发现了涉及公共利益或者自身的谣言 ,可以进行举报并提供证据,平台核实后会进行处理 。企业发现设计自身的谣言,也可以给平台发布公函进行举证 ,要求平台批量删除相关信息。

但在钟睒睒遭遇的舆论漩涡中 ,上述举报机制失效了。因为相关信息在几天之内以指数级速度增长,在前台针对单条信息举报显然不现实,而企业给平台发布公函再由平台核实处理 ,一般需要数天的时间,远远滞后于舆论发酵的速度 。

界面新闻从多个平台内部人士处了解到,在处理类似的舆情事件时 ,各个平台的策略人员也会观望其他平台的处置政策,这在一定程度上也导致了处置的滞后性。

在邱泽奇看来,平台在处置谣言、网暴等信息上是有责任的。任何技术的背后都有价值观 ,算法更有价值观,平台就应该承担它的责任 。”

对于平台在判断信息真实性上面临的难题,邱泽奇认为 ,平台在无法判断真实性时,可以针对有真假争议的信息进行标记,对用户尽到提醒义务。我们在治理虚假信息过程中很重要的一点就是要让平台承担提醒义务。”

据界面新闻了解 ,此前微博 、微信公众号等平台试点过针对有事实争议的内容对用户进行提醒 。李亮向界面新闻透露 ,今日头条和抖音也在推进标注提醒的功能上线,但这些只能起到治标的作用。

在他看来,信息流算法就像河流一样。河水被污染、修建大坝、控制流速等方法都有效 ,但治标不治本 。治理河水污染最核心的是治理污染源,治理谣言网暴等信息污染,也需要严厉打击污染源 ,同时也要引入媒体 、专业人士等更多优质的信息源 。

从各个平台过往处置虚假信息的实践来看,引入更多专业媒体报道对事实快速进行澄清是避免谣言发酵、当事人被网暴的有效手段。但多位平台运营人员向界面新闻透露,目前在重大舆论事件中 ,专业媒体提供的信息量不足是各家平台普遍面临的问题。

在董晨宇看来,中国在算法治理上已经走在世界前列,欧美也并没有更多先进的治理经验可供参考 。在处理谣言和网暴上 ,平台可以把事中和事后的工作再进一步细化,但问题就在于很多情况都是新出现的,平台也没有太多经验可参考 ,只能不断试错。 ”

你可能想看:

转载请注明来自北京hoome家具有限公司,本文标题:《算法争议频出,“谣言”和“网暴”治理难点在哪?|界面新闻 · 科技》

每一天,每一秒,你所做的决定都会改变你的人生!

发表评论

快捷回复:

评论列表 (暂无评论,29人围观)参与讨论

还没有评论,来说两句吧...

Top
网站统计代码