界面新闻记者 |
界面新闻编辑 | 文姝琪
在平台内容生态治理上 ，字节跳动变得越来越开放。
去年11月 ，农夫山泉创始人钟睒睒指责抖音和今日头条随意使用平台手中的权力，进行谣言传播 ，并要求两个平台立即撤除对其的个人名誉权的侵害的言论 、图片 。
虽然字节跳动一直未对钟睒睒的指责进行正面回应 ，但一系列改变却在此事件之后相继发生 。从去年12月开始，抖音集团副总裁李亮开始在微博活跃 ，每天回应和解释各种和平台治理相关的信息。
近日 ，今日头条首次举办“平台治理开放日 ”，公开了目前对虚假谣言的治理举措 。今日头条生态治理运营的负责人韩雨桐透露，谣言治理已经是今日头条平台治理最重要的工作之一 ，平台也投入了非常多的资源和精力 。
据其介绍 ，目前今日头条在谣言治理上着重建设了三个方面的能力，包括谣言库 、权威信源库以及专业审核团队。
其中 ，谣言库把今日头条站内外的已知虚假信息及突发热点事件的相关谣言录入库中 ，并在后续的新增发文环节进行拦截；权威信源库是把权威媒体发布的内容作为核心信源，辅助判断一些没有信源采集能力账号的新发布的内容是否真实可信；审核团队招募了大量具有时政、社会 、医疗 、财经背景的专业人员 ，对相关信息进行人工判断 。
今日头条公布的数据显示 ，2024年拦截不实信息超500万条 。但从用户反馈来看，很多人和钟睒睒有相似的感受 ，他们并没有感知到平台在打击谣言上的努力 ，反而感受到了大量谣言、低质量信息带来的困扰。
这在一定程度上反映了当下内容平台在生态治理上的困境。
生成式AI让网络谣言治理变得更难
2022年11月，OpenAI刚刚开始发布ChatGPT时 ，业界和学界对生成式AI给内容行业带来的生产效率提升充满了期待 。但现实并没有朝着很多人预期的美好方向发展 ，反而出现了更大的麻烦 。
生成式AI让创作成本变得更低，却也生产了大量不实信息。一方面，网络上本身就存在很多谣言 ，但生成式AI在搜索引用信息的过程中 ，并不能准确分辨谣言，导致了虚假信息被反复使用；另一方面 ，大模型的幻觉问题导致其在创作过程中凭空生成了很多不实信息 ，夹杂在真实的信息中让人更加无法分辨 。界面新闻对多款大模型进行测试发现，即使是DeepSeek ，也会生成很多无中生有的信息 ，如果不经核实发布，很容易导致谣言的传播 。
清华大学新闻与传播学院教授陆洪磊也注意到了相关问题。在今日头条“平台治理开放日 ”活动上 ，他展示了多条AI生成的新闻 ，在坐的观众很难分辨真假，但其实都是假新闻 。
在陆洪磊看来 ，在AI技术的加持下 ，网络谣言已经出现了一些新特征 。在空间上，AI谣言可以做到分平台 、分渠道 、分时段，而且是分媒介的定制化的生成和发布 ，跨平台影响力更大；在速度上 ，AI谣言由于其低廉的成本，可以做到短时间内的成倍率的传播 ，辟谣难度大大增加；在结构上 ，AI谣言本身就自带自我学习和自我强化的特性会加剧AI幻觉，令谣言本身更加显得无懈可击。
这些新的特征带来的结果就是 ，谣言模糊程度越来越低 ，越来越清晰，显得非常逼真 。比如 ，今年1月西藏日喀则市定日县发生地震之后 ，一张“被压在废墟下的小男孩”图片在网络上引发了病毒式传播，让很多网友揪心落泪 。实际上 ，这张图片是由AI生成 ，其不仅混淆公众视线，更无情地消费了公众的情感。
韩雨桐在接受媒体采访时明确表示，虚假谣言、低质AI内容等 ，破坏了平台生态 ，也不利于创作公平 。
面对快速发展的生成式AI，她表示 ，平台在鼓励用户使用AI提效的基础上 ，保护原创空间，迅速升级、迭代AI模型的识别能力 ，收严AI内容的审核力度 。
在北京师范大学法学院院长梁迎修看来 ，AI虚假谣言加快了谣言的传播速度，也增加了平台的治理难度。平台可以利用AI技术作为新工具 ，在谣言内容识别 、路径追踪和自动化辟谣等方面“用魔法打败魔法 ”。
提高公众的网络信息素养变得越来越重要
在钟睒睒公开喊话之后 ，信息流算法再次引发争议 。争议背后，是当下信息传播高度依赖算法 ，算法推荐哪些内容确实直接影响着公众认知 。因此 ，很多人认为是算法带来的谣言 、网暴等低质内容泛滥的问题。
实际上，一味指责算法带来的问题而忽视其积极影响也有失偏颇 。虽然算法带来了种种问题，算法提升了信息分发效率 ，素人拥有了更多被别人看到的可能 ，信息流动性高也同时对生产产生了促进作用 。
在这种情况下，学界和平台都认为 ，在积极治理谣言等低质信息的同时 ，提高公众的网络信息素养变得越来越重要。在很长一段时间中，网络谣言并不能完全消除 ，但提高公众的网络信息素有助于普通个体分辨谣言 ，降低谣言的传播力度和其带来的损失 。
在梁迎修看来，面对各种各样的谣言变体 ，提高公众的辨别力是一个非常有效的渠道 ，平台可以通过自身影响力为公众提供一些教育培训 。
目前，微信公众平台、今日头条等平台均对此有了一些探索。其中 ，微信公众平台建立了“谣言过滤器 ” 官方辟谣账号 ，与人民网 、果壳网 、丁香园等各方合作，在内容运营、辟谣内容鉴定等方面联手过滤微信平台上的谣言，重点关注社会热点类 、科普类以及医疗健康类内容 。
2023年以来 ，今日头条推出了视频内容《头条讲真的》 ，联合医学 、财经、法律等领域专业创作者，为用户进行辟谣 、反诈宣传 。在内容传播形式上 ，《头条讲真的》改变了过往辟谣 、科普类内容严肃理性的风格 ，而是动画演绎等更生动的形式触达用户，并与熊出没、南京红山动物园 、我是小魔等知名IP 、机构和优质创作者多元合作 ，为平台治理工作拓展了新的思路。
除了这些措施之外 ，北京大学教授、北京大学中国社会与发展研究中心主任邱泽奇此前在接受界面新闻采访时还表示，平台可以针对有真假争议的信息进行标记 ，对用户尽到提醒义务 。“我们在治理虚假信息过程中很重要的一点就是要让平台承担提醒义务 。”
据界面新闻了解 ，此前微博、微信公众号等平台试点过针对有事实争议的内容对用户进行提醒。今日头条和抖音也在推进标注提醒的功能上线。
在处理谣言等低质信息的问题上，很多情况都是新出现的 ，平台也没有太多经验可参考 ，只能不断试错 。梁迎修表示，网络谣言治理需要多方综合施策，平台也要与政府机构 、媒体 、公众等加强协同 。
