通过持续迭代模型、增强系统对低质AI内容的识别能力；辅以加强人工审核、上线“AI创作内容”标签、发布违规治理公告等举措，平台全年共对超过93万条低质AI内容进行了识别和管控，对近3万个利用AI批量发布虚假低质内容或恶意抄袭、洗稿的账号进行了处罚。
通过完善谣言库、权威信源库，组建医疗、财经、体育等专业领域的人工审核团队，今日头条去年共拦截不实信息超500万条，处罚涉及造谣的账号超4.7万个。
现有治理手段外，各平台还在探索“用AI治理AI”。
目前，今日头条已将AI模型引入识别AI生成虚假信息的流程。“我们将‘一眼假’的内容交给AI模型快速解决拦截，模型无法解决的复杂问题则交由专业审核人员判断。”平台相关负责人告诉记者。
为何AI能够更加快速高效地识别虚假信息？负责人解释，关键在于生成式AI大模型能够通过学习发文风格，更精准地锁定虚假内容。
比如体育娱乐类内容，权威信源较少，容易出现错判；治理人员通过分析海量数据，发现这一领域的虚假内容往往伴随着夸张的文风和用词。因此，平台在虚假信息检索链路中引入“AI模型学习虚假内容写作风格”机制。这一做法显着提升了虚假谣言的拦截量级和拦截效率，用户满意度也提高了。
未来，大模型能力不断升级，“扬长避短”最大化AI效能的探索也将进一步深入。
北京师范大学法学院院长梁迎修认为，借助AI的生成能力，未来网络平台还可以根据目标受众的认知偏好和背景信息，生成个性化的辟谣信息，帮助内容市场“庄稼代替杂草”“良币驱逐劣币”。 |
