Fighting Lies with Intelligence: Using Large Language Models and Chain of Thoughts Technique to Combat Fake News

方法

1. 核心策略：LLM结合CoT的检测与解释

• 目的： 不仅要检测出虚假新闻，还要为分类结果提供透明、合理的解释。

• 方法： 利用微调后的LLM（如FLAN-T5和LLaMa-2）通过生成逻辑推理来验证或批判新闻标题，从而判断其真假。这种推理过程模拟了人类的思维方式。

2. 关键技术细节

A. 模型选择与蒸馏（Model Selection and Distillation）

• 研究使用了FLAN-T5和LLaMa-2等预训练的大型语言模型作为基础。

• 采用了**模型蒸馏（Model Distillation）**技术，可能用于将一个更大模型的知识迁移到一个更小、更高效的模型上，或者用于在特定任务上优化模型性能。

B. 思维链（Chain of Thought, CoT）推理

• 应用： 将CoT推理方法与LLM相结合。

• 作用： 促使模型生成逐步的推理过程（step-by-step reasoning），而不是直接给出最终的“真/假”判断。

  • 这个推理过程复制了人类的思考过程，增强了模型决策的可解释性（explainability）和透明度（transparency）。

  • 模型会生成一段文字来**论证（validate）或批评（critique）**新闻标题，然后基于此推理给出分类结果。

C. 数据增强与数据集（Data Augmentation and Dataset）

• 使用了LLMs进行数据增强（Data Augmentation），以扩充训练数据。

• 在LIAR等数据集上评估了模型的性能。

• 该研究的一个重要贡献是提出了一个开放源代码的数据集，该数据集经过CoT注释（CoT annotations）强化，为虚假新闻检测建立了一个新的基准。