词频对比

方法概述

词频对比(Word Frequency Compare)将多份词频统计表合并为统一的词频对比矩阵,直观展示同一词语在不同数据集中的出现情况,广泛应用于文献计量、舆情跟踪、产品迭代前后对比、多语料对照分析等场景。本工具以 Excel 多工作表为输入,每个工作表代表一份词频数据,自动对齐词语并生成对比表与可视化图表。

本工具核心能力:

  • 多表对齐:自动按词语匹配多份词频表,未出现词语补 0。
  • 指标计算:计算总词频、平均词频,支持按总词频排序。
  • 多种图表:柱状图、热力图、折线图、堆叠图、分布图、雷达图。
  • 灵活过滤:最小词频阈值、Top N 高频词、移除特殊字符。

方法原理

词频对比的本质是多表的行对齐与数值合并,将多份”词语→词频”表按词语主键横向拼接成统一矩阵,再基于矩阵计算指标与可视化。核心流程:

1. 词语主键对齐

设第 \(k\) 份词频表为 \(\{(w, f_{wk})\}\),合并后以词语 \(w\) 为主键构造统一词典,未在某表出现的词语补 0:

\[ w \in W = \bigcup_k W_k \]

2. 词频对比矩阵构建

构造矩阵 \(\mathbf{F} = [f_{wk}]_{n \times m}\),行代表词语、列代表各份数据表。由此可计算:

  • 总词频\(f_w = \sum_{k=1}^{m} f_{wk}\)
  • 平均词频\(\bar{f}_w = \frac{1}{m}\sum_{k=1}^{m} f_{wk}\)

3. 可读性处理

为避免噪声影响,先做规范化:统一转小写、移除空词语与特殊字符,再按最小词频阈值过滤低频词,或限定展示 Top N 高频词,并支持按总词频排序。

4. 可视化映射

将矩阵 \(\mathbf{F}\) 映射到多种图表:柱状图展示各组频数对比、热力图展示词语×数据表整体格局、折线图展示跨表变化趋势、堆叠图展示占比结构。支持对数尺度以缓解极端值压缩差异。

使用流程

在平台左侧菜单选择“其他文本处理工具 → 词频对比”,点击“开始智算”进入工具界面:

Step 1 数据准备

  • 支持 Excel(.xlsx/.xls)格式,文件大小不超过 10MB。
  • 每个工作表要求:第一列为词语,第二列为词频数量(列名建议为 word/frequency/count)。
  • 一个工作表代表一份待对比的词频数据,可多选工作表参与对比。

Step 2 数据整理设置

  • 选择是否统一转小写、移除空词语。
  • 选择是否移除特殊字符(默认否)。

Step 3 过滤与展示设置

  • 设定最小词频阈值(默认 1)、显示前 N 个高频词(默认 50)。
  • 选择“显示所有词语”或仅显示 Top N。
  • 选择是否对未出现词语填 0、按总词频排序。
  • 选择是否计算总词频、平均词频。

Step 4 可视化设置

  • 选择图表类型:柱状图(默认)、热力图、折线图、堆叠图。
  • 选择是否使用对数尺度。

Step 5 开始分析

点击“开始对比”按钮,工具自动合并各表生成统一对比矩阵。

Step 6 结果查看与下载

查看词频对比表、统计概览、可视化分析等标签页,可下载完整结果、合并表格与分析报告。

参数说明

参数 默认值 说明
参与对比的工作表 全部 可多选要对比的词频表
统一转小写 词语统一为小写再对齐
移除空词语 过滤空词条
移除特殊字符 去除词语中的特殊符号
最小词频阈值 1 低于该阈值的词语剔除
显示前 N 个高频词 50 对比表展示的词语数量
显示所有词语 关闭 Top N 限制
未出现词语填 0 缺失词频以 0 补齐
按总词频排序 按总词频降序排列
计算总词频 汇总各表词频
计算平均词频 计算各表平均词频
图表类型 柱状图 柱状 / 热力 / 折线 / 堆叠
对数尺度 对词频轴取对数

案例分析

案例背景:比较某产品 2025 与 2026 年用户评论的高频词变化,评估口碑演进。

  • 数据:Excel 文件,两个工作表分别存放两年分词后的词频表。
  • 参数:Top 30 高频词、计算总词频与平均词频、柱状图对比。

分析结果示例

词语 2025 词频 2026 词频 总词频
续航 320 485 805
充电 210 402 612
智能 190 350 540
价格 260 120 380
售后 150 96 246

结论:“续航、充电、智能”词频显著上升,“价格、售后”下降,说明两年间用户关注重心从性价比转向产品智能化,为产品策略调整提供量化依据。

常见问题

Q1: 工作表数据格式有什么要求?

A: 每表第一列为词语、第二列为词频数量;列名建议 word/frequency/count,格式不符合时会按位置读取。

Q2: 未出现的词语如何处理?

A: 默认对缺失词频填 0,保证各表行数一致,便于对比与绘图;也可关闭该选项仅保留共同词语。

Q3: 如何选择合适的图表?

A: 少量词用柱状图直观;大量词用热力图看整体格局;看变化趋势用折线图;看占比结构用堆叠图。

Q4: 为什么有些词语对不上?

A: 可能因大小写、标点或分词口径不同导致。开启“统一转小写”与“移除特殊字符”可提升对齐率。

平台功能

  • 数据输入:支持 Excel(.xlsx/.xls)多工作表,每表一词一频;文件大小限制 10MB。
  • 数据整理:统一转小写、移除空词语、移除特殊字符、最小词频过滤。
  • 对比矩阵:词语对齐、缺失补 0、总词频与平均词频、Top N 与全量展示。
  • 可视化:柱状图、热力图、折线图、堆叠图、分布图、雷达图,支持对数尺度。
  • 结果展示:词频对比表、统计概览、可视化分析。
  • 结果导出:完整结果(Excel 多表)、合并表格、分析报告(HTML)。

使用建议

  1. 口径一致:参与对比的各表最好来自相同分词与清洗规则,否则对齐率会受影响。

  2. 先看 Top N:先用 Top 30-50 把握整体差异,再决定是否展开全量或深入特定词。

  3. 图表配合:用柱状/热力图看静态对比,用折线/堆叠图看结构变化,多图互证结论。

  4. 关注增量词:重点观察“新出现”或“显著上升”的词语,往往是趋势变化的信号。

  5. 记录参数:固定对比口径与参数,确保多次对比结果可比。

平台界面

官方地址:https://superr.online

词频对比工具界面预览

平台界面包含:数据上传区、对比设置区、过滤与展示设置、可视化设置、结果展示(对比表、统计概览、可视化分析)及下载区


参考文献

  1. Manning, C. D., Raghavan, P., & Schütze, H. (2008). Introduction to Information Retrieval. Cambridge University Press.

  2. Salton, G., & McGill, M. J. (1986). Introduction to Modern Information Retrieval. McGraw-Hill.