正则表达式删除重复标题_用正则表达式去除重复标题行

正则删除重复标题行需先精准匹配标题特征(如^#{1,2}\s+.+$),再用反向引用保留首个并清除后续相邻重复;非相邻重复须借助Python等脚本配合set去重,操作前务必备份并测试。

用正则表达式删除重复的标题行,关键在于识别“标题行”的格式特征,并确保只保留首次出现的标题,后续重复项被清除。这不适用于所有文本,但对结构清晰、标题有统一模式(如以 ### 开头,或含特定前缀/后缀)的文档非常有效。

明确标题的匹配模式

正则表达式必须精准描述“什么是标题行”,否则会误删或漏删。常见标题特征包括:

  • 以一个或多个 # 开头,后跟空格和文字(如 # 简介## 安装步骤
  • 全大写且末尾带冒号(如 CONFIGURATION:
  • 含特定关键词 + 固定符号,如 Chapter [0-9]+:第[零一二三四五六七八九十\d]+章
  • 单独成行、左右无其他内容(需用 ^$ 锚定)

用反向引用+替换实现去重

核心思路:匹配“某标题行”及其后所有“相同标题行”,只保留第一个。适合在支持反向引用的

工具中使用(如 VS Code、Notepad++、Sublime Text、sed -E)。

示例(匹配 Markdown 一级/二级标题并去重):

查找:^(#{1,2}\s+.+)$([\s\S]*?^)\1$
替换为:$1$2

说明:
^(#{1,2}\s+.+)$ 捕获首行标题(组1)
[\s\S]*? 非贪婪匹配中间任意内容
^)\1$ 匹配紧接着的、完全相同的标题行(组1再次出现)
⚠️ 注意:此模式仅处理相邻重复;若重复标题被其他内容隔开,需用更高级逻辑(如 Perl/Python 脚本)。

处理非相邻重复(推荐脚本辅助)

纯正则难以跨段落记忆已出现过的标题,此时建议结合简单脚本。例如 Python 中可:

  • 逐行读取,用 set() 记录已见过的标题文本
  • 对每行用正则提取标题内容(如去掉 # 号和空格后的纯文本)
  • 若该标题未出现过,保留该行;否则跳过
  • 注意保留原始缩进或格式(如只比对语义,不比对空白)

安全操作提醒

正则删标题风险较高,务必提前备份:

  • 先用“查找”功能确认正则是否准确命中目标标题行
  • 避免使用 .* 这类过度宽泛的表达式,易跨行误匹配
  • 标题含特殊字符(如 [(.)时需转义,或用字符类如 [^\r\n] 替代 .
  • 测试时可在小片段上运行,观察上下文是否被意外影响