THULAC(THU Lexical Analyzer for Chinese)是清华大学开发的一款中文词法分析工具,集成了分词和词性标注两大功能。THULAC 拥有强大的分词能力和高效的词性标注,适用于多种中文文本处理场景。该工具能够在保证高准确率的同时保持较快的处理速度,非常适合大规模中文数据处理。
🔨 THULAC 的特点
- 准确率高:在标准数据集(如 CTB5)上,分词 F1 值可达 97.3%,词性标注 F1 值为 92.9%。
- 处理速度快:同时进行分词和词性标注的速度为 300KB/s,只进行分词速度可达 1.3MB/s。
- 多种功能:支持分词、词性标注、文件分词、自定义词典、简繁转换等。
📦 安装与配置
1. 使用 pip 安装
直接通过 pip 安装:
pip install thulac
安装完成后,即可通过 import thulac 在 Python 中使用该工具。
2. 使用 GitHub 源码安装
可以通过 GitHub 下载源代码,并手动配置模型文件。安装步骤如下:
- 下载模型文件,并将其放入
thulac/models目录下。 - 安装依赖并测试。
克隆 GitHub 仓库:
git clone https://github.com/thunlp/THULAC-Python.git
♨️ 使用方法
THULAC 提供了分词和词性标注两种主要操作模式,并且可以通过不同参数进行自定义配置。
1. 分词与词性标注
以下是基本的使用方式:
import thulac # 默认模式:同时进行分词和词性标注
thu1 = thulac.thulac()
text = thu1.cut("我爱北京天安门", text=True)
print(text)
# 输出:我_r 爱_v 北京_ns 天安门_ns
2. 只进行分词(无词性标注)
# seg_only 模式:只进行分词,不进行词性标注
thu2 = thulac.thulac(seg_only=True)
text = thu2.cut("我爱北京天安门", text=True)
print(text)
# 输出:我 爱 北京 天安门
3. 使用自定义词典
用户可以通过传递 user_dict 参数使用自定义词典,从而增强特定领域的分词效果:
thu3 = thulac.thulac(user_dict="custom_dict.txt")
4. 参数详解
THULAC 的初始化支持多种参数,以适应不同的使用场景:
user_dict:指定用户词典的路径,提升分词精准度。


