最近我们分享了一些关于分词的事情，对于琳琅满目的分词工具，我们到底该选择哪个呢？
这里有一个Java开源项目cws_evaluation，对中文分词做了评比，但有几点不足：(1). 只有java版本，但是机器学习主要是基于python的 (2).效果指标为行完美率和字完美率，该指标不妥，特别是句子越长，越无意义，(3). 每种分词工具评测的算法太多了，这里仅评比了默认的分词算法。
基于此，我做了一个java和python版本中文分词工具评比项目chinese-segmentation-evaluation。
项目简介
测试了java和python常见中文分词工具的效果和效率
java
Requirement
java8
步骤
git clone https://github.com/tiandiweizun/nlp-evaluation.gitcd nlp-evaluation/java- (windows)
.\gradlew.bat build(linux)./gradlew build java -Dfile.encoding=utf-8 -jar build/libs/nlp-evaluation-java-1.0.0.jar
说明
- java -jar nlp-evaluation-java-1.0.0.jar 有3个参数，可以执行 java -jar nlp-evaluation-java-1.0.0.jar -h 查看
-i 分词文件，默认为data/seg.data_big文件,每行一个句子，每个词用空格分开，可以指定自己的测试集
-o 分词结果存储路径，默认不存储
-n 最大读取分词文件行数
-c 需要评估的分词器名称，用英文逗号隔开，默认HanLP，jieba，thulac，示例: -c=HanLP - 由于斯坦福分词效果一般，速度极慢，且模型巨大，在打包的时候已经排除（不影响在IDE里面测试）， 打包如果要包含斯坦福分词，修改build.gradle，注释掉exclude(dependency('edu.stanford.nlp:stanford-corenlp'))
- 由于Word、Ansj、Jcseg、MMSeg4j存在bug（把词语拼接起来和原始句子不一样），在代码里面已经注释掉了，不进行测试。
- 依赖的库均存在于maven中心仓库，像庖丁、复旦分词等找不到的，这里没有测试
测试效果
总行数:2533709 总字符数:28374490
| segmentor | precision | recall | f1 | speed(字符/ms)_windows | speed(字符/ms)_linux |
|---|---|---|---|---|---|
| HanLP | 0.900433 | 0.910614 | 0.905495 | 1034.470451 | 797.596346 |
| jieba | 0.852657 | 0.803263 | 0.827223 | 1774.181830 | 980.865943 |
| thulac | 0.884405 | 0.901930 | 0.893082 | 1449.749131 | 939.832732 |
经过多次测试发现，thulac在linux上速度不是特别稳定，最快与jiba差不多
开发者
- 建议使用idea打开或者导入java目录，把data目录拷贝到java目录，直接可以运行SegEvaluation调试。
- 可以打开stanford和其他分词器
- 评测自定义分词器：继承Seg类并实现segment方法，添加到evaluators即可。
python
Requirement
Python:3
其他参见 requirements.txt
步骤
1. git clone https://github.com/tiandiweizun/nlp-evaluation.git
2. cd nlp-evaluation
3. pip3 install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simple
4. cd python/indi.tiandi.nlp.evaluation
5. python3 SegEvaluation.py
说明
- python3 SegEvaluation.py 有3个参数，可以执行 python3 SegEvaluation.py -h 查看
-i 分词文件，默认为data/seg.data_big文件,每行一个句子，每个词用空格分开，可以指定自己的测试集
-o 分词结果存储路径，默认不存储
-n 最大读取分词文件行数，由于python速度太慢，建议设置
-c 需要评估的分词器名称，用英文逗号隔开，默认pkuseg，jieba_fast，thulac - pynlpir存在bug(把词语拼接起来和原始句子不一样)，pyltp在windows上不易安装，这里都没有进行测试，比较慢的也没有测试
测试效果
总行数:2533709 总字符数:28374490
| segmentor | precision | recall | f1 | speed(字符/ms)_windows | speed(字符/ms)_linux |
|---|---|---|---|---|---|
| pkuseg | 0.890170 | 0.886405 | 0.888284 | 34.077104 | 19.826954 |
| jieba | 0.855293 | 0.808204 | 0.831082 | 169.651694 | 104.554222 |
| jieba_fast | 0.855299 | 0.808182 | 0.831073 | 408.241520 | 203.815985 |
| thulac | 0.848839 | 0.883031 | 0.865597 | 28.831738 | 16.565779 |
| pyltp | 0.894885 | 0.908761 | 0.901770 | --------- | 52.371131 |
| snownlp | 0.811029 | 0.864835 | 0.837069 | --------- | 1.947430 |
开发者
- 建议使用pycharm打开python目录，即可运行
- 如果需要使用pynlpir，需要修改pynlpir_path的安装目录
- 如果需要使用pyltp，需要修改ltp_data_dir的模型分词目录
- 评测自定义分词器：只要实现segment方法和向evaluators追加即可。
总结
- 性能：java 远高于python，至少差了一个数量级。
- 效果：对于jieba和thulac，在python和java上表现的不同，需要更多的时间去寻找原因，且java的thulac4j非官方提供。
- 数据：默认数据集来源于cws_evaluation，该项目为评估中文分词的性能与效果，对于效果该项目采用的是行完美率这个指标，但是对于长句，这个指标会变的不合适，如果不同算法的错误率不一样，但是如果有一个错的词，会导致整个句子都是错的，不能很好的区分算法的precision