Migrated repository
Go to file
2013-11-23 19:17:54 +08:00
dict First commit of friso chinese tokenizer 2013-11-16 15:12:33 +08:00
images First commit of friso chinese tokenizer 2013-11-16 15:12:33 +08:00
src 依据最新friso接口更改测试程序 2013-11-23 19:15:52 +08:00
.gitignore First commit of friso chinese tokenizer 2013-11-16 15:12:33 +08:00
CHANGES.md 增加CHANGES.md来记录friso的更改 2013-11-19 20:22:32 +08:00
DONATE.txt First commit of friso chinese tokenizer 2013-11-16 15:12:33 +08:00
Friso-开发帮助文档.pdf 添加Friso开发帮助文档.pdf 2013-11-23 19:17:54 +08:00
friso.ini 更改了friso.ini中的默认配置 2013-11-19 20:19:21 +08:00
LICENSE.md First commit of friso chinese tokenizer 2013-11-16 15:12:33 +08:00
README.md 添加friso完整版本下载地址. 2013-11-18 10:48:39 +08:00

Friso完整版本(词库, 词库管理工具, winNT下的dll文件, 开发帮助文档)下载: https://code.google.com/p/friso/

一. 关于Friso:

friso中文分词器friso是使用c语言开发的一个开源中文分词器使用流行的mmseg算法实现。完全基于模块化设计和实现可以很方便的植入其他程序中例如MySQLPHP源码无需修改就能在各种平台下编译使用加载完20万的词条内存占用稳定为13.5M

1。目前最高版本friso 1.4.0只支持UTF-8编码。

2。mmseg四种过滤算法分词准确率达到了98.41%,请参考本算法的原作:http://technology.chtsai.org/mmseg/

3。支持自定义词库。在dict文件夹下可以随便添加/删除/更改词库和词库词条,并且对词库进行了分类。

4。词库使用了friso的Java版本jcseg的简化词库。

5。支持中英/英中混合词的识别(维护词库可以识别任何一种组合)。例如卡拉ok, 漂亮mm, c语言IC卡哆啦a梦。

7。很好的英文支持英文标点组合词识别, 例如c++, c#, 电子邮件,网址,小数,分数,百分数。

8。支持阿拉伯数字/小数基本单字单位的识别例如2012年1.75米5吨120斤38.6℃。

9。自动英文圆角/半角,大写/小写转换。

10。自动中英文同义词追加/同义词匹配. (需要在friso.ini中开启friso.add_syn选项)

11。自动中英文停止词过滤。(需要在friso.ini中开启friso.clr_stw选项)

12。提供friso.ini配置文件, 可以配置自定义分词. 如何配置friso

二。分词速度:

测试环境2.8GHZ/2G/Ubuntu

简单模式3.8M/秒

复杂模式1.8M/秒

三。Friso其他主页:

Friso官方主页: https://code.google.com/p/friso/
Friso开源中国: http://www.oschina.net/p/friso
Friso开发帮助文档: http://git.oschina.net/lionsoul/friso/attach_files

四。联系作者:

作者: 狮子的魂
email: chenxin619315@gmail.com
qq: 1187582057