Migrated repository
Go to file
2013-12-28 18:18:29 +08:00
dict 增加一个复合测试词条。 2013-12-28 18:12:48 +08:00
images First commit of friso chinese tokenizer 2013-11-16 15:12:33 +08:00
lib/win32 加入Win下的dll文件托管 2013-11-28 13:09:29 +08:00
src Friso-1.6.0:GBK支持,二次切分,自定义保留标点,bug修复,优化。 2013-12-28 18:18:29 +08:00
tools 修复jcseg转friso词库工具语素自由度未添加bug. 2013-12-08 14:00:49 +08:00
.gitignore 加入lib托管 2013-11-28 13:09:05 +08:00
CHANGES.md 修改一些基本信息。 2013-12-28 18:12:03 +08:00
DONATE.txt 修改一些基本信息。 2013-12-28 18:12:03 +08:00
Friso-开发帮助文档.pdf 加入最新版本Friso接口是使用说明 2013-11-28 13:02:33 +08:00
friso.ini 增加friso.en_sseg,friso.st_minl,friso.kpuncs控制选项。 2013-12-28 18:14:18 +08:00
LICENSE.md First commit of friso chinese tokenizer 2013-11-16 15:12:33 +08:00
README.md 添加Friso-1.5.0功能说明. 2013-11-28 10:27:02 +08:00

Friso完整版本(词库, 词库管理工具, winNT下的dll文件, 开发帮助文档)下载: https://code.google.com/p/friso/

一. 关于Friso:

friso中文分词器friso是使用c语言开发的一个开源中文分词器使用流行的mmseg算法实现。完全基于模块化设计和实现可以很方便的植入其他程序中例如MySQLPHP源码无需修改就能在各种平台下编译使用加载完20万的词条内存占用稳定为13.5M

1。目前最高版本friso 1.5.0只支持UTF-8编码。

2。mmseg四种过滤算法分词准确率达到了98.41%,请参考本算法的原作:http://technology.chtsai.org/mmseg/

3。支持自定义词库。在dict文件夹下可以随便添加/删除/更改词库和词库词条,并且对词库进行了分类。

4。简体/繁体/简体混合支持, 词库使用了friso的Java版本jcseg的简化词库。

5。支持中英/英中混合词的识别(维护词库可以识别任何一种组合)。例如卡拉ok, 漂亮mm, c语言IC卡哆啦a梦。

7。很好的英文支持英文标点组合词识别, 例如c++, c#, 电子邮件,网址,小数,分数,百分数。

8。支持阿拉伯数字/小数基本单字单位的识别例如2012年1.75米5吨120斤38.6℃。

9。自动英文圆角/半角,大写/小写转换。

10。自动中英文同义词追加/同义词匹配. (需要在friso.ini中开启friso.add_syn选项)

11。自动中英文停止词过滤。(需要在friso.ini中开启friso.clr_stw选项)

12。多配置支持, 安全的应用于多进程/多线程环境.

13。提供friso.ini配置文件, 可以配置自定义分词. 如何配置friso

二。分词速度:

测试环境2.8GHZ/2G/Ubuntu

简单模式3.8M/秒

复杂模式1.8M/秒

三。Friso其他主页:

Friso官方主页: https://code.google.com/p/friso/
Friso开源中国: http://www.oschina.net/p/friso

四。联系作者:

作者: 狮子的魂
email: chenxin619315@gmail.com
qq: 1187582057