# fastNLP [![Build Status](https://travis-ci.org/fastnlp/fastNLP.svg?branch=master)](https://travis-ci.org/fastnlp/fastNLP) [![codecov](https://codecov.io/gh/fastnlp/fastNLP/branch/master/graph/badge.svg)](https://codecov.io/gh/fastnlp/fastNLP) [![Pypi](https://img.shields.io/pypi/v/fastNLP.svg)](https://pypi.org/project/fastNLP) ![Hex.pm](https://img.shields.io/hexpm/l/plug.svg) [![Documentation Status](https://readthedocs.org/projects/fastnlp/badge/?version=latest)](http://fastnlp.readthedocs.io/?badge=latest) fastNLP 是一款轻量级的 NLP 处理套件。你既可以使用它快速地完成一个命名实体识别(NER)、中文分词或文本分类任务; 也可以使用他构建许多复杂的网络模型,进行科研。它具有如下的特性: - 统一的Tabular式数据容器,让数据预处理过程简洁明了。内置多种数据集的DataSet Loader,省去预处理代码。 - 各种方便的NLP工具,例如预处理embedding加载; 中间数据cache等; - 详尽的中文文档以供查阅; - 提供诸多高级模块,例如Variational LSTM, Transformer, CRF等; - 封装CNNText,Biaffine等模型可供直接使用; - 便捷且具有扩展性的训练器; 提供多种内置callback函数,方便实验记录、异常捕获等。 ## 安装指南 fastNLP 依赖如下包: + numpy + torch>=0.4.0 + tqdm + nltk 其中torch的安装可能与操作系统及 CUDA 的版本相关,请参见 PyTorch 官网 。 在依赖包安装完成的情况,您可以在命令行执行如下指令完成安装 ```shell pip install fastNLP ``` ## 参考资源 - [文档](https://fastnlp.readthedocs.io/zh/latest/) - [源码](https://github.com/fastnlp/fastNLP) ## 内置组件 大部分用于的 NLP 任务神经网络都可以看做由编码(encoder)、聚合(aggregator)、解码(decoder)三种模块组成。 ![](./docs/source/figures/text_classification.png) fastNLP 在 modules 模块中内置了三种模块的诸多组件,可以帮助用户快速搭建自己所需的网络。 三种模块的功能和常见组件如下:
类型 功能 例子
encoder 将输入编码为具有具 有表示能力的向量 embedding, RNN, CNN, transformer
aggregator 从多个向量中聚合信息 self-attention, max-pooling
decoder 将具有某种表示意义的 向量解码为需要的输出 形式 MLP, CRF
## 完整模型 fastNLP 为不同的 NLP 任务实现了许多完整的模型,它们都经过了训练和测试。 你可以在以下两个地方查看相关信息 - [介绍](reproduction/) - [源码](fastNLP/models/) ## 项目结构 ![](./docs/source/figures/workflow.png) fastNLP的大致工作流程如上图所示,而项目结构如下:
fastNLP 开源的自然语言处理库
fastNLP.core 实现了核心功能,包括数据处理组件、训练器、测速器等
fastNLP.models 实现了一些完整的神经网络模型
fastNLP.modules 实现了用于搭建神经网络模型的诸多组件
fastNLP.io 实现了读写功能,包括数据读入,模型读写等

*In memory of @FengZiYjun. May his soul rest in peace. We will miss you very very much!*