io、data_loader的文档结构和别名

This commit is contained in:
ChenXin 2019-07-12 12:05:04 +08:00
parent ce72936c0f
commit fc0f86aa9e
12 changed files with 28 additions and 52 deletions

View File

@ -1,7 +0,0 @@
fastNLP.io.config\_io
=====================
.. automodule:: fastNLP.io.config_io
:members:
:undoc-members:
:show-inheritance:

View File

@ -1,7 +0,0 @@
fastNLP.io.file_utils
=====================
.. automodule:: fastNLP.io.file_utils
:members:
:undoc-members:
:show-inheritance:

View File

@ -9,20 +9,11 @@ fastNLP.io
子模块
----------
.. toctree::
fastNLP.io.data_loader
Submodules
----------
.. toctree::
:maxdepth: 1
fastNLP.io.base_loader
fastNLP.io.config_io
fastNLP.io.dataset_loader
fastNLP.io.embed_loader
fastNLP.io.file_utils
fastNLP.io.dataset_loader
fastNLP.io.data_loader
fastNLP.io.model_io
fastNLP.io.utils

View File

@ -1,7 +0,0 @@
fastNLP.io.utils
================
.. automodule:: fastNLP.io.utils
:members:
:undoc-members:
:show-inheritance:

View File

@ -181,7 +181,7 @@ FastNLP 完全支持使用 pyTorch 编写的模型,但与 pyTorch 中编写模
)
)
FastNLP 中包含的各种模块如下表,您可以点击具体的名称查看详细的 API:
FastNLP 中包含的各种模块如下表,您可以点击具体的名称查看详细的 API,也可以通过 :doc:`/fastNLP.modules` 进行了解。
.. csv-table::
:header: 名称, 介绍
@ -189,7 +189,6 @@ FastNLP 中包含的各种模块如下表,您可以点击具体的名称查看
:class:`~fastNLP.modules.ConvolutionCharEncoder` , char级别的卷积 encoder
:class:`~fastNLP.modules.LSTMCharEncoder` , char级别基于LSTM的 encoder
:class:`~fastNLP.modules.ConvMaxpool` , 结合了Convolution和Max-Pooling于一体的模块
:class:`~fastNLP.modules.Embedding` , 基础的Embedding模块
:class:`~fastNLP.modules.LSTM` , LSTM模块, 轻量封装了PyTorch的LSTM
:class:`~fastNLP.modules.StarTransformer` , Star-Transformer 的encoder部分
:class:`~fastNLP.modules.TransformerEncoder` , Transformer的encoder模块不包含embedding层
@ -198,8 +197,11 @@ FastNLP 中包含的各种模块如下表,您可以点击具体的名称查看
:class:`~fastNLP.modules.VarGRU` , Variational Dropout GRU 模块
:class:`~fastNLP.modules.MaxPool` , Max-pooling模块
:class:`~fastNLP.modules.MaxPoolWithMask` , 带mask矩阵的max pooling。在做 max-pooling的时候不会考虑mask值为0的位置。
:class:`~fastNLP.modules.AvgPool` , Average-pooling模块
:class:`~fastNLP.modules.AvgPoolWithMask` , 带mask矩阵的average pooling。在做 average-pooling的时候不会考虑mask值为0的位置。
:class:`~fastNLP.modules.MultiHeadAttention` , MultiHead Attention 模块
:class:`~fastNLP.modules.MLP` , 简单的多层感知器模块
:class:`~fastNLP.modules.ConditionalRandomField` , 条件随机场模块
:class:`~fastNLP.modules.viterbi_decode` , 给定一个特征矩阵以及转移分数矩阵,计算出最佳的路径以及对应的分数 (与 :class:`~fastNLP.modules.ConditionalRandomField` 配合使用)
:class:`~fastNLP.modules.allowed_transitions` , 给定一个id到label的映射表返回所有可以跳转的列表:class:`~fastNLP.modules.ConditionalRandomField` 配合使用)
:class:`~fastNLP.modules.TimestepDropout` , 简单包装过的Dropout 组件

View File

@ -2,10 +2,10 @@
fastNLP :mod:`~fastNLP.core` :mod:`~fastNLP.io` :mod:`~fastNLP.embeddings` :mod:`~fastNLP.modules`
:mod:`~fastNLP.models` 等子模块组成你可以查看每个模块的文档
- :mod:`~fastNLP.core` 是fastNLP 的核心模块包括 DataSet Trainer Tester 等组件详见文档 :doc:`fastNLP.core`
- :mod:`~fastNLP.io` 是实现输入输出的模块包括了数据集的读取模型的存取等功能详见文档 :doc:`fastNLP.io`
- :mod:`~fastNLP.embeddings` 提供用于构建复杂网络模型所需的各种embedding详见文档 :doc:`fastNLP.embeddings`
- :mod:`~fastNLP.modules` 包含了用于搭建神经网络模型的诸多组件可以帮助用户快速搭建自己所需的网络详见文档 :doc:`fastNLP.modules`
- :mod:`~fastNLP.core` 是fastNLP 的核心模块包括 DataSet Trainer Tester 等组件详见文档 :doc:`/fastNLP.core`
- :mod:`~fastNLP.io` 是实现输入输出的模块包括了数据集的读取模型的存取等功能详见文档 :doc:`/fastNLP.io`
- :mod:`~fastNLP.embeddings` 提供用于构建复杂网络模型所需的各种embedding详见文档 :doc:`/fastNLP.embeddings`
- :mod:`~fastNLP.modules` 包含了用于搭建神经网络模型的诸多组件可以帮助用户快速搭建自己所需的网络详见文档 :doc:`/fastNLP.modules`
- :mod:`~fastNLP.models` 包含了一些使用 fastNLP 实现的完整网络模型包括 :class:`~fastNLP.models.CNNText` :class:`~fastNLP.models.SeqLabeling` 等常见模型详见文档 :doc:`fastNLP.models`
fastNLP 中最常用的组件可以直接从 fastNLP 包中 import 他们的文档如下

View File

@ -3,36 +3,40 @@
1. 用于读入 embedding :doc:`EmbedLoader <fastNLP.io.embed_loader>` ,
2. 用于读入数据的 :doc:`DataSetLoader <fastNLP.io.dataset_loader>`
2. 用于读入不同格式数据的 :doc:`DataSetLoader <fastNLP.io.dataset_loader>`
3. 用于保存和载入模型的类, 参考 :doc:`/fastNLP.io.model_io`
3. 用于保存和载入模型的类, 参考 :doc:`model_io文档</fastNLP.io.model_io>`
4. 用于读入特定数据并进行处理的 :doc:`DataLoader <fastNLP.io.data_loader>`
这些类的使用方法如下:
"""
__all__ = [
'EmbedLoader',
'DataBundle',
'DataSetLoader',
'CSVLoader',
'JsonLoader',
'ModelLoader',
'ModelSaver',
'DataBundle',
'DataSetLoader',
'ConllLoader',
'Conll2003Loader',
'IMDBLoader',
'MatchingLoader',
'PeopleDailyCorpusLoader',
'SNLILoader',
'SSTLoader',
'SST2Loader',
'MNLILoader',
'MTL16Loader',
'PeopleDailyCorpusLoader',
'QNLILoader',
'QuoraLoader',
'RTELoader',
'SSTLoader',
'SST2Loader',
'YelpLoader',
]
from .embed_loader import EmbedLoader

View File

@ -1,13 +1,14 @@
"""
用于读数据集的模块, 可以读取文本分类序列标注Matching任务的数据集
这些模块的使用方法如下:
这些模块的具体介绍如下您可以通过阅读 :doc:`教程</tutorials/tutorial_2_load_dataset>` 来进行了解
"""
__all__ = [
'ConllLoader',
'Conll2003Loader',
'IMDBLoader',
'MatchingLoader',
'SNLILoader',
'MNLILoader',
'MTL16Loader',
'PeopleDailyCorpusLoader',
@ -16,7 +17,6 @@ __all__ = [
'RTELoader',
'SSTLoader',
'SST2Loader',
'SNLILoader',
'YelpLoader',
]

View File

@ -58,7 +58,7 @@ class ConllLoader(DataSetLoader):
class Conll2003Loader(ConllLoader):
"""
别名:class:`fastNLP.io.Conll2003Loader` :class:`fastNLP.io.dataset_loader.Conll2003Loader`
别名:class:`fastNLP.io.Conll2003Loader` :class:`fastNLP.io.data_loader.Conll2003Loader`
读取Conll2003数据

View File

@ -7,7 +7,7 @@ from ...core.const import Const
class PeopleDailyCorpusLoader(DataSetLoader):
"""
别名:class:`fastNLP.io.PeopleDailyCorpusLoader` :class:`fastNLP.io.dataset_loader.PeopleDailyCorpusLoader`
别名:class:`fastNLP.io.PeopleDailyCorpusLoader` :class:`fastNLP.io.data_loader.PeopleDailyCorpusLoader`
读取人民日报数据集
"""

View File

@ -17,7 +17,7 @@
"""
__all__ = [
"BertModel",
# "BertModel",
"ConvolutionCharEncoder",
"LSTMCharEncoder",

View File

@ -1,5 +1,5 @@
__all__ = [
"BertModel",
# "BertModel",
"ConvolutionCharEncoder",
"LSTMCharEncoder",