序列在python中进行序列建模

我正在尝试创建一个聊天机器人,它使用序列来对模型进行排序,以响应用户的输入.问题是给模型的输入序列几乎不会是相同的.输入序列是单词列表.我创建了一个词汇表,将这个序列中的每个单词映射到它自己的唯一id,但是,输入仍然是可变的并且不是固定的,所以我不能只使用序列来对模型进行排序.我知道可以使用编码器将单词序列映射到固定的矢量表示,然后使用解码器映射将矢量返回到序列.

我的问题是如何将单词序列编码为固定向量?是否有任何可用于此目的的技术?

最佳答案 将一系列单词映射到矢量表示可以使用递归神经网络来完成.你可以看看这个介绍:
http://colah.github.io/posts/2015-08-Understanding-LSTMs/

tensorflow工具包中有一个教程,通过示例代码:https://www.tensorflow.org/versions/r0.11/tutorials/index.html将序列映射到序列映射体系结构

然而,在使用RNN之前,我建议您浏览神经网络的基础知识:http://deeplearning.net/software/theano/tutorial/#basics

Bengio的深度学习书:http://www.deeplearningbook.org/涵盖了很多关于RNN的资料,但它涉及相当多的数学.

点赞