你如何在MxNet中计算n-gram？

作者: polo
发布时间: 2025-03-10 08:32:27 (4小时前)
转自：

2 条回复

0#
回复此人
晴天3 | 2019-08-31 10-32

<div class =“post-text”itemprop =“text”> <P> 我们退后一步问 <EM> 为什么 </EM> 我们传统上用n-gram表示文本。 N-gram试图捕获有趣的搭配，即组合在一起的单词，例如作为二重奏的“白宫”可能比仅知道句子中包含“白色”和“众议院”这些词语更有趣。 </p> <P> 使用n-gram的缺点是稀疏性增加 - 许多搭配的频率很低。我们可能会在预测时遇到前所未有的搭配。 </p> <P> 对于深度学习，我们可以使用诸如LSTM之类的RNN通过单词序列捕获搭配和用语言编码的有趣信息。 </p> <P> 因此，处理深度学习的文本输入的典型方法是文本的Word2Vec编码，例如，在其上面的LSTM（或者更加花哨的BiLSTM）。 </p> </DIV>

编辑

登录后才能参与评论