当前位置 : 主页 > 网络推广 > seo >

nlp L1

来源:互联网 收集:自由互联 发布时间:2021-06-16
前向最大匹配: 最大匹配出的词必须保证下一个扫描 不是词表中的词 或 词的前缀 才可以结束。 正向最大匹配算法:从左到右将待分词文本中的几个连续字符与词表匹配,如果匹配上

前向最大匹配:

  最大匹配出的词必须保证下一个扫描不是词表中的词词的前缀才可以结束。

  正向最大匹配算法:从左到右将待分词文本中的几个连续字符与词表匹配,如果匹配上,则切分出一个词。但这里有一个问题:要做到最大匹配,并不是第一次匹配到就可以切分的 。我们来举个例子:

           待分词文本:   content[]={"中","华","民","族","从","此","站","起","来","了","。"}

           词表:   dict[]={"中华", "中华民族" , "从此","站起来"}

(1) 从content[1]开始,当扫描到content[2]的时候,发现"中华"已经在词表dict[]中了。但还不能切分出来,因为我们不知道后面的词语能不能组成更长的词(最大匹配)。

(2) 继续扫描content[3],发现"中华民"并不是dict[]中的词。但是我们还不能确定是否前面找到的"中华"已经是最大的词了。因为"中华民"是dict[2]的前缀。

(3) 扫描content[4],发现"中华民族"是dict[]中的词。继续扫描下去:

(4) 当扫描content[5]的时候,发现"中华民族从"并不是词表中的词,也不是词的前缀。因此可以切分出前面最大的词——"中华民族"。

参考:https://blog.csdn.net/yangyan19870319/article/details/6399871

网友评论