百度分词技术_百度输入法分词位置_数据处理分词例句

我们要理解分词技术先要理解一个概念。那就是查询处理，当用户向搜索引擎提交查询后，搜索引擎接收到用户的信息要做一系列的处理。步骤如下所示：

1.首先是到里面索引相关的信息，这就是查询处理。

那么查询处理又是如何工作的呢？很简单，把用户提交的字符串没有超过3个的中文字，就会直接到索引词汇。超过4个中文字的，首先用分隔符比如空格，标点符号，将查询串分割成若干子查询串。

举个例子。“什么是百度分词技术” 我们就会把这个词分割成“ 什么是，百度，分词技术。”这种分词方法叫做反向匹配法。

2.然后再看用户提供的这个词有没有重复词汇

如果有的话，会丢弃掉，默认为一个词汇。接下来检查用户提交的字符串，有没有字母和数字。如果有的话，就把字母和数字认为一个词。

这就是搜索引擎的查询处理。

百度是如何来分词的呢？分词技术现今非常成熟了。分为3种技术。

这是种常用的分词法，百度就是用此类分词。字符串匹配的分词方法，又分为3种分词方法。

（1）.正向最大匹配法

就是把一个词从左至右来分词。

举个例子：”不知道你在说什么”

这句话采用正向最大匹配法是如何分的呢？“不知道，你，在，说什么”。

（2）.反向最大匹配法

"不知道你在说什么"反向最大匹配法来分上面这段是如何分的。“不，知道，你在，说，什么”，这个就分的比较多了，反向最大匹配法就是从右至左。

（3）.就是最短路径分词法。

就是说一段话里面要求切出的词数是最少的。

“不知道你在说什么”最短路径分词法就是指，把上面那句话分成的词要是最少的。“不知道，你在，说什么”，这就是最短路径分词法，分出来就只有3个词了。

（4）.双向最大匹配法。

而有一种特殊的情况，就是关键词前后组合内容被认为粘性相差不大，而搜索结果中也同时包含这两组词的话，百度会进行正反向同时进行分词匹配。

就是一种机器语音判断的分词方法。很简单，进行句法、语义分析，利用句法信息和语义信息来处理歧义现象来分词，这种分词方法，还不成熟，处在测试阶段。

根据词组的统计，就会发现两个相邻的字出现的频率最多，那么这个词就很重要。就可以作为用户提供字符串中的分隔符，这样来分词。

比如，“我的，你的，许多的，这里，这一，那里”等等，这些词出现的比较多，就从这些词里面分开来。

由于很多朋友要求写一篇搜索引擎分词技术的文章，特别是关于百度分词的。我今天就发发给大家

Moon 10月9号在SEOWHY周四答疑群给讲解的分词技术今天给大家帖出来供大家学习一下。

分词技术 : 什么是分词, 如何分词搜索引擎会承认,这次第一位朋友提的问题，想必大家也听说过，很好奇，什么是分词技术，什么又是百度分词呢?分词大家容易理解。就是一段词用字符分开，比如标点符号，空格等。

那什么叫分词技术呢?分词技术就是SE针对用户提交查询的关键串进行的查询处理后根据用户的关键词串用各种匹配方法进行的一种技术。大家好好理解。那么我们要理解分词技术先要理解一个概念。那就是查询处理，当用户向搜索引擎提交查询后，搜索隐藏接收到用户的信息要做一系列的处理。首先是到 里面索引相关的信息，

这就是查询处理，那么查询处理又是如何工作的呢?很简单，把用户提交的字符串没有超过3个的中文字，就会直接到索引词汇。超过4个中文字 的，首先用分隔符比如空格，标点符号，将查询串分割成若干子查询串。举个例子。“什么是百度分词技术” 我们就会把这个词分割成“ 什么是，百度，分词技术。”这种分词方法叫做反向匹配法。2.然后再看用户提供的这个词有没有重复词汇。

本文来自电脑杂谈，转载请注明本文网址：
http://www.pc-fly.com/a/jisuanjixue/article-37623-1.html