[转载]Lucene.Net, SQL Server 2008全文检索, Like模糊查询的一点心得

[转载]Lucene.Net, SQL Server 2008全文检索, Like模糊查询的一点心得 – BobLiu – 博客园.

1.Like 模糊查询

例如: select * from table where productdes like ‘%cad%’

它不能利用索引查询, 只能是全表扫描, 效率较低, 但查询结果准确.

2.SQL Server 2008全文检索

为了提高效率, 换用SQL server的全文检索, 怎么建全文检索就此略去, 不提, 只看查询方法.

例如: select * from table where contains(ProductDesc, ‘*cad*’)

它查询的效率很高, 中文分词没有问题, 但缺点竟然是在英文查询上, 如果想模糊查询带cad三个字母的数据, 它只能搜索出以cad为完整单词的数据, 例如: 它能查出abc cad , cad def, 或者cad, 它不能查出autocad这种字母连在一起的数据, 也就是说, SQL server的全文检索的英文分词是空格.

3.Lucene全文检索

SQL server全文检索不灵了, 只能找第三方的方案了, 首当其冲的就是Lucene了, 但在.net下, Lucene却很不顺当. NLucene是将 Lucene 从 Java 移植到 .NET 的一个 SourceForge 项目，它从 Lucene 1.2 版本转化而来,
但2002年就停止更新了. 因为 NLucene 项目到2002年就没有再推出新的版本，可Lucene 却一直在发展，于是有人把Lucene 1.3版移植到.NET就成了Lucene .NET，但是Lucene .Net发展到2.0版的时候变成了商业化的产品，脱离了开源项目. 受到Lucene.Net脱离开源项目的影响，有人为了继续发展开源.Net搜索引擎，于是在Lucene.Net的原有基础上继续发展该项目，但是名字 改成了DotLucene以区别于Lucene.Net。但现在打开官网一看, 得, 又停止了. 看来, 只能用Lucene.Net2.0这最后一个开源版本了.

建索引, 查索引的代码如下:

private void btnCreateIndex_Click(object sender, EventArgs e)
{
StringBuilder sbSQL = new StringBuilder();
sbSQL.AppendLine(” Select ProductName, ProductDesc from Tbl_Product  “);
dt = DataHelper.RetrieveData(sbSQL.ToString());

//建立索引
IndexWriter writer = CreateIndex(dt);
}

public IndexWriter CreateIndex(DataTable dt)
{
IndexWriter writer = new IndexWriter(“c:/index/”, new StandardAnalyzer(), true);
try
{
//建立索引字段
foreach(DataRow dr in dt.Rows)
{
Document doc=new Document();
doc.Add(new Field(“ProductName”, dr[0].ToString(), Field.Store.YES, Field.Index.TOKENIZED));
doc.Add(new Field(“ProductDesc”, dr[1].ToString(), Field.Store.YES, Field.Index.TOKENIZED));
writer.AddDocument(doc);
}
writer.Optimize();
writer.Close();
}
catch(Exception e)
{
MessageBox.Show(e.Message);
}
return writer;
}

private void Search_Click(object sender, EventArgs e)
{
string key = this.textBox1.Text;

IndexSearcher search = new IndexSearcher(@”c:/index/”); //把刚才建立的索引取出来

Term t = new Term(“ProductDesc”, “*” + key + “*”);
WildcardQuery query = new WildcardQuery(t);

Hits hit = search.Search(query);

DataTable dt = new DataTable();
dt.Columns.Add(“ProductDesc”);

for (int i = 0; i <= hit.Length() – 1; i++)
{
DataRow dr = dt.NewRow();
dr[0] = hit.Doc(i).GetField(“ProductDesc”).StringValue();
dt.Rows.Add(dr);
}
this.dataGridView1.DataSource = dt;
}

关键是下面这两句:

Term t = new Term(“ProductDesc”, “*” + key + “*”);
WildcardQuery query = new WildcardQuery(t);

它通过WildcardQuery(通配符查询, 包括?和*) 实现了类似like的模糊查询, 这样, 就解决了上面like查得出但慢, SQLServer full-text search虽快但查不出来的问题.

但据说lucene建(更新)索引时不能查, 查时则不能建(更新)索引, 还没细看,如果是这样, 还是有些不爽.

4.全文索引和like语句比较

全文索引的执行效率高.一般全文索引使用的是倒排索引,能够支持多关键字的索引,而LIKE只有前缀匹配时才能使用索引,否则就是全表扫描,效率当然很低

当然是全文索引效率高。但全文索引存在填充问题，需要在增加内容后进行增量填充，否则检索不到新增的内容的。可以设置调度来自动运行。

5.倒排索引 inverted index

为什么Sql server全文检索和Lucune全文检索速度快呢, 因为它和大多数搜索引擎一样, 都使用了倒排索引 inverted index

从别人那里抄了例子, 如下:

假设有3篇文章：

文章1的内容为：I was a student, i came from chengdu.

文章2的内容为：My father is a teacher, and i am a student.

文章3的内容为：Chengdu is my hometown. my father’s hometown is wuhan.

Lucene是基于关键字索引和查询的。首先取得这3篇文章的关键字，通常需要如下处理措施（在Lucene中以下措施由Analyzer类完成）：

1）需要把3篇文章的内容切分成一个个单词，作为索引关键字的候选集。英文中单词与单词之间有空格，分词比较好处理，但中文字与字之间没有空隔，是连在一起的，所以中文分词处理要麻烦。

2）需要将文章中分离出来的没有实际意义的单词过滤掉。比如a、from、and，中文中的“的”、“也”、“啊”等通常无具体含义的词可以去掉。还要过滤掉标点符号。

3）单词需要统一大小写。

4）查找与当前关键字相关联的其他关键字，即统一单词不同的时态。如“came”、“coming”统一成“come”，再进行查找。

经过上面处理后，3篇文章的所有关键字为：

文章1：[i] [am] [student] [i] [come] [chengdu]

文章2：[my] [father] [is] [teacher] [i] [am] [student]

文章3：[chengdu] [is] [my] [hometown] [my] [father] [hometown] [is] [wuhan]

有了关键字后，就可以建立倒排索引了。上面的对应关系是顺排的，即“文章号→关键字”，倒排处理为“关键字→文章号”。文章1、2、3经过倒排后变成如表5-1所示。

表5-1  倒排文件

最后推荐几个学习资料:

1.全文检索与Lucene学习
http://www.cnblogs.com/keith2011/archive/2011/09/12/2173984.html

2.Lucene:WildcardQuery
http://hi.baidu.com/lewutian/blog/item/2f5adafb89cac468034f56ed.html

3.lucene.net 查询与添加索引的同步问题
http://blog.csdn.net/poson/article/details/2201880

4.倒排文件索引（Inverted File Index）的建立(2)
http://book.51cto.com/art/200906/128320.htm