码迷,mamicode.com
首页 > 其他好文 > 详细

solr

时间:2014-06-12 23:34:02      阅读:409      评论:0      收藏:0      [点我收藏+]

标签:des   Lucene   class   blog   code   java   

Solr是一个独立的企业级搜索应用服务器,它对外提供类似于Web-service的API接口。
 Solr是一个高性能,采用Java5开发,基于Lucene的全文搜索服务器。同时对其进行了扩展,提供了比Lucene更为丰富的查询语言,同时实现了可配置、可扩展并对查询性能进行了优化,并且提供了一个完善的功能管理界面,是一款非常优秀的全文搜索引擎。

Solr优点:
 (1)Solr 可以对几乎任何对象进行索引,该对象甚至可以不是ActiveRecord.而Sphinx和RDBMS耦合过于紧密
 (2)Solr 索引的对象ID可以非空或者是字符串,而Sphinx要求被索引对象必须拥有非0整数作为ID
 (3)Solr 支持Boolean作为查询条件搜索,更加方便 Solr 支持Facets,而Sphinx为此需要做更多工作
 (4)Solr是对lucene的包装。所以他可以享受lucene每次升级带来的便利。

一、基本命令:
 Rails3安装:
 (1)Gemfile 添加 gem ‘sunspot_rails‘, ‘~> 1.2.1‘
 (2)bundle install
 (3)使用 rails g sunspot_rails:install 生成配置文件(config/sunspot.yml)

 Solr服务器启动:
 rake sunspot:solr:start(后台进程启动)   或者   rake sunspot:solr:run
Solr停止: rake sunspot:solr:stop
服务器建立索引:rake sunspot:reindex
可按model单独索引:rake sunspot:reindex[1000:Company]
示例:nohup rake sunspot:reindex[1000:Company] --trace RAILS_ENV=production &
 查看Solr服务:http://railsserver:{sunspot.yml[RAILS_ENV][port]}/solr(http://127.0.0.1:8983/solr) 


二、配置:
Schema.xml配置:
<analyzer type=‘index‘>
        <charFilter class="solr.HTMLStripCharFilterFactory"/>
        <filter class="solr.ASCIIFoldingFilterFactory"/>
     <tokenizer class="org.wltea.analyzer.solr.IKTokenizerFactory" isMaxWordLength="true"/>
        <filter class="solr.LowerCaseFilterFactory"/>
        <filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="false"/>
      </analyzer>
      <analyzer type=‘query‘>
        <charFilter class="solr.HTMLStripCharFilterFactory"/>
        <filter class="solr.ASCIIFoldingFilterFactory"/>
     <tokenizer class="org.wltea.analyzer.solr.IKTokenizerFactory" isMaxWordLength="true"/>
        <filter class="solr.LowerCaseFilterFactory"/>
        <filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="false"/>
      </analyzer>
上述代码分为索引(index)和查询(query),对词语进行处理,分为五步:
(1)<charFilter class="solr.HTMLStripCharFilterFactory"/> 对html字符进行过滤;
(2)<filter class="solr.ASCIIFoldingFilterFactory"/>  过滤特殊字符;
(3)<tokenizer class="org.wltea.analyzer.solr.IKTokenizerFactory" isMaxWordLength="true"/>  IK分词;isMaxWordLength设置是否最大词长切分; 
(4)<filter class="solr.LowerCaseFilterFactory"/>  小写转换
(5)<filter class="solr.SynonymFilterFactory" synonyms="synonyms.txt" ignoreCase="true" expand="false"/>  设置同义词词库;
    synonyms格式:pvc => 聚氯乙烯
更多过滤分析条件见:http://wiki.apache.org/solr/AnalyzersTokenizersTokenFilters

IKAnalyzer.cfg.xml 配置:
文件路径(测试机上):/opt/ruby-enterprise-1.8.7/lib/ruby/gems/1.8/gems/sunspot-1.2.1/solr/webapps/solr/WEB-INF/classes
文档: http://ik-analyzer.googlecode.com/files/IKAnalyzer%E4%B8%AD%E6%96%87%E5%88%86%E8%AF%8D%E5%99%A8V3.2.8%E4%BD%BF%E7%94%A8%E6%89%8B%E5%86%8C.pdf
http://linliangyi2007.iteye.com/blog/501228
    自定义词库:
<properties>
         <entry key="ext_dict">/mydict.dic;/com/mycompany/dic/mydict2.dic;</entry> 
</properties>
注意:mydict.dic与IKAnalyzer.cfg.xml同目录
屏蔽词配置:
<properties>
     <entry key="ext_stopwords">/ext_stopword.dic</entry>
</properties>
注意:ext_stopword.dic与IKAnalyzer.cfg.xml同目录


三、索引方法:
 Model索引定义(以price为例):
   searchable (:auto_index => true,:auto_remove => true) do
       text :full_name, :stored => true
    string :company_name, :stored => true
    string :brand_name, :stored => true do
        self.try(:product).try(:brand).try(:name)
    end
     integer :brand_id,:references => Brand, :stored => true
     integer :company_id,:references => Company, :stored => true
     integer :attr_value_ids, :references => BaseMaterialTypeAttrValue, :multiple => true, :stored => true
     time :updated_at,:trie => true, :stored => true
   end

其中full_name、company_name等是自定义的函数,返回相应的值;自定义索引函数中尽量全用try,否则索引过程中会出现索引错误,例如brand_name

 索引定义参数介绍:
 (1)text :表示可以部分匹配,索引时是按分词索引
 (2)string:完全匹配,被完整索引
 (3)integer,long:整数
 (4)float,double:浮点数
 (5)time:data/time,相当于ruby的time class
 (6)boolean:true、false
 属性字段的几个参数:
 (1)multiple:索引多个值
 (2)references:引用类
 (3)stored:是否存储到索引
 (4)trie:Boolean: Numeric and time fields only;能使进行range搜索时速度更快。
 

实时建立索引方法:
(1)Sunspot.index(Objects)
     Sunspot.commit
(2)Sunspot.index!(Objects)
(3)删除索引Sunspot.remove (*objects) ,然后Sunspot.commit      
(4)删除索引Sunspot.remove! (*objects)
(5)在索引函数中加入searchable (:auto_index => true,:auto_remove => true)  do 也可实时索引;

四、搜索:
 两种搜索写法,例如:
(1)@results = Sunspot.new_search(Price)
@results.build { keywords(params[:search][:value], :query_phrase_slop => 1000, :phrase_slop => 1000, :highlight => true, :exclude_fields => [:search_key,:notes], :boost_fields => [:full_name => 5, :description => 4, :base_material_type_description => 3])}
@results.build { with(:status).equal_to("released")}
@results.build { without(:product_id).equal_to(nil)}
@results.build { order_by(:score,:desc) }
@results.build { order_by(:updated_at,:desc) }
@results.build { facet(:brand_id) }
@results.build { facet(:attr_value_ids) }
@results.execute!
(2)Sunspot.search(Price) do
keywords(params[:search][:value], :fields => [:full_name, :description], :highlight => true, :minimum_match => 0)
            with(:updated_at).greater_than(30.days.ago.to_time)
paginate(:page => params[:page] || 1,:per_page => session[:per_page])
facet(:attr_value_ids)
      end

限制方法有:
 (1)with
 (2)without
 (3)order_by
 (4)facet:面搜索
 (5)paginate:传入rails中的will paginate分页参数
 限制条件有:
 (1)equal_to
 (2)less_than
 (3)greater_than
 (4)between
 (5)any_of  匹配任意一项,值为数组,如with(:attr_value_ids).any_of(params[:search][:attr_value_ids])
 (6)all_of  匹配全部,值为数组
    Any_of 和 all_of 可以分别表示or 、and逻辑,可以互相包含,如:
    any_of do
        with(:expired_at).greater_than(Time.now)
        with(:expired_at, nil)
        all_of do
              with(:publshed_at).less_than(Time.now)
              with(:author_id).equal_to(999)
        end
      end

keyword的其它参数详见:http://outoftime.github.com/sunspot/docs/classes/Sunspot/DSL/Fulltext.html



五、页面展示部分:
调用检索结果:
    (1)@search.hits   索引的数据,直接从所用文档中得到数据
    (2)@search.results  得到的数据集是从数据库中反查出来的数据
    (3)@search.each_hit_with_result  do  |hit, result| ,同上
    (4)hit.result  可用hit从数据库中查出对象
    (5)hit.score  匹配度,搜索时可按score排序
    (6)hit.stored(:name)   直接从索引文档中取得存储的参数
    (7)与will_paginate的结合:will_paginate(@search.hits)
(8)高亮显示关键词:如
        Search方法中搜索关键词语句中 加 :highlight => true
    页面调用:hit.highlight(:body).format { |fragment| content_tag(:em, fragment) }
        遇到的问题:页面调用hit.highlight(:body),如果body字段
含有所检索关键词时,hit.highlight(:body)为空会报错,需要对highlight(:body)进行判断,如果为空则调用hit.stored(:body)显示。
    (9)分面搜索: 调用方法
@search.facet(:attr_value_ids).rows   do  |row|
    值 row.value
    对应记录数量row.count
end






solr filter 文档
http://wiki.apache.org/solr/AnalyzersTokenizersTokenFilters

sunspot:
http://outoftime.github.com/sunspot/docs/classes/Sunspot/DSL/Fulltext.html
http://outoftime.github.com/sunspot/docs/classes/Sunspot/Search/AbstractSearch.html

solr,布布扣,bubuko.com

solr

标签:des   Lucene   class   blog   code   java   

原文地址:http://www.cnblogs.com/qinyan20/p/3781371.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!