码迷,mamicode.com
首页 > 编程语言 > 详细

四十四 Python分布式爬虫打造搜索引擎Scrapy精讲—elasticsearch(搜索引擎)的基本查询

时间:2018-01-03 13:54:47      阅读:212      评论:0      收藏:0      [点我收藏+]

标签:obb   注意   转换   分词   ras   指定字段   返回   source   pos   


1、elasticsearch(搜索引擎)的查询

elasticsearch是功能非常强大的搜索引擎,使用它的目的就是为了快速的查询到需要的数据

查询分类:
  基本查询:使用elasticsearch内置的查询条件进行查询
  组合查询:把多个查询条件组合在一起进行复合查询
  过滤:查询同时,通过filter条件在不影响打分的情况下筛选数据

 

 

2、elasticsearch(搜索引擎)创建数据

首先我们先创建索引、表、以及字段属性、字段类型、添加好数据

注意:一般我们中文使用ik_max_word中文分词解析器,所有在需要分词建立倒牌索引的字段都要指定,ik_max_word中文分词解析器
系统默认不是ik_max_word中文分词解析器

ik_max_word中文分词解析器是elasticsearch(搜索引擎)的一个插件,在elasticsearch安装目录的plugins/analysis-ik文件夹里,版本为5.1.1

更多说明:https://github.com/medcl/elasticsearch-analysis-ik

说明:

技术分享图片
#创建索引(设置字段类型)
#注意:一般我们中文使用ik_max_word中文分词解析器,所有在需要分词建立倒牌索引的字段都要指定,ik_max_word中文分词解析器
#系统默认不是ik_max_word中文分词解析器
PUT jobbole                             #创建索引设置索引名称
{
  "mappings": {                         #设置mappings映射字段类型
    "job": {                            #表名称
      "properties": {                   #设置字段类型
        "title":{                       #表名称
          "store": true,                #字段属性true表示保存数据
          "type": "text",               #text类型,text类型可以分词,建立倒排索引
          "analyzer": "ik_max_word"     #设置分词解析器,ik_max_word是一个中文分词解析器插件
        },
        "company_name":{                #字段名称
          "store": true,                #字段属性true表示保存数据
          "type": "keyword"             #keyword普通字符串类型,不分词
        },
        "desc":{                        #字段名称
          "type": "text"                #text类型,text类型可以分词,但是没有设置分词解析器,使用系统默认
        },
        "comments":{                    #字段名称
          "type": "integer"             #integer数字类型
        },
        "add_time":{                    #字段名称
          "type": "date",               #date时间类型
          "format":"yyyy-MM-dd"         #yyyy-MM-dd时间格式化
        }
      }
    }
  }
}

#保存文档(相当于数据库的写入数据) POST jobbole/job { "title":"python django 开发工程师", #字段名称:值 "company_name":"美团科技有限公司", #字段名称:值 "desc":"对django的概念熟悉, 熟悉python基础知识", #字段名称:值 "comments":20, #字段名称:值 "add_time":"2017-4-1" #字段名称:值 } POST jobbole/job { "title":"python scrapy redis 分布式爬虫基础", "company_name":"玉秀科技有限公司", "desc":"对scrapy的概念熟悉, 熟悉redis基础知识", "comments":5, "add_time":"2017-4-2" } POST jobbole/job { "title":"elasticsearch打造搜索引擎", "company_name":"通讯科技有限公司", "desc":"对elasticsearch的概念熟悉", "comments":10, "add_time":"2017-4-3" } POST jobbole/job { "title":"pyhhon打造推荐引擎系统", "company_name":"智能科技有限公司", "desc":"熟悉推荐引擎系统算法", "comments":60, "add_time":"2017-4-4" }
技术分享图片

 通过上面可以看到我们创建了索引并且设置好了字段的属性、类型、以及分词解析器,创建了4条数据

技术分享图片

 

3、elasticsearch(搜索引擎)基本查询

 

 

match查询【用的最多】
会将我们的搜索词在当前字段设置的分词器进行分词,到当前字段查找,匹配度越高排名靠前,如果搜索词是大写字母会自动转换成小写

技术分享图片
#match查询
#会将我们的搜索词进行分词,到指定字段查找,匹配度越高排名靠前
GET jobbole/job/_search
{
  "query": {
    "match": {
      "title": "搜索引擎"
    }
  }
}
技术分享图片

技术分享图片

 

 

term查询
不会将我们的搜索词进行分词,将搜索词完全匹配的查询

技术分享图片
#term查询
#不会将我们的搜索词进行分词,将搜索词完全匹配的查询
GET jobbole/job/_search
{
  "query": {
    "term": {
      "title":"搜索引擎"
    }
  }
}
技术分享图片

技术分享图片

 

 

terms查询
传递一个数组,将数组里的词分别匹配

技术分享图片
#terms查询
#传递一个数组,将数组里的词分别匹配
GET jobbole/job/_search
{
  "query": {
    "terms": {
      "title":["工程师","django","系统"]
    }
  }
}
技术分享图片

 

 

控制查询的返回数量
  from从第几条数据开始
  size获取几条数据

技术分享图片
#控制查询的返回数量
#from从第几条数据开始
#size获取几条数据 
GET jobbole/job/_search
{
  "query": {
    "match": {
      "title": "搜索引擎"
    }
  },
  "from": 0,
  "size": 3
}
技术分享图片

 

 

match_all查询,查询所有数据

技术分享图片
#match_all查询,查询所有数据
GET jobbole/job/_search
{
  "query": {
    "match_all": {}
  }
}
技术分享图片

 

 

match_phrase查询
短语查询
短语查询,会将搜索词分词,放进一个列表如[python,开发]
然后搜索的字段必须满足列表里的所有元素,才符合
slop是设置分词后[python,开发]python 与 开发,之间隔着多少个字符算匹配
间隔字符数小于slop设置算匹配到,间隔字符数大于slop设置不匹配

技术分享图片
#match_phrase查询
#短语查询
#短语查询,会将搜索词分词,放进一个列表如[python,开发]
#然后搜索的字段必须满足列表里的所有元素,才符合
#slop是设置分词后[python,开发]python 与 开发,之间隔着多少个字符算匹配
#间隔字符数小于slop设置算匹配到,间隔字符数大于slop设置不匹配
GET jobbole/job/_search
{
  "query": {
    "match_phrase": {
      "title": {
        "query": "elasticsearch引擎",
        "slop":3
      }
    }
  }
}
技术分享图片

 

 

multi_match查询
比如可以指定多个字段
比如查询title字段和desc字段里面包含python的关键词数据
query设置搜索词
fields要搜索的字段
title^3表示权重,表示title里符合的关键词权重,是其他字段里符合的关键词权重的3倍

技术分享图片
#multi_match查询
#比如可以指定多个字段
#比如查询title字段和desc字段里面包含python的关键词数据
#query设置搜索词
#fields要搜索的字段
#title^3表示权重,表示title里符合的关键词权重,是其他字段里符合的关键词权重的3倍
GET jobbole/job/_search
{
  "query": {
    "multi_match": {
      "query": "搜索引擎",
      "fields": ["title^3","desc"]
    }
  }
}
技术分享图片

技术分享图片

 

 

stored_fields设置搜索结果只显示哪些字段

注意:使用stored_fields要显示的字段store属性必须为true,如果要显示的字段没有设置store属性那么默认为false,如果为false将不会显示该字段

技术分享图片
#stored_fields设置搜索结果只显示哪些字段
GET jobbole/job/_search
{
  "stored_fields": ["title","company_name"], 
  "query": {
    "multi_match": {
      "query": "搜索引擎",
      "fields": ["title^3","desc"]
    }
  }
}
技术分享图片

技术分享图片

 

 

通过sort搜索结果排序
注意:排序的字段必须是数字或者日期
desc升序
asc降序

技术分享图片
#通过sort搜索结果排序
#注意:排序的字段必须是数字或者日期
#desc升序
#asc降序
GET jobbole/job/_search
{
  "query": {
    "match_all": {}
  },
  "sort": [{
      "comments": {
        "order": "asc"
      }
    }]
}
技术分享图片

 

 

range字段值范围查询
查询一个字段的值范围
注意:字段值必须是数字或者时间
gte大于等于
ge大于
lte小于等于
lt小于
boost是权重,可以给指定字段设置一个权重

技术分享图片
#range字段值范围查询
#查询一个字段的值范围
#注意:字段值必须是数字或者时间
#gte大于等于
#ge大于
#lte小于等于
#lt小于
#boost是权重,可以给指定字段设置一个权重
GET jobbole/job/_search
{
  "query": {
    "range": {
      "comments": {
        "gte": 10,
        "lte": 20,
        "boost": 2.0
      }
    }
  }
}
技术分享图片

 

 

range字段值为时间范围查询

技术分享图片
#range字段值为时间范围查询
#查询一个字段的时间值范围
#注意:字段值必须是时间
#gte大于等于
#ge大于
#lte小于等于
#lt小于
#now为当前时间
GET jobbole/job/_search
{
  "query": {
    "range": {
      "add_time": {
        "gte": "2017-4-1",
        "lte": "now"
      }
    }
  }
}
技术分享图片

 

 

wildcard查询,通配符查询
*代表一个或者多个任意字符

技术分享图片
#wildcard查询,通配符查询
#*代表一个或者多个任意字符
GET jobbole/job/_search
{
  "query": {
    "wildcard": {
      "title": {
        "value": "py*n",
        "boost": 2
      }
    }
  }
}
技术分享图片

 

 

fuzzy模糊查询

技术分享图片
#fuzzy模糊搜索
#搜索包含词的内容
GET lagou/biao/_search
{
  "query": {
    "fuzzy": {"title": "广告"}
  },
  "_source": ["title"]
}


#fuzziness设置编辑距离,编辑距离就是把要查找的字段值,编辑成查找的关键词需要编辑多少个步骤(插入、删除、替换)
#prefix_length为关键词前面不参与变换的长度
GET lagou/biao/_search
{
  "query": {
    "fuzzy": {
      "title": {
        "value": "广告录音",
        "fuzziness": 2,
        "prefix_length": 2
      }
    }
  },
  "_source": ["title"]
}
技术分享图片

 

四十四 Python分布式爬虫打造搜索引擎Scrapy精讲—elasticsearch(搜索引擎)的基本查询

标签:obb   注意   转换   分词   ras   指定字段   返回   source   pos   

原文地址:https://www.cnblogs.com/meng-wei-zhi/p/8182924.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!