码迷,mamicode.com
首页 > 其他好文 > 详细

Familia:百度NLP开源的中文主题模型应用工具包

时间:2018-02-27 14:59:04      阅读:1069      评论:0      收藏:0      [点我收藏+]

标签:用户画像   场景   aos   配置   ticket   linux   引擎   训练   get   

参考:Familia的Github项目地址百度NLP专栏介绍

 

Familia 开源项目包含文档主题推断工具、语义匹配计算工具以及基于工业级语料训练的三种主题模型:Latent Dirichlet Allocation(LDA)、SentenceLDA 和Topical Word Embedding(TWE)。 支持用户以“拿来即用”的方式进行文本分类、文本聚类、个性化推荐等多种场景的调研和应用。考虑到主题模型训练成本较高以及开源主题模型资源有限的现状,我们会陆续开放基于工业级语料训练的多个垂直领域的主题模型,以及这些模型在工业界的典型应用方式,助力主题模型技术的科研和落地。(English)

 

应用介绍
Familia目前包含的主题模型的对应论文介绍可以参考相关论文。

主题模型在工业界的应用范式可以抽象为两大类: 语义表示和语义匹配。

  * 语义表示 (Semantic Representation) 对文档进行主题降维,获得文档的语义表示,这些语义表示可以应用于文本分类、文本内容分析、CTR预估等下游应用。

  * 语义匹配 (Semantic Matching) 计算文本间的语义匹配度,我们提供两种文本类型的相似度计算方式:

    ` 短文本-长文本相似度计算,使用场景包括文档关键词抽取、计算搜索引擎查询和网页的相似度等等。
    ` 长文本-长文本相似度计算,使用场景包括计算两篇文档的相似度、计算用户画像和新闻的相似度等等。
更详细的内容及工业界应用案例可以参考Familia Wiki

 

代码编译
第三方依赖包括gflags-2.0,glogs-0.3.4,protobuf-2.5.0, 同时要求编译器支持C++11, g++ >= 4.8, 兼容Linux和Mac操作系统。 默认情况下执行以下脚本会自动获取依赖并安装。

$ sh build.sh # 包含获取并安装第三方依赖的过程

 

模型下载

$ cd model
$ sh download_model.sh
关于模型的详细配置说明可以参考模型说明
我们会陆续开放不同领域的多种主题模型,来满足更多不同的场景需求。

 

Demo
Familia自带的Demo包含以下功能:

语义表示计算 利用主题模型对输入文档进行主题推断,以得到文档的主题降维表示。

语义匹配计算 计算文本之间的相似度,包括短文本-长文本、长文本-长文本间的相似度计算。

模型内容展现 对模型的主题词,近邻词进行展现,方便用户对模型的主题有直观的理解。

具体的Demo使用说明可以参考使用文档

 

Familia:百度NLP开源的中文主题模型应用工具包

标签:用户画像   场景   aos   配置   ticket   linux   引擎   训练   get   

原文地址:https://www.cnblogs.com/bymo/p/8478173.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!