码迷,mamicode.com
首页 > 其他好文 > 详细

NLPIR(ICTCLAS)分析包的使用记录

时间:2016-09-30 01:06:10      阅读:294      评论:0      收藏:0      [点我收藏+]

标签:

  前段时间使用了HanLP一个纯JAVA分词工具包,后来老大说分词效果不是很好,需要换一个分词工具。于是推荐了一个分词工具——NLPIR,它是中科院XXX研发的一个分词工具。这个分词工具只用C/C++写的,但是它提供了JAVA,C#等调用接口。于是我希望是的通过java来调用。使用java调用C/C++的代码需要用到JNA,所以工程需要添加JNA的依赖包。

这里面官网上介绍的不是特别清楚,里面有些坑,第一次使用的人还真需要一段时间解决,下面将我踩的坑记录一下:

 1、首先进官网:http://ictclas.nlpir.org/  下载相应的安装包,我下载的是:

  20160907102816_ICTCLAS2016分词系统下载包.zip

解压之后会出现如下文件目录:

技术分享

其中,主要的几个目录是:

(1)Data,这个目录是放了license(NLPIR.user)在里面,这个如果你配置成功,初始化失败,一般都是license过期了。这个license目前是一个月更新一次。

(2)lib ,这个目录存放了linux和window下,运行需要的dll文件和.so文件。其中分别有对应的位数:

技术分享

(3)sample,这个目录下面有多个语言实现的example。由于我这里使用的是java,所以就选择java,选择JNA,在选择JnaTest_NLPIR。在这个java工程就是提供的一个例子。

可以将例子导入工程中,代码如下:

package code;

import java.io.UnsupportedEncodingException;

import utils.SystemParas;

import com.sun.jna.Library;
import com.sun.jna.Native;

public class NlpirTest {

	// 定义接口CLibrary,继承自com.sun.jna.Library
	public interface CLibrary extends Library {
		// 定义并初始化接口的静态变量
		CLibrary Instance = (CLibrary) Native.loadLibrary(
				"NLPIR", CLibrary.class);   //这里需要注意,这个位置就设置为NLPIR是不能够改变,这里折腾我好久了,原来是这个NLPIR文件是不能改变。

		// printf函数声明
		public int NLPIR_Init(byte[] sDataPath, int encoding,
				byte[] sLicenceCode);

		public String NLPIR_ParagraphProcess(String sSrc, int bPOSTagged);

		public String NLPIR_GetKeyWords(String sLine, int nMaxKeyLimit,
				boolean bWeightOut);

		public void NLPIR_Exit();
	}

	public static String transString(String aidString, String ori_encoding,
			String new_encoding) {
		try {
			return new String(aidString.getBytes(ori_encoding), new_encoding);
		} catch (UnsupportedEncodingException e) {
			e.printStackTrace();
		}
		return null;
	}

	public static void main(String[] args) throws Exception {
		String argu = "";
		// String system_charset = "GBK";//GBK----0
		String system_charset = "GBK";
		int charset_type = 1;
		// int charset_type = 0;
		// 调用printf打印信息
		int init_flag = CLibrary.Instance.NLPIR_Init(argu
				.getBytes(system_charset), charset_type, "0"
				.getBytes(system_charset));

		if (0 == init_flag) {
			System.err.println("初始化失败!");
			return;
		}

		String sInput = "据悉,质检总局已将最新有关情况再次通报美方,要求美方加强对输华玉米的产地来源、运输及仓储等环节的管控措施,有效避免输华玉米被未经我国农业部安全评估并批准的转基因品系污染。";

		String nativeBytes = null;
		try {
			nativeBytes = CLibrary.Instance.NLPIR_ParagraphProcess(sInput, 3);

			System.out.println("分词结果为: " + nativeBytes);

			int nCountKey = 0;
			String nativeByte = CLibrary.Instance.NLPIR_GetKeyWords(sInput, 10,false);

			System.out.print("关键词提取结果是:" + nativeByte);

			CLibrary.Instance.NLPIR_Exit();

		} catch (Exception ex) {
			// TODO Auto-generated catch block
			ex.printStackTrace();
		}

	}
}

 此时这样设置之后,接下来需要区分window和linux:

(1)若是在window下,只需要将NLPIR.dll文件拷贝到工程目录下即可,就可以在IDE里面运行。若是在控制台的话,同样需要将NLPIR.dll文件拷贝到jar包同目录下即可。

(2)若是在linux下,只需要将libNLPIR.so文件拷贝到当前jar包的目录下即可。

下面说说我踩得坑:

坑1、如上述描述,非常简单的使用,硬是给我搞了一天才搞定,这说明什么?刚开始我所遇到的是CLibrary Instance = (CLibrary) Native.loadLibrary( "NLPIR", CLibrary.class);这句到底是加载什么路径下的库文件。费了很大的劲,最后采用的是使用相对路径。只需要填写“NLPIR”即可。并且这个名字是不可以改变的。

坑2、当你将NLPIR.dll文件添加到工程后,以为应该是可以了,但是还是报错,报如下错误:

技术分享

这个错误主要原因是dll文件位数与操作系统的位数不一致所造成的。由于我是64位的操作系统,所以讲NLPIR.dll文件换成64位的即可。

坑3、当你上面都搞定了,运行之后,会报"初始化失败"的错误,这个错误刚开始搞了好久,没弄明白,因为觉得自己都配置好了,为什么还是初始化失败,这也是我花费时间最长的地方。后来网上一查发现,原来是有一个license。它是有时间的限制的。于是需要更换最新的license。去哪里更换呢?我在网上找到一个人的电话,直接打电话过去问的,听过那人介绍,原来在下载的时候,有标明license下载的地方。如下所示:https://github.com/NLPIR-team/NLPIR/tree/master/License

技术分享

license原来是在这里下载。搞了半天,license放到了这么隐蔽的位置。

坑4、如上所示,也更换了最新的license,可以运行了。但是接下来,我的想法是将这个东西打jar包,在linux上运行,搞了半天不知道怎么回事,老是报错,最后的原因是在设置坑1的时候路径问题。因为一开始我设置的是绝对路径,总是报错,后来直接用相对路径。就不报错了。

 

NLPIR(ICTCLAS)分析包的使用记录

标签:

原文地址:http://www.cnblogs.com/ljy2013/p/5920920.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!