信息论基础与古典加密技术 经典代换密码（Substitution Cipher） Caesar密码--26位字母移位操作 单表代换密码--代换表 Playfair密码 Hill密码 多表代换密码 Vigenère Cipher 置换密码（Transposition/Permutation Ciphe ...
分类：
其他好文 时间：
2020-04-01 13:14:33
阅读次数：
78
信息消息信号的区别 信息：指事物运动的状态或存在方式的不确定性的描述 消息：包含信息的语言文字图像等 信号：信息的物理体现 在通信系统中，实际传输的是信号，但实质内容是信息，信息包含在信号中，信号是信息的载体，通信的结果是消除或部分消除不确定性，从而获得信息。 信源、信宿、信道和密钥源 信源：信息输 ...
分类：
其他好文 时间：
2020-03-31 22:50:17
阅读次数：
74
一.信息的用处？ 信息的作用：对不确定性的消除。 由于信息是来判断事请的不确定性，一件事的不确定信息越大，所提供的信息越多， 例如一件事发生的概率为1，它能提供的信息量为0；但是如果一件事发生的概率为趋近于0，但是它发生了，它表示的信息量就很巨大了！ 为了表达一件事情所包含的信息量，人们提出了自信息 ...
分类：
其他好文 时间：
2020-03-27 14:22:57
阅读次数：
73
论文信息： "论文" ，EMNLP2019 概述 上下文感知词嵌入已经被成功应用于命名实体识别、文档分类等NLP任务。其中多语言版BERT也基于XNLI数据集(Conneau et al., 2018)在“zero shot”或者“zero resource”的跨语言分类任务中展示了强大能力。这里所 ...
分类：
其他好文 时间：
2020-03-24 10:46:06
阅读次数：
75
论文信息： "论文" 1. 概述 分布式表示在诸多自然语言处理系统中应用十分广泛，比如wrod2vec中每个单词被转换为一个全局向量。但这种方式忽略了单词的上下文信息，同一单词在不同的上下文中表示相同。因此近年来上下文嵌入方法风生水起，获得了快速发展和普遍关注。该论文就是对这些上下文嵌入方法的一篇综 ...
分类：
其他好文 时间：
2020-03-23 15:16:11
阅读次数：
50
论文信息： "论文" ,AAAI2020 概述 关系抽取旨在从非结构化文本中抽取结构化的三元组，比如从文本“ Barack Obama was born in the United States”中识别实体"Barack Obama"和"United States"的关系是"born in"，从而得 ...
分类：
其他好文 时间：
2020-03-22 10:48:43
阅读次数：
122
互信息指的是两个随机变量之间的关联程度，即给定一个随机变量后，另一个随机变量不确定性的削弱程度，因而互信息取值最小为0，意味着给定一个随机变量对确定一另一个随机变量没有关系，最大取值为随机变量的熵，意味着给定一个随机变量，能完全消除另一个随机变量的不确定性。 互信息(Mutual Informati ...
分类：
其他好文 时间：
2020-03-14 16:47:32
阅读次数：
118
1. 信息熵 信息熵是信息论中用于度量信息量的一个概念。一个系统越是有序，信息熵就越低；反之，一个系统越是混乱，信息熵就越高。所以，信息熵也可以说是系统有序化程度的一个度量。信息量是对信息的度量，就跟时间的度量是秒一样，当我们考虑一个离散的随机变量 x 的时候，当我们观察到的这个变量的一个具体值的时 ...
分类：
其他好文 时间：
2020-03-12 14:25:08
阅读次数：
88
1. 论文的背景是： 当区块链技术应用于现实生活中的系统时，智能合约可能需要接收敏感数据来执行其代码。例如，分布式的医疗保险智能合同需要访问个人健康数据。因此，保证发送给智能合约的数据的隐私性和真实性至关重要，这样每个人都可以在不泄露敏感数据的情况下验证数据信息。 2. 论文的大致框架是： 提出使用 ...
分类：
其他好文 时间：
2020-03-07 15:54:41
阅读次数：
75
自然语言处理入门基础 1 数学基础 （1）线性代数 向量、 矩阵、距离计算（余弦距离、欧式距离、曼哈顿距离、明可夫斯基距离、切比雪夫距离、杰卡德距离、汉明距离、标准欧式距离、皮尔逊相关系数） （2）概率论 随机试验、条件概率、全概率、贝叶斯定理、信息论 （3）统计学 图形可视化（饼图、条形图、热力图 ...
分类：
其他好文 时间：
2020-01-19 12:39:31
阅读次数：
72
