码迷,mamicode.com
首页 > 编程语言 > 详细

【Python图像特征的音乐序列生成】如何标记照片的特征

时间:2017-07-04 13:27:26      阅读:244      评论:0      收藏:0      [点我收藏+]

标签:com   ica   功能   惊奇   span   maker   src   输入   res   

目前我能想到的办法是这样的:

1,提取照片中的实体特征,借用某个pre-trained model进行tag标记。

2,将特征组合起来,形成一个bag-of-word model,然后将这个向量作为输入。进入CNN。

3,手动对照片贴标签,主要是对情感进行分类(如:安静、快乐,这样可以直观调节旋律)

4,将图片本身的这个特征向量,与情感标签一起作为旋律的生成参数。

 

首先要做的是提取照片中的实体特征。这是一个非常庞大的工程,需要很多的预训练。但是幸运地是,我手上的Azure付费订阅,可以支撑微软的Cognitive Service平台。

https://azure.microsoft.com/zh-cn/services/cognitive-services

不得不承认今年微软的Cognitive Service在功能上又有了一些强化,增加了QnA Maker、说话人识别等一系列很实用的API,为我之后的很多idea提供了方便,而且更重要的是,微软恰巧也强化了原来的计算机视觉API,现在的计算机视觉API相比之前的已经进化了很多。以前如果我放一个面包的照片,它最多返回一个“Food”标签。而现在,它不仅返回了Result分类结果,还返回了一大堆tag,请看下面两张图片:

技术分享

技术分享

 

尽管最近微软缩减了各个俱乐部的经费,我还是要在这里大喊三声:

微软大法好!

微软大法好!

微软大法好!

 

好了,那么这个tag就处理完毕。接下来我们要处理的是bag-of-word model。这个思想很简单,想象一个向量空间,我们把所有的词汇都映射成一个向量,那么这个向量的特征和这个词的特征是挂钩的,相似的词语会很近,而相反的词语会几乎线性相关。目前将词转换为向量的成熟方案是word2vec,英文上最出名、实用的应该是C&W 2008模型,中文方面没有业界知名的模型,但是我推荐这个:

http://spaces.ac.cn/archives/4304/

技术分享

我个人觉得非常地好用。

那么我以C&W 2008模型举例,取词向量dimension = 50,那么我们将所有的向量相加(反正没有相互联系),得到一个综合向量,再作为卷积网络的输出即可。

 

卷积神经网络的结构我之后再继续讲述,最后讲一下怎么对图片手动贴标签。在我的设想中,这个标签应该是直观的情感标签,是一个人类看到这张图片所有的直觉反应。

所以我设想,将标签设为:生、老、病、死、爱别离、怨憎会、求不得、五阴炽盛

平静、快乐、悲伤、惊奇、厌恶、愤怒……

之后通过神经网络进行multi-labeled classification。

 

【Python图像特征的音乐序列生成】如何标记照片的特征

标签:com   ica   功能   惊奇   span   maker   src   输入   res   

原文地址:http://www.cnblogs.com/ldzhangyx/p/7116035.html

(0)
(0)
   
举报
评论 一句话评论(0
登录后才能评论!
© 2014 mamicode.com 版权所有  联系我们:gaon5@hotmail.com
迷上了代码!