自组织映射神经网络

标签：梯度   提取   激活   学习   自组织   优雅   响应   更新   通过   

原理

• 聚类、高维可视化、数据压缩、特征提取
• 自组织映射神经网络本质上是一个两层的神经网络，包含输入层和输出层（竞争层）输出层中神经元的个数通常是聚类的个数
• 训练时采用“竞争学习”方式，每个输入在输出层中找到一个和它最匹配的节点，称为激活节点。紧接着用随机梯度下降法更新激活节点的参数，同时，激活节点临近的点也根据他们距离激活节点的远近而适当地更新（更新方式为“墨西哥帽式”）。这种竞争可以通过神经元之间的横向抑制连接（负反馈路径）来实现。
• 输出层节点是有拓扑关系的（一维线阵、二维平面阵、三维栅格阵），且具有保序映射的特点
• 学习过程：
  • 初始化
  • 竞争：找到激活节点
  • 合作：更新临界节点参数
  • 适应：适当调整相关兴奋神经元连接权重，使获胜神经元对相似输入模型的后续应用的响应增强
  • 迭代：回到竞争

与K均值的区别

• 不需要确定类的个数，因为聚类结果的实际簇数可以小于神经元的个数
• K均值找到一个最相似的类后，只更新这个类参数；自组织映射神经网络更新了临近的节点。所以K均值易受噪声的影响，而后者准确性可能更低一些
• 自组织映射神经网络的可视化较好，具有优雅的拓扑关系图

自组织映射神经网络

标签：梯度   提取   激活   学习   自组织   优雅   响应   更新   通过   

原文地址：https://www.cnblogs.com/weilonghu/p/11922381.html