背景 了解深度学习中的梯度爆炸与消失的原因，及如何处理梯度爆炸与消失。 梯度消失 梯度消失是激活函数和权重矩阵初始化值，这两个因素决定的。 sigmoid函数，求导的最大值为0.25 根据链式求导法则：导数小于0.25，如果初始化的W值，再小于1，这样逐个相乘后，会导致偏差为0，最终导致网路中的参数 ...
分类：
其他好文 时间：
2020-06-24 17:49:19
阅读次数：
48
有向图 无向图 概念 时间戳 \(dfn[x]\),在深度优先遍历中，按照每个节点第一次被访问的顺序，依次做整数标记 追溯值 \(low[x]\),通过非搜索边能到达的最小时间戳 割边判定法则 无向边$(x,y)$是割边/桥，当且仅当存在x的一个子节点满足$dfn[x] < low[y]$ 删除无向 ...
分类：
编程语言 时间：
2020-06-24 15:53:36
阅读次数：
48
前提条件 时间复杂度：O(n) 空间复杂度：O(1) 思路 若数组长度为偶数，那么其中奇数元素和偶数元素的个数相等；若数组长度为奇数，那么其中奇数元素和偶数元素的个数相差 1；我们先校验奇数元素个数和偶数元素个数是否合法，若不合法，则直接抛出异常； 根据数组中奇数元素的个数和偶数元素的个数的大小来判 ...
分类：
编程语言 时间：
2020-06-24 00:43:24
阅读次数：
62
[5+1]里氏替换原则（一）前言面向对象的SOLID设计原则，外加一个迪米特法则，就是我们常说的5+1设计原则。这六个设计原则的位置有点不上不下。论原则性和理论指导意义，它们不如封装继承抽象或者高内聚低耦合，所以在写代码或者codereview的时候，它们很难成为“应该这样做”或者“不应该这样做”的一个有说服力的理由。论灵活性和实践操作指南，它们又不如设计模式或者架构模式，所以即使你能说出来某段代
分类：
其他好文 时间：
2020-06-23 10:24:22
阅读次数：
67
解题思路异或也叫半加运算，其运算法则相当于不带进位的二进制加法：所以异或常被认作不进位加法。不能用加法，所以只能用二进制进位来算。把相加和进位分开，分成两步。1:a^b，完成不进位加法。 2:a&b，完成进位的运算。 3:把step2左移一位，模拟正常加法的向前进一位。一直到进行到进位没有为止，也就 ...
分类：
其他好文 时间：
2020-06-23 00:54:40
阅读次数：
69
梯度消失问题和梯度爆炸问题，总的来说可以称为梯度不稳定问题。 【要背住的知识】：用ReLU代替Sigmoid，用BN层，用残差结构解决梯度消失问题。梯度爆炸问题的话，可以用正则化来限制。sigmoid的导数是【0，0.25】. 出现原因 两者出现原因都是因为链式法则。当模型的层数过多的时候，计算梯度 ...
分类：
其他好文 时间：
2020-06-21 19:49:49
阅读次数：
93
工厂模式 作用： 实现了创建则和调用者的分离 详细分类： 简单工厂模式 工厂方法模式 抽象工厂模式 OOP七大原则 开闭原则：对扩展开放，对修改关闭 依赖倒置原则：要面向接口编程，不要面向实现编程。 迪米特法则： 只与你的直接朋友交谈、不跟“陌生人”说话。 核心本质： 实例化对象不使用new，用工厂 ...
分类：
其他好文 时间：
2020-06-19 11:58:38
阅读次数：
57
1、数字通信中通常用码元传输速率和信息传输速率表示。2、比特率＝波特率单个调制状态对应的二进制位数＝Blog2^N(相当于2的多少次立方等于N),比如log2^8=33、信噪比与分贝，通常用信号功率记为S，噪声功率记为N，则信噪比为S/N，常用logS/N的值，即分贝：1dB=10*logS/N在无噪声的数据速率计算应依据尼奎斯特定理来计算最大数据速率＝2Wlog2N=Blog2N其中W为带宽，B
分类：
其他好文 时间：
2020-06-17 16:44:09
阅读次数：
204
1、数字通信中通常用码元传输速率和信息传输速率表示。2、比特率＝波特率单个调制状态对应的二进制位数＝Blog2^N(相当于2的多少次立方等于N),比如log2^8=33、信噪比与分贝，通常用信号功率记为S，噪声功率记为N，则信噪比为S/N，常用logS/N的值，即分贝：1dB=10*logS/N在无噪声的数据速率计算应依据尼奎斯特定理来计算最大数据速率＝2Wlog2N=Blog2N其中W为带宽，B
分类：
其他好文 时间：
2020-06-17 01:35:42
阅读次数：
76
全列匹配 最佳左前缀法则 不在索引列上做任何操作(计算、函数、自动、手动类型转换)，会导致索引失效 存储引擎不能使用索引中范围条件右边的列 尽量使用覆盖索引（只访问索引的查询（索引和查询列一致）），少用：select * mysql 再使用不等于(!=或者<>)的时候无法使用索引会导致全表扫描 is ...
分类：
数据库 时间：
2020-06-14 23:39:26
阅读次数：
75
