1.现状 (1) 模型层数加深 (2) 模型参数量变大 (3) 难以训练 (4) 难以fine-tune 2. 单层参数量和占用内存分析 层参数设置参数量与占用内存 1 layer 0.5Billion 0.5Billion * 4Byte = 2GB embedding layer 64K tok ...
分类：
其他好文 时间：
2020-07-02 00:27:27
阅读次数：
75
内存分析： 1、通过 ps -aux(或-elf) | grep java(或shua-xiao)获取进程PID 2、通过 jmap -histo <pid> 查看堆内存中存活的对象 按照对象所占内存大小排序，显示了存活对象的实例数、所占内存、类名。 3、进一步通过jmap获取dump文件，也可以设 ...
分类：
其他好文 时间：
2020-06-27 18:36:16
阅读次数：
107
查看实时资源占用情况：adb shell top查看进程 UID：adb shell dumpsys package | grep userId= 查看当前终端中的进程信息：adb shell ps 根据进程pid或包名查看进程占用的内存adb shell dumpsys meminfo<pid>a ...
分类：
其他好文 时间：
2020-06-20 14:30:27
阅读次数：
68
static修饰符的作用：是静态的意思，区分类与对象，如果在字段和方法前添加了static，那么它就属于类，否则就属于对象 （被所有的对象共享，节省空间，当没必须每个对象都存储一份的时候，可以直接使用类名调用） static内存分析 深入变量（分为成员变量跟局部变量） 成员变量：类成员变量（静态变量 ...
分类：
编程语言 时间：
2020-06-14 20:36:45
阅读次数：
72
1.类 类是一个模板，它描述一类事物的状态和行为。 类的创建： 状态使用成员变量 行为使用成员方法 2.对象 对象是类的一个实例，有状态和行为。 例如：一只狗就是动物类的一个实例，它有状态和行为，状态：颜色，品种，名字；行为有摇尾巴，叫、吃等 3.JVM的内存划分 JVM将内存主要划分为：方法区、栈 ...
分类：
编程语言 时间：
2020-06-14 18:53:57
阅读次数：
73
堆： 1.存放new的对象和数组 2.可以被所有的线程所共享，不会存放别的对象引用 栈： 1.存放基本变量类型（会包含这个基本类型的具体数值） 2.引用对象的变量（会存放这个引用在堆里面的具体地址） 方法区： 1.可以被所有线程共享 2.包含了所有的class和static变量 ...
分类：
编程语言 时间：
2020-06-09 23:49:51
阅读次数：
90
1、Java内存： 2、画图分析： 3、三种初始化 静态初始化： int[] a = {1, 2, 3}; Man[] mans = {new Man(1,1), new Man(2,2)}; 动态初始化： int [] a = new int[2]; a[0] = 1; a[1] = 2; 数组的 ...
分类：
编程语言 时间：
2020-06-03 23:31:40
阅读次数：
81
字符串：包含任意字符的序列。列表：包含任意对象的序列。 ...
分类：
编程语言 时间：
2020-06-01 23:41:24
阅读次数：
93
