本书阐述基于忆阻器的神经网络设计与实现，主要包括基于忆阻器的仿生突触与仿生神经元实现方案、采用模拟值和脉冲编码的神经网络算法原理与忆阻交叉阵列实现方案、卷积神经网络算法原理与忆阻交叉阵列实现方案、全光神经网络算法原理与基于忆阻器光学特性的实现方案、忆阻阵列在稀疏编码等其他与神经网络架构相似的应用实现等内容。
样章试读
目录
- 目录
“存储器科学与技术丛书”序
前言
第1章 站在类脑计算与忆阻器的交汇点1
1.1 类脑计算1
1.1.1 学习与泛化1
1.1.2 存算一体2
1.1.3 高能效3
1.2 类脑计算：为什么是忆阻器4
1.2.1 突触可塑性：类脑计算的物理基础4
1.2.2 忆阻器：天然的突触5
1.3 类脑计算的发展简史11
1.3.1 第一代：感知器11
1.3.2 第二代：引入非线性的多层感知器12
1.3.3 第三代：从模拟计算到神经形态计算13
1.4 本书章节安排13
1.5 思考题15
参考文献16
第2章 忆阻突触17
2.1 离子迁移型17
2.1.1 导电桥型18
2.1.2 氧化物型20
2.1.3 固态电解质型23
2.2 相变型26
2.2.1 晶-非晶相变26
2.2.2 莫特相变29
2.3 铁电型32
2.3.1 基本原理32
2.3.2 常用铁电材料36
2.3.3 常用器件结构39
2.4 忆阻突触阵列41
2.4.1 潜行通路问题及解决方案42
2.4.2 多核结构45
2.4.3 三维堆叠46
2.5 本章小结48
2.6 思考题49
参考文献49
第3章 忆阻神经元53
3.1 神经元简介53
3.1.1 生物神经元53
3.1.2 神经元的简化模型58
3.2 基于非易失的相变材料62
3.2.1 设计思想62
3.2.2 相变神经元的电路实现63
3.2.3 辅助电路65
3.3 基于易失的阈值转换材料67
3.3.1 设计原理67
3.3.2 阈值转换常见机理及其神经元69
3.4 本章小结77
3.5 思考题78
参考文献78
第4章 人工神经网络的监督学习80
4.1 单层神经网络80
4.1.1 算法原理80
4.1.2 基于1T1M的突触阵列：人脸识别88
4.1.3 基于忆阻器差分对的突触阵列：三宫格识别94
4.2 深度神经网络97
4.2.1 算法原理97
4.2.2 反向传播的忆阻交叉阵列实现99
4.2.3 忆阻突触的非理想效应与对策103
4.3 本章小结110
4.4 思考题112
参考文献113
第5章 脉冲神经网络的监督学习115
5.1 脉冲传播115
5.1.1 算法原理115
5.1.2 权重更新：隐藏层到输出层116
5.1.3 权重更新：输入层到隐藏层121
5.1.4 操作流程123
5.1.5 异或问题应用125
5.1.6 问题与改进方案(1)126
5.1.7 问题与改进方案(2)127
5.2 远程监督方法130
5.2.1 算法原理131
5.2.2 基于互补器件的电路实现132
5.2.3 器件非理想效应及解决方案136
5.3 本章小结138
5.4 思考题139
参考文献140
第6章 人工神经网络的非监督学习141
6.1 寻找隐藏的数据结构141
6.2 若干算法142
6.2.1 竞争学习142
6.2.2 期望-最大化143
6.3 本章小结146
6.4 思考题146
参考文献146
第7章 脉冲神经网络的非监督学习147
7.1 赫布法则147
7.2 STDP变种1150
7.2.1 忆阻突触实现150
7.2.2 神经网络应用：图像识别152
7.3 STDP变种2157
7.3.1 忆阻突触实现157
7.3.2 应用：DVS与运动轨迹识别158
7.3.3 忆阻突触电导方差对网络性能影响161
7.4 本章小结163
7.5 思考题164
参考文献165
第8章 深度强化学习167
8.1 强化学习简介167
8.2 基于模拟值的深度Q值网络168
8.2.1 吃还是不吃？这是个问题168
8.2.2 Bellman方程169
8.2.3 Bellman方程求解173
8.2.4 深度Q值网络177
8.2.5 若干优化技术179
8.2.6 忆阻突触阵列实现182
8.3 基于脉冲的深度Q值网络184
8.3.1 脉冲Q值学习185
8.3.2 策略迁移186
8.4 本章小结186
8.5 思考题188
参考文献188
第9章 卷积神经网络189
9.1 基本原理190
9.1.1 特征提取：第一层卷积核190
9.1.2 特征提取：池化191
9.1.3 特征提取：后续层卷积核191
9.1.4 分类：拍平与全连接192
9.2 二维忆阻阵列实现192
9.2.1 负权重的电路实现195
9.2.2 激活函数的电路实现196
9.2.3 平均池化的电路实现197
9.2.4 三维卷积核运算的电路实现198
9.2.5 权重更新的电路实现198
9.2.6 卷积的并行实现200
9.2.7 忆阻突触阵列的非理想效应201
9.2.8 芯片级体系结构203
9.3 三维忆阻阵列实现203
9.3.1 设计理念203
9.3.2 设计与实现实例205
9.4 本章小结208
9.5 思考题209
参考文献209
第10章 贝叶斯神经网络210
10.1 不确定性来源与量化210
10.1.1 乳腺肿瘤数据：标签交叠区难题211
10.1.2 贝叶斯神经网络：量化不确定度213
10.2 随机失效突触技术214
10.2.1 随机失效神经元/突触技术简介214
10.2.2 随机失效突触与贝叶斯神经网络的等价性217
10.2.3 蒙特卡罗-随机失效突触技术的优缺点219
10.3 基于阈值转换器件的硬件实现219
10.3.1 基于OTS的随机突触220
10.3.2 新冠肺炎胸片诊断：量化不确定度222
10.4 本章小结227
10.5 思考题227
参考文献228
第11章 全光神经网络229
11.1 光学突触器件原理229
11.2 基于集成光感器件的卷积神经网络234
11.2.1 波分复用与光频梳：高并行的光信息处理234
11.2.2 全光卷积神经网络设计235
11.3 本章小结236
11.4 思考题237
参考文献237
第12章 其他应用238
12.1 稀疏编码238
12.1.1 原理238
12.1.2 神经网络方案239
12.1.3 忆阻交叉阵列实现242
12.2 主成分分析244
12.2.1 原理245
12.2.2 忆阻交叉阵列实现249
12.3 偏微分方程求解255
12.3.1 原理255
12.3.2 忆阻交叉阵列实现258
12.3.3 问题与改进方案264
12.4 本章小结264
12.5 思考题266
参考文献267
京公网安备 11010102004214号