人工神经网络与模拟进化计算【2025|PDF下载-Epub版本|mobi电子书|kindle百度云盘下载】

人工神经网络与模拟进化计算PDF格式电子书版下载

注意：本站所有压缩包均有解压码： 点击下载压缩包解压工具

第1章 绪论1

1.1 神经网络的发展与应用1

1.2 人工神经元模型2

1.3 用有向图表示神经网络4

1.4 网络结构及工作方式5

1.5 NN的学习6

1.5.1 学习方式6

1.5.2 学习算法6

1.5.3 学习与自适应7

习题8

参考文献8

第2章 前馈网络10

2.1 线性阈值单元10

2.1.1 用线性阈值单元实现布尔函数10

2.1.2 线性可分性11

2.1.3 n维欧氏空间中m个点上可实现的线性可分函数的个数11

2.2 多层前馈网络的计算能力及函数逼近12

2.3 感知器学习算法15

2.4 反向传播学习算法17

2.5 改进反向传播算法收敛速度的措施23

2.5.1 加入动量项23

2.5.2 高阶导数的利用24

2.5.3 共轭梯度法24

2.5.4 递推最小二乘法24

2.5.5 神经元空间搜索法25

2.5.6 一些其他措施26

2.6 多层前馈网络作用的分析27

2.6.1 线性网络28

2.6.2 非线性情况31

2.7 应用举例--手写体数字识别32

习题35

参考文献37

第3章 径向基函数网络40

3.1 φ可分性40

3.2 函数逼近与内插40

3.3 正规化理论41

3.4 RBF网络的学习46

3.5 RBF网络的一些变形48

3.6 CMAC网络49

3.6.1 模型结构49

3.6.2 工作原理分析51

3.6.3 学习算法53

3.7 概率神经网络54

3.8 小波网络55

3.9 泛函连接网络56

参考文献57

第4章 学习理论与网络结构选择60

4.1 学习的统计性能61

4.1.1 经验风险最小化原则62

4.1.2 VC维数64

4.1.3 一致收敛的速度65

4.1.4 结构风险最小化66

4.2 学习的复杂性问题67

4.2.1 PAC学习的模型67

4.2.2 PAC学习的例子68

4.2.3 PAC学习模型的一些扩展69

4.2.4 多层前馈网络的样本数问题69

4.2.5 学习的计算复杂性70

4.3 学习的动态特性71

4.3.1 通用学习方程71

4.3.2 LMS规则72

4.3.3 Hcbb规则72

4.3.4 Oja学习规则73

4.4 推广问题73

4.4.1 定性分析73

4.4.2 平均推广能力75

4.4.3 从数学上研究一般的推广问题76

4.4.4 样本量问题77

4.4.5 推广误差的实验估计78

4.5 预测学习79

4.5.1 模型79

4.5.2 根本困难79

4.5.3 维数灾难问题80

4.5.4 方差与偏置折衷80

4.6 网络模型选择81

4.6.1 定性分析81

4.6.2 正规化方法82

4.6.3 修剪与网络构造法83

4.7 符号学习与神经网络结合86

4.8 支承向量机89

4.9 新一代神经元模型及其计算能力的研究93

4.9.1 布尔函数的计算94

4.9.2 连续输入的情况95

4.9.3 脉冲耦合神经元95

习题95

参考文献96

第5章 反馈网络与联想存储器101

5.1 联想存储器101

5.2 反馈网络102

5.2.1 离散Hopfield网络103

5.2.2 连续Hopficld网络106

5.3 用反馈网络作联想存储器107

5.4 相关学习算法109

5.5 容量分析112

5.6 伪逆学习算法115

5.7 基于线性可分性的学习算法116

5.8 Li与Michcl的设计方法117

5.9 线性规划方法118

5.10 多余吸引子问题119

5.11 双向联想存储器120

5.12 玻耳兹曼机122

5.12.1 随机神经元122

5.12.2 模拟退火算法123

5.12.3 玻耳兹曼机123

5.12.4 玻耳兹曼机的学习124

5.12.5 平均场学习规则128

习题129

参考文献130

第6章 神经网络用于优化计算133

6.1 概述133

6.2 连续Hopfield网络用于求解优化总量135

6.3 CHNN用于优化计算时存在的问题137

6.4 神经网络用于求解货流问题139

6.5 用于解数学规划的电路举例142

6.6 在通信网络中的应用举例144

习题145

参考文献146

第7章 自组织系统(Ⅰ)--Hebb学习148

7.1 引言148

7.2 自组织特征检测--一个简单的实验148

7.3 主成分分析149

7.4 单个神经元抽取最大主分量152

7.5 单层网络用于抽取一组主分量152

7.6 有侧向连接的自适应PCA154

7.7 最小均方误差重建学习156

7.8 次分量的提取和应用157

7.8.1 最优拟合问题157

7.8.2 用单个神经元实现159

7.9 PCA算法的进一步扩展161

7.9.1 非线性PCA161

7.9.2 鲁棒PCA算法162

7.10 用于特征抽取的网络162

7.10.1 正态分布的数据162

7.10.2 类内、类间距离的计算163

7.10.3 Bhattacharya距离165

7.11 独立成分分析165

7.11.1 IC与盲源分离166

7.11.2 高阶累积量166

7.11.3 基于信息的判据168

参考文献169

第8章 自组织系统(Ⅱ)--竞争学习172

8.1 Hamming网络与WTA网络172

8.2 自组织特征映射174

8.3 等效的SOFM算法176

8.4 向量量化179

8.5 广义向量量化180

8.6 讨论182

8.7 应用举例--指纹识别183

8.8 自适应共振理论185

8.8.1 ART的基本原理186

8.8.2 ART作为分类器时的学习算法188

习题189

参考文献190

第9章 自组织系统(Ⅲ)--基于信息论的模型192

9.1 信息论简介192

9.2 最大信息保持原则194

9.2.1 单个神经元受噪声干扰194

9.2.2 输入受加性噪声干扰195

9.2.3 更复杂些的情况195

9.3 拓扑有序映射的产生197

9.4 基于最大熵原则的拓扑映射199

参考文献200

第10章 动态信号与系统的处理202

10.1 延时单元网络202

10.2 时空神经元模型205

10.2.1 模型205

10.2.2 FLR网络的学习算法206

10.3 部分反馈网络210

10.4 有反馈网络的学习算法213

10.4.1 随时间演化的反向传播算法213

10.4.2 实时递归学习213

10.5 应用举例216

10.6 讨论227

10.7 再励学习的主要算法228

10.7.1 时间差分法229

10.7.2 RL的主要算法230

10.8 再励学习在控制中的应用举例233

习题240

参考文献240

第11章 神经网络中的动力学问题244

11.1 运动稳定性的基本知识244

11.1.1 运动微分方程244

11.1.2 平衡状态及其稳定性245

11.1.3 定性方法，系统的分类246

11.1.4 Liapunov定理249

11.1.5 吸引子250

11.2 反馈网络的基本模型及其稳定性251

11.2.1 基本模型251

11.2.2 稳定性分析253

11.2.3 离散模型254

11.2.4 离散时间连续状态模型255

11.3 递归反传算法257

11.4 混沌神经网络的初步介绍261

11.4.1 一个简单的非线性映射261

11.4.2 混沌神经元模型263

11.4.3 用混沌神经网络作联想记忆265

参考文献266

第12章 模块化神经网络268

12.1 引言268

12.2 混合专家网络269

12.3 分层混合专家网络270

12.3.1 工作原理270

12.3.2 EM算法概述273

12.3.3 EM算法用于HME273

12.3.4 IRLS算法274

12.3.5 EM算法的步骤276

12.4 应用举例277

参考文献280

第13章 误差函数与参数优化方法282

13.1 误差平方和282

13.1.1 网络输出的含义283

13.1.2 更一般的条件分布的建模284

13.2 后验概率估计286

13.2.1 误差平方和准则287

13.2.2 隐单元的作用287

13.2.3 R范数误差288

13.3 交叉熵288

13.3.1 两类分类器289

13.3.2 交叉熵的性质289

13.3.3 多类情况290

13.4 参数优化算法291

13.4.1 误差曲面292

13.4.2 对E的局部二次逼近292

13.4.3 优化过程的一些实际问题293

13.5 梯度下降法294

13.5.1 收敛性的定性分析294

13.5.2 加速收敛的措施295

13.6 共轭梯度法297

13.7 牛顿法及其变形300

13.8 Levenberg-Marquart算法301

13.9 信息几何与自然梯度302

参考文献302

第14章 贝叶斯方法303

14.1 网络权值的贝叶斯学习304

14.1.1 权值的分布304

14.1.2 一类更广的分布306

14.1.3 网络输出的分布307

14.1.4 超参数的处理308

14.2 贝叶斯模型选择309

14.2.1 模型显著度310

14.2.2 网络组311

14.2.3 贝叶斯方法的实现312

14.2.4 最小描述长度312

14.3 贝叶斯阴阳系统理论简介313

参考文献314

第15章 神经网络在信号处理中的应用315

15.1 引言315

15.2 用泛函对物理系统建模315

15.2.1 算子与泛函315

15.2.2 Volterra级数316

15.3 Volterra级数与多层前馈网络317

15.4 非线性ARMA模型与MFNN319

15.5 状态空间表示与神经网络322

15.6 神经网络与马尔可夫模型322

15.7 特征空间分解与神经网络324

15.7.1 信息判据用于主子空间分析324

15.7.2 非线性主元分析326

15.8 EM算法用于训练部分反馈网络329

15.9 混沌时间序列的预测和混沌中信号的检测332

15.9.1 混沌时间序列的预测332

15.9.2 混沌中信号的检测--海洋杂乱回波中雷达信号的检测335

15.10 神经网络用于信息的压缩和编码337

15.11 神经网络用于盲信号处理342

15.12 小波网络与多分辨率学习344

15.12.1 引言344

15.12.2 小波基函数与函数的多分辨率分析345

15.12.3 多分辨率学习与小波网络347

15.12.4 多尺度网络用于时间序列预测352

参考文献353

第16章 进化计算概论与进化策略357

16.1 进化计算概论357

16.2 二元进化策略359

16.2.1 基本算法359

16.2.2 变异过程360

16.2.3 步长选择362

16.2.4 收敛准则364

16.2.5 对于约束条件的处理364

16.3 多元进化策略365

16.3.1 基本算法365

16.3.2 (1，λ)前进速度分析367

16.3.3 步长控制371

16.3.4 μ≥1时的收敛准则374

16.3.5 串行与并行374

参考文献376

第17章 遗传算法及其理论分析377

17.1 标准遗传算法和基本概念377

17.2 模式定理380

17.3 基因块假设383

17.4 欺骗性问题386

17.5 收敛性分析389

17.5.1 基本概念390

17.5.2 守恒交叉算子391

17.5.3 完全变异算子392

17.5.4 遗传算法的马尔可夫链分析393

参考文献395

第18章 遗传算法的设计与实现396

18.1 编码方法396

18.1.1 编码原则396

18.1.2 编码方法398

18.2 适应度函数402

18.2.1 目标函数映射成适应度函数402

18.2.2 适应度函数调整402

18.2.3 适应度函数的设计对遗传算法的影响404

18.3 遗传算子404

18.3.1 选择算子405

18.3.2 交叉算子407

18.3.3 变异算子408

18.4 其他问题409

18.4.1 参数选择409

18.4.2 其他操作411

参考文献415

第19章 遗传算法在神经网络中的应用416

19.1 连接权的进化方法416

19.2 网络结构的进化方法417

19.3 用遗传算法解决XOR问题示例419

参考文献421

第20章 遗传算法在作业调度中的应用422

20.1 问题描述422

20.2 解作业调度问题的遗传算法423

20.3 仿真结果427

参考文献430

索引431