标题:基于填充函数的深度学习优化算法 作者:叶成 吕柏权 倪陈龙 作者单位:上海大学机电工程与自动化学院,上海 200072 关键字:填充函数;全局最优值;深度学习 摘要:提出了基于填充函数的深度学习优化算法,深度学习采用的是分层的训练机制,它通过最小化误差函数进行分层的无监督训练。第一步先使用无标签的训练样本对各层参数分层预训练,第二步使用有标签的训练样本对各层参数进行微调,从而有利于减少陷入局部极小点的可能性。另外,引进了填充函数法,使之能够跳出局部最小值,继续迭代至更小的极值点,得到精度更高的全局最优点。通过对5个基准测试函数进行仿真和统计数据,验证了改进后算法的有效性。 |