Godmaker研究笔记随笔之一
一、深度学习的本质认识
深度学习本质,是一种求解实际问题的类似于数值计算中有限元方法的数学方法。
二、典型力学有限元方法的基本原理
①把微分问题通过最小能量原理转换为积分问题;
②通过偏微分理论将积分问题从连续体模型转换到离散体模型。
①、②相当于深度学习中构建显性本构参数模型工作体系。
③基于离散体模型构建以及参数动态修正构建线性方程组;
④迭代求取线性方程组得到基本离散节点的计算值。
③、④实质相当于深度学习中的神经网络线性空间之间的迭代(传播与反传播)。
⑤基于离散点计算值反插值计算空间任意点值,最终求解实际问题的解。
三、深度学习的基本原理
①预先构建M-N叉树的网络线性空间迭代计算结构,相当于有限元非固定的线性迭代结构。
②基于大量实测数据,在网络线性空间迭代中进行迭代分析对比,得到目标特征领域的特征参数结构化模型,相当于有限元理论中的力学本构模型。
③基于调好参数结构的网络线性空间迭代计算结构,后续向系统输入类似求解问题时,直接通过线性空间层次传播,输出特征模型,相当于得到有限元的解空间。
四、深度学习与有限元方法的对比
①深度学习是特征隐性本构化的;而有限元是特征显性本构化的。
②深度学习是固定迭代结构的;而有限元是动态迭代结构的。
③深度学习是面对认知特征求解领域问题的求解;而有限元是面对物质体运动、变化变形内在特征领域问题的求解。
④深度学习由于可以直接通过增加网络的层级来扩展线性空间迭代与增加对复杂特征的关联描述,因此可以容易构建大型分布式迭代计算体系;而有限元由于受到N6次方增量关联矩阵带宽的影响,如果构建大型分布式计算体系,则需要大量带宽的动态传输,大型分布式计算节点体系构建能力有限。
五、对深度学习的一点简单总结
①归结起来说,深度学习是现代计算数学领域继有限元法以来,求解【可表征特征识别】认知大型复杂系统问题的一种全新的有实用意义的计算数学方法体系。
②深度学习由于与特征识别认知大型复杂问题求解相关,因而也就与人工智能建立不可分割的关系。
③由于人工智能涉及到人类智能与智慧的各个方面,【可表征特征识别】认知只是一个典型层面,深度学习作为一种计算数学方法体系,能在其它领域智能领域是否也具有应用价值将面临巨大挑战。
④具有智能与智慧的人类现实功能结构告诉我们,就类似与具有一定智能的猴子审视人类智能手机一样,深度学习方法不会是揭开人类智能与智慧奥妙的根本算法。