从优化割线的观点来辨析
博主2021年接触到割线在跨越连续曲率趋势的应用,关于几何数学中曲线的走势应该服从某种延拓的曲率规律和信息传递等,所以割线的本质是Hessian矩阵在传递连续曲率信息的时序步中完成割线在曲线上的跨越,例如割线跨越锯齿状段的应用。因此,只有计算几何能做到集群操作的频次和线性执行的关系,以外的多时序AI的经验微调,都需要训练运行时中获得割线在几何判别中的首次全局最优及其性质。
梯度的密度泛函微调
目前来看,几乎所有的密度泛函的量子化学计算软件都是侧重交换相关能,因为这部分的能量贡献在电子云中也是网状的重叠计算,电子云也是优秀的连续曲率,适合梯度传递曲率信息,所以托管在Github的XanaduAI/GradDFT项目是制取H2,O2,H2O等生命必须品的基态工具,电控力场倾向的技术就是微观尺度的保存和部署。从宏观能量跃迁的角度,基于梯度的密度泛函微调,是减少释放热能和光能的必要技术,基态在人体结构到泛函参数的结构匹配中,也是减少人体反应系统自主优化微调的关键技术。
强关联体系的深度学习
强关联(tight-binding)体系是字面意思的连续耦合信息的表示,在微观的关联模式中也是联系信息传递的强模式,微调解释是曲率变化非常小,体现在关联信息强,所以适用稠密神经网络的默认初始化分布,也就是连续分布,例如托管在Github的deepmodeling/DeePTB项目就是密度泛函精度的连续曲率的机器学习,深度学习用于此类梯度计算,而非割线理论,核心观点是强关联数据的连续性质和其目标映射的曲率一致性。
端侧应用的计算机视觉
人作为连续组织的生物,具有所有数据中最稠密的联系,所以在计算机视觉中,计算执行的密集运行给跳跃曲率带来了很大的难题,但是视觉计算中的连续池化等操作确是视觉技术采用C语言及其底层反射模式的优势,例如托管在Github的symisc/sod项目是梯度在连续自然空间的曲率传递,也是说任何视觉的稠密神经网络均可以达到密度执行的效率。至于割线不在稠密神经网络中应用,是因为连续组织的稠密数据是具有优秀的曲率连续性质,所以割线算法在使用Hessian更新保存曲率信息的情况下是不能够获取残差的高效更新,源于曲率更新的连续差值在人体视觉数据中的体现太小。
SELFIES表征的曲率解释
博主在初期研究序列表征时,通过多组操作测试链,得到的结论是序列表征要尽可能地表示自然数据的连续联系,所以SELFIES表征中引入branches和相应的元素连接点,是表征连续信息在分子结构中传递的方式,也就是表征曲率优秀的连续数据,适合梯度计算的曲率传递。在超大规模,超高精度的分子神经网络训练中,梯度作用在表征数据具备连续曲率的应用中是极其高效的迭代模式,以至于无需关心曲率的间断和规律延拓等。割线理论在多组泛函作用域中的应用,即是分子作用分区的模式中是要求割线算法的合理应用,在分子作用独立靶点的计算中,表征曲率是非常连续且优秀的性质,适合梯度累积的大规模机器预测。
二阶优化和K因子曲率评估
描述到这,托管在Github的google-deepmind/kfac-jax项目的应用,是跨越锯齿状段、跨越不连续断点、跨越非最优曲率内凸峰等的计算支持,连续曲率的信息传递已经是所有动力学对接和靶点标记的机器学习训练中常见的应用,随着算力规模的增加,组合应用目标的计算需要割线理论,也就是曲率评估的多进程微调,才能够从连续介质中获取信息并跨越不连续的异常。这是二阶优化和曲率评估的真实历史变迁,从前文来看,割线和曲率的关系描述到这,是实际应用泛函的理解,可以想到用Curvature Estimation的描述是考虑到二阶收敛速度为节省内存的辅助曲率评估。