本文名字Dynamical System Inspired Adaptive Time Stepping Controller for Residual Network Families，是林老师等在AAAI2020上的工作，干的啥看标题能知道个大概，这个工作就是对网络方程离散化形式的优化取了步长可变的策略，而这个步长控制器TSC正是一个元学习器！

本文引了NODE、FOCNet，网络和方程结合的一部分思想可以说是从这里来的

本文标题Fractional-Order Deep Backpropagation Neural Network，是1篇18年的文章，对上一篇文章搜代码的时候搜到的

本文阐述的分数阶网络跟我想的还不一样，它就是梯度下降的时候用的是Caputo导数（我怎么觉得不对劲，见启发部分）

发的地方争议似乎很大，但本文的参考文献里有些信息是有用的，所以略读一下

本文标题Fractional deep neural network via constrained optimization，就是分数阶方程介导的DNN

本文单纯从历史信息的利用、方程的离散化等思路，得到此分数阶网络Fractional-DNN

阅读文献DPIR：Plug-and-Play Image Restoration with Deep Denoiser Prior

利用的深度去噪先验（DP）的图像恢复（IR）方法，至于即插即用，是指？且待分解（见背景部分）

学习了图像处理问题中常见的评价指标：PSNR和SSIM，并自己整理了一遍加深印象

为什么不能早看到这篇文章呢？感觉之前基本上在白淦。。。

本文标题FOCNet: A Fractional Optimal Control Network for Image Denoising，网络模型即FOCNet

是看到的继TNRD后，总第2篇结合DE和网络结构的文章，引入的是分数阶ODE的离散化，带来长期记忆性。有点动态网络的味道，但不是❗

今天心血来潮，给博客加了网易云音乐，以及基于RevolverMaps的访客地图，地图于2021/03/21开始使用

这两个操作都放在博客主页侧边栏，不影响正文

但是要注意，在本地预览的时候，在localhost页面也会统计访客访问量！

本文的标题Neural Manifold Ordinary Differential Equations着实是吸引了我（自己记为MODE）

摘要里也说这算是NODE的流形版

那就看看和之前看的深度微分同胚归一化流DDNF有啥区别，估摸着大概是DDNF是直接假设隐变量在流形上积分，这个MODE还有把隐变量逆回原始数据空间的操作

ps：这份笔记写急了，写得很烂。。。不喜请勿食用

这次略读了综述Dynamic Neural Networks: A Survey

阅读的动机是觉得这个和动力系统有关系，不过读完了没什么感觉，大的感悟是玄学，小的感悟是和元学习、NAS、ODE、流什么的其实都有点关系，觉得框架不太优美，多而杂

ps：其实没有读完，正文只读了前四大章，到优化训练前面。后面参考他人的博客了解了概览

ps2：这次写作引入了缩放图片的方法，且兼容中文图片标题

顺着【论文略读39】与38相关文章中的第二篇，即陈运锦老师的TNRD，找到了这篇文章