之前做了一些关于深度学习在视觉算法上鲁棒性的研究，在这里总结一下前沿的方向和大家都在推进的内容。
Reference: * 深度学习模型鲁棒性研究综述 * Additive Margin Softmax for Face Verification * Deep Ranking with Adaptive Margin Triplet Loss * Relating Adversarially Robust Generalization to Flat Minima * UNDERSTANDING CONTRASTIVE LEARNING THROUGH THE LENS OF MARGINS * Robust Generative Adversarial Network
研究发现模型的正确率与鲁棒性之间存在取舍，宾且这种现象不针对特定模型，是一个具有普适的现象。这种取舍带来了意想不到的收益，模型可以提取出人类的感知以及数据特征。
Reference: * Robustness May Be at Odds with Accuracy
现在的大语言模型是变分自回归模型，这篇文章提出了通过生成扩散的过程训练大语言模型(Large Language Diffusion with mAsking, LLaDA)。并通过实验验证模型能力，同时证明LLM的能力并非依赖变分自回归训练机制。
Reference: * Large Language Diffusion Models * Code
Transformer不是在特定情形下进行贝叶斯推断，而是作为其工作的基本原理。或者说Transformer本质上就是在几何上的贝叶斯推断引擎。该论证工作分为三步进行，首先通过精巧的实验设计，验证Transformers与贝叶斯推断等价，然后解释这种等价性的源头，最后进行结论外推，在更广泛更真实的情境下这种等价性是否存在。
Reference: * The Bayesian Geometry of Transformer Attention * Gradient Dynamics of Attention: How Cross-Entropy Sculpts Bayesian Manifolds * Attention Is Bayesian Inference * Geometric Scaling of Bayesian Inference in LLMs * 优化即几何，几何即推理：用数学终结Transformer的黑盒时代
通过能量模型(Energy-based model, EBM)，将模型预测概率，转换为能量值。模型预测倾向于高概率结果，物体运动倾向于低能量区域，将高概率的预测映射到低能量区域，这样非常自然的将机器学习与物理相联系。
Reference: * Loss Functions for Discriminative Training of Energy-Based Models
研究神经网络的势能分布一般从损失函数的哈密顿量出发，然而损失函数一般是局域的分布，很难解释深度情况的。本文作者提供了一种全新的解析视角，通过对数据采样，依靠样本间的流动构造伪势能解释样本流动的原因。
Reference: * Detailed balance in large language model-driven agents * code * data
神经网络通过数据学习规律，会学习到什么规律？本文提出了新的神经网络MASS（Multi-physics AI Scalar Scientist）用以学习网络从数据中学到的模型信息。这篇工作属于PINN。
文献： * Do Two AI Scientists Agree? * 源代码GitHub * Hamiltonian Neural Networks * HNN GitHub * Lagrangian Neural Networks * LNN GitHUb
通过强化学习微调生成模型，使得生成的拓扑绝缘体和拓扑材料结构准确率上升。
Reference: * Design Topological Materials by Reinforcement Fine-Tuned Generative Model