IT思维

公众号/ ScienceAI（ID：Philosophyai）

作者/彭文辉

编辑/绿萝

机器学习和基础学科交叉在近年受到越来越多的关注。能够从大量数据中学习的 AI，是否能够像人类一样，从数据中发现规律？当神经网络被用于解决物理问题时，是否有可能学习到物理知识？

近日，来自加拿大蒙特利尔大学的研究人员给出了肯定的回答。该工作在研究 AI 如何完成翼型气动系数预测任务过程中，发现了神经网络在训练过程中学习空气动力学物理定律的证据。

该研究以《Learning aerodynamics with neural network》为题，于 2022 年 4月发布在《Scientific Reports》上。该文章的第一兼通讯作者彭文辉通讯地址为wenhui.peng@polymtl.ca.

计算翼型气动系数是空气动力学中的关键任务之一，该任务通常由计算流体力学方法完成。近年来，机器学习的快速发展为计算流体力学带来了新的机遇。为了进一步提高计算效率和预测精度，

研究人员提出了一种神经网络模型——空间单元卷积神经网络（Element Spatial Convolution Neural Network ，ESCNN），用于预测翼型升力系数。ESCNN 的输入为翼型坐标和攻角，输出为升力系数，其架构如图 1 所示。

图 1：ESCNN模型架构。

相较于现有 SOTA 模型，ESCNN 减少了两个数量级的参数，但取得了更高的预测精度。为了调查该神经网络如何实现高精确预测，研究人员对训练中的 ESCNN 进行调查：他们追踪了图 1 中的全连接层，并记录了其中神经元 [f1,……fn] 在训练过程中的进化过程，如图 2 所示。

图 2：全连接层在训练中的进化过程。

他们发现了两个有趣的现象：（1）随着训练过程进行，该全连接层最终收敛为一个正弦波形曲线；（2）在进化过程中，该全连接层的第一个神经元 f1 和最后一个神经元 fn 始终保持数值大小一致。

库达条件（Kutta condition）是空气动力学中的基本物理定律之一：翼型尾部的上下涡流强度必须相等，以保证气体平滑流过翼型，即 图片，如图 3 所示。全连接层在进化过程中这种 f1=fn 的自我约束是神经网络学习到库达条件的证据。

图 3：层流中的翼型涡量分布。

另一方面，随着训练进行，为什么全连接层会收敛成为类正弦曲线？研究人员计算并对比了翼型的涡强分布和全连接层的神经元数值，发现他们是高度相关的，如图4 所示。这是神经网络学习到物理量涡强的证据。

图 4：收敛的全连接层和翼型涡强分布对比。

涡强有正有负，如果通过 ReLU 激活函数来限制全连接层神经元只输出非负值（图5 所示），神经网络能否依然学到涡强分布？

图 5：ReLU限制的全连接层进化过程。

研究人员发现了另一现象：虽然 ReLU 只限制了神经元输出非负数（图 5c），神经网络在进化过程中会自动限制正数域的输出区间，以获得更好的对称性（图5def）。为什么神经网络偏好对称性，对称性有什么意义？

研究人员从训练翼型数据中提取了一些随机样本：不同翼型形状不同，但翼型坐标的间隔分布基本对称（图 6 所示）。这是神经网络学习到翼型几何特性的证据。

图 6：翼型随机样本坐标间隔分布。

该工作提出了一种用于预测翼型升力系数的神经网络，相较于现有 SOTA 模型减少两个数量级的参数，但实现了更高预测精度。在研究神经网络如何进行推理的过程中，研究人员发现了神经网络自学库达条件，翼型涡强分布和几何对称性的证据。

该工作表明神经网络可以从数据中学习并提取物理定律，用于物理任务的神经网络有可解释性。

论文地址：https://www.nature.com/articles/s41598-022-10737-4