Bayesian Neural Network Prediction Models for Neutron-induced Fission Reaction Cross Sections

核数据是核物理基础研究与核工程及核技术应用的基础数据^[1]。中子诱发核裂变反应截面是核数据的主要组成部分，在先进核能系统研发和核天体物理研究中具有重要应用^[2]。人类开发和利用核能已有相当长的历史。作为一种安全、高效的清洁能源，核能在过去几十年中对满足人类的电力需求和减缓温室效应发挥了重大作用^[3]。目前，核能发电主要采用的是重核裂变技术。传统的裂变反应堆采用铀基核材料，这种原材料在自然界中的储量有限，其转换效率低，而且产生的具有长寿命半衰期的放射性核素对环境造成极大损害^[4]。对传统核反应堆优化体现在以下两方面：1) 优化铀基反应堆：利用反应堆产生的²³⁹Pu作为堆芯材料产生快中子^[5]，这些快中子与堆芯外围的再生区²³⁸U发生中子俘获反应生成²³⁹U，²³⁹U核素经过β衰变转变成²³⁹Pu，实现²³⁹Pu的增殖，从而提高了铀-钚(U-Pu)循环中铀的利用率^[6]；2) 开发新型反应堆：如使用钍基熔盐堆^[7]代替传统铀基反应堆，即用钍替代铀作为原材料，利用中子与²³²Th发生核反应，通过一系列增殖反应将 ²³²Th转化为可直接作为核燃料的²³³U^[8]。在上述两类反应堆设计与运行过程中，²³⁸U、²³²Th和²³⁹Pu核素中子诱发裂变反应截面核数据至关重要。然而，当前美国ENDF/B-Ⅷ.0^[9]、欧洲JEEF-3.3^[10]、日本JENDL-5^[11]、俄罗斯BROND-3.1^[12]以及中国CENDL-3.2^[13]核数据评价库的推荐值与实验数据存在较大分歧，这些差异导致这些数据仍不能满足高精度应用的需求。

随着硬件性能的飞速提升、存储成本的降低以及云计算技术的兴起，当前正处于新一轮人工智能的热潮之中。机器学习(Machine Learning, ML)已经渗透到生活的各个领域，如图像识别、股票分析和医疗诊断等^[14]。这类算法无需对数据分布做明确的假设，通过自动调整链接权重，能够学习到输入与输出之间复杂的映射关系。因此，它非常适用于处理多维度、多参数、多特征的数据。目前神经网络方法在核科学与核技术应用领域研究中取得了很大的成功，例如核数据评价^[15]、原子核质量修正^[16]、原子核电荷半径计算^[17]、β半衰期预测^[18−19]等。最近，关于中子诱发锕系核素裂变截面核数据评价的研究方面，Zou等^[20]通过理论模型对²³⁹Pu和铀链同位素进行多项式拟合，Xing等^[21]采用深度神经网络DNN算法对共振区裂变截面进行深入研究，而Tian等^[22]采用神经网络方法对U同位素链在2~20 MeV能量范围内的裂变截面数据进行分析，均取得了显著的效果。本文基于贝叶斯神经网络(Bayesian Neural Networks, BNN)^[23]，对反应堆关键核素²³⁸U、²³²Th和²³⁹Pu裂变核反应截面进行系统分析，在第一节中给出现有裂变截面实验数据，第2节对BNN模型进行描述，最后比较研究了BNN模型预测结果和现有数据。

本研究首先从核反应实验数据库EXFOR^[24]中系统地收集了1 MeV以上的²³⁸U、²³²Th和²³⁹Pu中子裂变截面测量数据，并对这些数据进行了物理特性的深入分析。表1和图1中详细给出了中子诱发²³⁸U、²³²Th和²³⁹Pu裂变截面的实验数据，共涵盖45个实验测量机构，总计超过5 800个实验数据点。此外，图1中还给出了美国ENDF/B-Ⅷ.0^[9]、欧洲JEEF-3.3^[10]、日本JENDL-5^[11]、俄罗斯BROND-3.1^[12]以及中国CENDL-3.2^[13]数据评价库推荐数据，以便与实验数据进行比较。

由图1(a)可知，²³⁸U的裂变截面多家实验数据都给出入射中子最高能量到200 MeV，其中Nolte等^[25]所测的实验数据在30~60 MeV范围内明显高于其他实验数据，而Shcherbakov等^[26]的实验数据在中子能量大于20 MeV区间低于其他实验数据。然而，²³⁸U裂变截面中子能量大于200 MeV的实验数据仅有Miller等^[27]和Vorobyev等^[28]的两组实验数据，其中Miller等^[27]所测的实数据具有上升的趋势，存在明显的分歧。图1(b)中的²³²Th裂变截面数据显示，不同机构测量的实验数据符合较好，呈现显著的集中趋势，仅有少量数据较为离散。在中子能量大于300 MeV的能区，只有Tarrio等^[29]给出了高达1 GeV范围内的裂变截面测量结果。如图1(c)，²³⁹Pu的裂变截面数据大多集中在100 MeV以下的低能区，并显示出较大的分歧。2023年最新实验数据显示，Qiu等^[30]的结果明显高于其他文献数据。在100~200 MeV的能量范围内，仅有Tovesson等^[31]和Shcherbakov等^[26]的实验数据可供参考，然而这两组数据存在较大差异，突显了该能量范围内数据的高度不确定性。

BNN方法是通过引入贝叶斯理论，并将统计推断与神经网络结合起来的一种方法。在构建神经网络模型时，也采用马尔科夫链蒙特卡罗方法(Markov Chain Monte Carlo, MCMC)和KL散度(Kullback–Leibler divergence, KL，亦称相对熵)作为优化策略来改进损失函数的性能。MCMC通过构建马尔科夫链近似目标分布，进行随机抽样，而KL散度则衡量两个概率分布之间的差异，作为正则项约束损失函数，促使模型保持特定分布特性。最终建立了以入射中子能量作为输入量，裂变截面作为输出量，包含4层隐藏层，每隐藏层200个神经元的前馈神经网络模型。

基于贝叶斯理论，BNN将先验分布设定为P(w)。如果给定的初始值D(x_u, y_v)，其中y_v表示输入数据x_u的输出，则根据贝叶斯理论由先验分布获取到对应后验分布为

其中先验分布P(w)表示基于已有“知识”对参数的概率分布所做的主观猜测^[32]。P(D|w)是似然函数，表示在给定参数w的情况下观测到数据发生的概率。P(D)为归一化常量，如式(2)所示，它确保后验分布是有效概率密度，并积分为1：

BNN使用高斯分布作为参数的先验分布，将其均值设为0，以确保描述参数分布时无偏见且灵活平滑。逆γ分布则用作高斯分布精度的先验分布，以描述方差或精度的不确定性，并与γ分布相结合于高斯分布中，更准确地描绘参数的真实分布，从而提高模型的预测性能和鲁棒性。这是贝叶斯神经网络中常见的建模选择。在这个过程中似然函数p(D|w)用高斯分布exp(−χ²/2)表示，其中超参数χ²如下：

式中：σ_n是对应的噪声误差^[33]，BNN比传统确定性神经网络更适合处理数据不足或噪声多的情况。$ {y}_{v}^{n} $是第n层中第v个观测值。其中，多层感知机(MLP)包括输入层、隐藏层和输出层。在贝叶斯神经网络中，权重被视为随机变量，并且使用贝叶斯推断进行建模。在贝叶斯神经网络中，激活函数发挥着重要作用，能够处理非线性问题。变分推断被用于处理具有非线性激活函数的神经网络，引入误差项并将其与激活函数结合形成可微分的目标函数，近似后验分布以逼近真实的后验分布。在本文中，ReLU^[34]被用作激活函数，具体表达式如下：

其中$ {{\textit{z}}}_{v}^{n} $是输入到神经元的加权和偏置的结果，可以表示为

其中：Hⁿ⁻¹是第$ \left(n-1\right) $层的神经元数量；$ {w}_{uv}^{n} $是连接第$ \left(n-1\right) $层的第u个神经元到第n层的第v个神经元的权重；$ {a}_{u}^{n-1} $是第$ \left(n-1\right) $层的第u个神经元的输出；$ {b}_{v}^{n} $是第n层的第v个神经元的偏置。这样整个神经网络的数学表达式可以通过递归地应用这些表达式来构建，隐藏层中每一层的输出成为下一层的输入，一直传递到输出层得到最后的输出值，如图2所示。根据测试集后验分布，预测出的输出数据${\left\langle{y}\right\rangle} $：

其中x和y分布表示测试集的输入和输出，f(x;θ)是由神经网络参数化的预测函数，θ表示模型参数。

在贝叶斯理论中，面临着估计真实分布P(x)的挑战，为了简化计算，选择引入近似分布 Q(x)。为了衡量这两个分布之间的差异性相似性，可使用KL散度进行优化。KL散度被定义为从分布P(x)到分布Q(x)的期望信息增益^[35]，其数学表达式为

式(7)揭示了使用Q(x)逼近真实分布P(x)时的信息损失。通过最小化KL散度，可以使模型分布Q(x)更接近于真实分布P(x)，从而实现更准确的概率分布特征捕获，并提高模型在不同数据分布下的鲁棒性和泛化性。均方差和KL散度是两种不同的函数，用于衡量预测值和实际值、以及概率分布之间的差异。均方差帮助优化预测模型，而KL散度有助于理解预测分布和权重分布之间的关系，特别适用于贝叶斯推断。将它们结合成损失函数，可以实现贝叶斯神经网络的多重优化目标^[36]。这种方法的主要目标是在保持预测精度的同时，尽可能减小后验分布与先验分布之间的差异，以提高模型的泛化性和鲁棒性。然而，如果KL散度的权重过高，可能会损失预测的精度，而设置过低则可能导致网络难以解决权重不确定性的问题。因此，确定最佳权衡需要进行调参。优化过程中，首先对先验P(w)和后验P(w|D)进行归一化处理，随后利用Torch库^[37]计算KL散度。由于数据量较小，对KL散度的权重取固定值0.001，并将其与均方误差相加形成总损失函数。最终通过反向传播迭代更新模型参数，以达到减小误差、提高性能和泛化能力的目的。

贝叶斯分析所得的结果是根据数据更新参数的后验分布。为了有效地近似研究函数的期望值，由Neal首次引用MCMC进行后验模拟^[38]。该方法通过模型参数进行采样，以样本均值作为目标参数或变量期望值的近似，以寻找最优解。经过MCMC算法重采样后，式(6)的积分近似为

其中K是迭代次数。由于模型参数使用概率分布来描述，因此理论预言${\left\langle{y}\right\rangle} $的不确定度估计可表示为

本文采用表1中各核素实验数据的80%数据进行BNN模型训练，而保留剩余的20%用于BNN模型测试。对于²³⁸U和²³²Th核素，选取1~200 MeV范围内的裂变截面数据作为训练集，以预测200~1 000 MeV范围的数据。对于²³⁹Pu核素，选取1~100 MeV能区的裂变截面数据作为训练集，并预测100~200 MeV范围内的数据。

图3中显示了BNN对²³⁸U裂变截面的预测值(用橙色的实线表示)及其置信区间(用浅蓝色阴影表示)，并与实验数据和不同评价数据库进行对比。整体上，²³⁸U裂变截面，贝叶斯神经网络的预测值及其置信区间与实验数据相符，与Nolte等人^[25]的实验数据相比略低。在高能区方面，200 MeV之后的预测值呈现上升趋势，与Vorobyev等人^[28]的最新实验数据相一致，而与Miller等人^[27]的实验数据相反。

由图1(b)可知，²³²Th的实验数据较为集中，本文的研究主要集中于能量高于200 MeV范围的数据分布情况。为了使BNN模型能够很好地再现²³²Th裂变截面实验数据和评价数据，并取得较好的结果，我们将200 MeV以下的所有实验数据作为训练集，对更高能量进行预测。根据图4的结果显示，BNN对入射中子能量大于200 MeV的预测值与Tarrio等^[29]的最新实验数据吻合得非常好。因此，BNN成功地预测了更高能量范围的裂变截面。

由图5中可知，入射中子能量小于100 MeV时，BNN模型对²³⁹Pu裂变截面数据的预测方面表现出色，并与Tovesson等^[31]的实验数据和JENDL-5评价库数据进行了有效的验证，展现出良好的一致性。入射能量在大于100 MeV时，BNN模型很好的再现了Shcherbakov等^[26]的实验数据，而高于JENDL-5评价数据和Tovesson等^[31]的实验数据。尽管Qiu等^[30]的实验数据落在BNN模型置信范围，但明显高于BNN模型的预测值，及JENDL-5、Tovesson^[31]和Shcherbakov等^[26]实验数据。

综上，本文所建立的BNN模型在预测²³⁸U、²³²Th和²³⁹Pu的裂变截面方面表现非常出色。通过模型自身的预测能力，BNN展示了在更高能量下裂变截面数据可能的分布情况。这证明了BNN 模型在核数据评价研究中的潜力，提供了一种可靠的预测方法，为核数据评价提供参考。

本研究采用BNN方法结合MCMC模拟和KL散度方法建立了一种机器学习预测模型，并对核反应堆关键核素裂变反应截面数据进行了细致的分析。该模型以²³⁸U、²³²Th和²³⁹Pu等核素的入射能量和裂变截面作为输入和输出参数，利用1~200 MeV范围内的²³⁸U和²³²Th以及1~100 MeV范围内的²³⁹Pu数据进行模型训练。研究结果表明，该模型能有效地复现³⁸U、²³²Th和²³⁹Pu等核素的实验数据，并展现出强大的预测能力。这为解决核数据评价实际工作中遇到的不同数据之间存在的分歧问题提供了重要参考。未来的研究着重于向贝叶斯神经网络模型添加更具有物理意义的参数，以使其更贴近实际物理情境，进一步拓展该模型的应用范围，并在不同核素和能量范围下进行更多实验验证，以进一步完善和优化该模型的性能，提供更可靠、更准确的数据评价，为核物理、核能与核技术应用提供有力支持。