摘要
膜污染严重制约超滤(UF)技术在城市污水处理中的应用,成分复杂的二级出水有机物(EfOM)是其主要诱因,但关键膜污染组分尚缺乏有效的识别方法。为此,基于TabPFN(Tabular Prior-Data Fitted Network)深度学习模型,结合SHAP(SHapley Additive exPlanations)方法,构建关键膜污染因子识别框架。以改性陶瓷超滤膜(MCUM)2 h运行周期内的水质与膜污染数据为基础,选取UV254、溶解性有机碳(DOC)、荧光区域积分值及荧光组分强度(Fmax)为输入,预测末端比通量、可逆阻力与不可逆阻力。结果显示,TabPFN模型无需超参数调整即可实现高精度预测(末端比通量R2=0.97),整体性能优于传统机器学习模型。进一步引入后验集成(PHE)策略,预测性能提升至R2=0.98。SHAP分析表明,色氨酸类、富里酸类和腐殖酸类物质分别在膜通量下降、不可逆阻力和可逆阻力的形成中具有主要影响。二维偏依赖图(PDPs)结果进一步揭示了这些组分之间显著的非线性协同作用,特别是富里酸类与芳香性物质在不可逆污染过程中的协同增强效应。本研究揭示了EfOM中主导膜污染的关键组分,为膜污染控制策略优化与污染机制理解提供了理论支撑。
Abstract
Membrane fouling seriously restricts the application of ultrafiltration (UF) technology in municipal wastewater treatment. Secondary effluent organic matter (EfOM), characterized by its complex composition, is considered the primary cause of membrane fouling. However, there is no method to effectively identify the key components of membrane fouling. To address this, this paper proposed a key membrane fouling factor identification framework based on the tabular prior-data fitted network (TabPFN) deep learning model by using SHapley Additive exPlanations (SHAP) method. Water quality and membrane fouling data were collected from a modified ceramic ultrafiltration membrane (MCUM) during a two-hour operation cycle. UV254, dissolved organic carbon (DOC), fluorescence regional integration values, and fluorescence component intensities (Fmax) were selected as input variables to predict normalized specific flux, reversible resistance, and irreversible resistance. The results show that the TabPFN model achieves high-precision prediction without hyperparameter tuning (R2=0.97 for normalized specific flux), outperforming conventional machine learning models in terms of overall performance. Further improvement is obtained by introducing a post-hoc ensembling (PHE) strategy, increasing the prediction performance of R2 to 0.98. SHAP analysis indicates that tryptophan-like, fulvic acid-like, and humic acid-like substances have predominant influences on the reduction of membrane flux and the formation of irreversible resistance and reversible resistance, respectively. PDPs results further reveal significant nonlinear synergistic effects among these components, especially the synergistic enhancement effect of the fulvic acid-like and aromatic substances in the irreversible fouling process. This study reveals the key components of secondary EfOM responsible for membrane fouling, providing theoretical support for membrane fouling control strategy optimization and the understanding of fouling mechanisms.
超滤(UF)因其良好的截留性能,可有效去除水中的悬浮物、胶体、有机大分子及微生物,已广泛应用于污水处理领域[1]。但城市污水中的二级生化出水含有成分复杂的有机物(EfOM),易与膜材料发生吸附或结合,导致膜污染、通量下降和运维成本上升[2]。EfOM诱导的膜污染已成为制约超滤膜长期稳定运行的关键因素[3]。因此,识别EfOM中主导膜污染的关键组分,是深入理解膜污染机制与膜污染控制的基础。Zheng等[4]通过XAD树脂将EfOM分离为5个组分,研究了各组分及其协同作用对膜污染的影响;Li等[5]利用皮尔逊相关分析探讨了多种EfOM特征参数(如UV254、DOC、SUVA、荧光组分强度Fmax和分子质量分布)与膜污染的关系。这些研究为理解EfOM诱导的膜污染提供了重要参考,但仍存在以下局限:一方面,实际水体成分复杂且动态变化[6],污染物间可能存在协同作用[7],导致配制水样难以全面反映真实的膜污染过程;另一方面,传统线性分析方法难以揭示多变量间潜在的非线性关联和高维交互机制[8],影响了关键污染因子的识别。近年来,机器学习在处理复杂、动态、非线性环境问题中展现出独特优势,已应用于膜污染预测以揭示水质参数与膜污染间的复杂关系[9-10]。然而,现有研究在关键污染因子的系统性识别与模型解释性方面仍存在不足。本研究基于膜滤出水中的EfOM特征参数与膜污染指标,构建了TabPFN(Tabular Prior-Data Fitted Network)预测模型,实现对膜污染的精准预测。通过与传统机器学习方法对比,系统评估了TabPFN的性能优势。结合SHAP(SHapley Additive exPlanations)方法与二维偏依赖图(PDPs)分析,进一步揭示了影响膜污染的关键水质因子,为膜污染主导因子的识别与污染控制策略优化提供理论依据。
1 模型与方法
1.1 数据集构建
本研究所用Bi2O3/rGO/TiO2(BRGT)改性陶瓷超滤膜(MCUM)基于课题组前期研究制备。具体而言,BRGT三元异质结复合材料通过一步水热法合成[11],该材料兼具优异的吸附性能与光催化活性,能够协同促进水体中典型有机污染物的富集与降解。随后,采用真空抽滤结合热处理工艺,将BRGT负载于陶瓷膜表面,制备得到MCUM[12]。实验以实际二级生化出水为处理对象,设置多种运行条件,包括不同光照模式(暗吸附、暗吸附饱和-紫外、紫外)、不同紫外光功率密度、不同BRGT负载量的MCUM,不同剂量的过一硫酸盐(PMS)或过二硫酸盐(PDS)。在各运行条件下,收集MCUM处理后的渗透液,测定水质指标包括UV254吸光度、可溶性有机碳(DOC)以及三维荧光光谱。通过扣除纯水空白消除瑞利和拉曼散射干扰,并将荧光强度统一归一化为拉曼单位(R.U.)[13]。随后,为捕捉EfOM中不同层级的荧光信息,同时采用区域荧光积分(FRI)方法与平行因子分析(PARAFAC)方法解析三维荧光数据,其中,FRI侧重反映宏观区域强度变化,PARAFAC则能更精细地识别独立荧光组分。在此基础上,三维荧光光谱被划分为5个特征区域:Ⅰ区(酪氨酸类蛋白)、Ⅱ区(色氨酸类蛋白)、Ⅲ区(富里酸类物质)、Ⅳ区(微生物代谢副产物类物质)和Ⅴ区(腐殖酸类物质),并采用FRI方法计算各特征区域的积分值。此外,结合PARAFAC方法进一步提取3种荧光组分,即微生物源类腐殖质(C1)、色氨酸类物质(C2)和陆源类腐殖质(C3),并记录各组分的最大荧光强度(Fmax)。最终,以UV254、DOC、5个FRI值及3种荧光组分的Fmax作为模型输入变量,膜运行2 h后的末端比通量、可逆阻力与不可逆阻力作为输出变量,构建108组样本数据用于模型训练与性能分析。
1.2 实验环境搭建
机器学习模型的训练与计算在Windows操作系统环境下进行,使用Python 3.9编程平台。硬件配置包括英特尔 i7-12650H处理器及NVIDIA GeForce RTX 4060(8 GB)独立显卡。深度学习框架采用PyTorch 2.1.0,CUDA版本为11.8。所有变量在训练前均进行标准化处理,转换为均值为0、方差为1的分布,消除量纲影响。
1.3 深度学习模型
TabPFN是一种面向表格数据的元学习模型,融合了先验数据拟合机制与Transformer架构,其核心优势在于基于结构因果模型的合成数据生成策略,以及无需梯度更新即可完成预测的高效前向推理框架[14]。实验中,数据集按7∶3划分为训练集与测试集。TabPFN模型在默认参数配置下,单次预测平均耗时约1.8 s。为进一步提升模型性能,引入后验集成(PHE)策略。PHE通过设定不同时间限制(30、120、300、900、1 800、3 600 s),在限定时间内多次验证不同参数配置的TabPFN模型,并采用贪婪集成算法对各子模型结果进行加权融合。
1.4 常规机器学习模型
选取3种常用机器学习算法,包括岭回归(Ridge)、径向基神经网络(RBF)和极端梯度提升树(XGBoost)。数据集按7∶3划分为训练集与测试集。为避免数据泄漏并提升模型泛化能力,针对不同算法设定合理的超参数搜索范围,结合三折交叉验证与遗传算法在训练集上进行超参数优化,最终在测试集上评估模型性能。
1.5 模型评价
为评估模型的预测性能,选用两种常用的回归评价指标决定系数(R2)与均方根误差(ERMS)。具体计算公式如下:
式中: yi为第i个样本的实际值,为模型对第i个样本的预测值,为数据集中所有样本的平均值。R2越接近1,表明模型对数据的拟合程度越高, ERMS越小,则表明预测误差越低。
1.6 特征评估
仅依赖机器学习模型的预测结果,难以深入解析输入特征与目标变量之间的潜在因果关系。SHAP方法基于博弈论原理,能够为每个特征分配稳定且一致的贡献值,从而揭示其在模型预测中的作用机制[15]。相比传统特征重要性分析,SHAP适用于多种复杂的非线性模型,具备全局和局部解释能力,可同时识别整体上的主要驱动因子和单一样本的关键影响路径[16-17],为量化水质参数对膜污染的贡献程度提供了有效手段。平均SHAP绝对值可反映各特征对模型输出的平均贡献水平,数值越高,表明该特征在预测结果中的影响越显著[18]。因此,SHAP值较高的水质参数可视为影响末端比通量、可逆阻力与不可逆阻力的关键因素,即膜污染过程中的主导因子。此外,PDPs通过展示两个特征变量对预测结果的联合影响[19],辅助揭示特征间的非线性关系和交互效应,补充SHAP的贡献度分析。
2 结果与讨论
2.1 TabPFN模型与传统机器学习模型性能对比
在水质参数与末端比通量预测任务中(表1),RBF神经网络在默认超参数下预测能力有限(测试集R2=0.71)。引入遗传算法进行超参数优化后,模型预测性能显著提升,测试集R2提高至0.95,ERMS降至0.029。XGBoost模型虽在训练集上拟合度极高(R2=1.00),但测试集表现明显下降(R2=0.93),存在过拟合现象。通过遗传算法优化,XGBoost泛化能力改善,测试集R2提升至 0.94,ERMS降至0.030,表明超参数优化可有效增强非线性模型的预测性能与泛化能力。相比之下,经过遗传算法优化后的线性回归模型(Ridge回归)虽具备一定的预测能力(R2=0.88,ERMS=0.044),但仍难以有效拟合输入变量与目标值之间的非线性关系,整体预测效果低于RBF与XGBoost模型。值得注意的是,TabPFN模型在未进行任何超参数调整的情况下,仅通过一次前向传播即实现了最优的末端比通量预测效果(R2=0.97,ERMS=0.021)。
表1训练集与测试集上的末端比通量预测性能评估
Tab.1Prediction performance evaluation of normalized specific flux on training and testing sets
进一步分析可逆与不可逆阻力的预测结果(见表2、3),Ridge与RBF模型在默认超参数条件下预测能力有限(测试集R2低于0.75)。引入遗传算法进行超参数优化后,两者性能均有所提升,尤其是在不可逆阻力预测任务中,RBF模型的测试集R2提升至0.82。XGBoost在两类阻力预测中同样存在一定的过拟合风险,且在不可逆阻力预测中,超参数优化后测试集性能出现小幅下降(R2由0.87降至0.85)。说明传统机器学习模型的超参数优化并不总能提升测试集预测性能,其效果受限于数据集复杂性和优化策略。相比之下,TabPFN无需调参,在两类阻力预测任务中均表现较高的测试集R2,分别为0.95(可逆阻力)和0.86(不可逆阻力),体现出更高效且鲁棒的预测能力。
表2训练集与测试集上的可逆阻力预测性能评估
Tab.2Prediction performance evaluation of reversible resistance on training and testing sets
表3训练集与测试集上的不可逆阻力预测性能评估
Tab.3Prediction performance evaluation of irreversible resistance on training and testing sets
2.2 TabPFN(PHE)模型的性能提升分析
如图1所示,TabPFN(PHE)的预测性能显著依赖集成时间,合理选择集成时间有助于在保证预测精度的同时控制计算成本。末端比通量和不可逆阻力任务在1 800 s达到最佳表现,分别为R2=0.98,ERMS=0.018 6和R2=0.87,ERMS=3.38×1011;可逆阻力任务则在120 s达到最优(R2=0.95,ERMS=2.44×1011)。各任务均呈现出预测效果随集成时间增加而提升,随后略有下降的趋势,表明适度集成能够增强模型泛化能力,但过长集成时间可能引入表现较差的TabPFN配置,导致集成效果下降。
图1TabPFN(PHE)模型在不同优化时间下测试集预测性能对比
Fig.1Prediction performance comparison of TabPFN (PHE) model on testing set under different optimization durations
图2展示了TabPFN(PHE)在各任务最优集成时间下对目标变量的预测效果。末端比通量与不可逆阻力任务中,训练集与测试集趋势线斜率分别为0.98、0.96和0.96、1.03,预测值主要分布在理想拟合线附近,整体斜率接近1,表明模型预测结果与真实值具有良好的线性一致性。可逆阻力任务中,训练集、测试集斜率为0.94、0.87,测试集预测结果相对偏低,主要受可逆阻力大于3×1012 m-1区间预测误差的影响。
图2最优TabPFN(PHE)模型的预测性能
Fig.2Prediction performance of optimal TabPFN (PHE) model
2.3 最优TabPFN(PHE)模型的解释性分析
基于2.2节确定的各任务最优集成时间,进一步采用SHAP方法对相应的TabPFN(PHE)模型进行了特征重要性分析,以识别关键膜污染因子。如图3~5所示,DOC在3类污染预测任务中的SHAP值分别为0.22、0.40和0.57,表明其在膜污染形成过程中具有重要影响。DOC作为水样中有机负荷的综合性指标,可能包括大分子(>10 000 u)生物聚合物、中等分子(1 000~10 000 u)的腐殖质物质以及低分子(<1 000 u)有机酸等有机组分[20]。其中,生物聚合物(如蛋白质和多糖)易在膜表面形成凝胶层,覆盖膜孔,引发可逆性与不可逆性膜污染;中等分子质量的疏水性腐殖质类物质则倾向于在膜表面积聚,形成致密滤饼层,导致可逆污染;而低分子有机酸由于尺寸较小,易渗透进入膜孔内部,通过吸附与堵塞作用引起不可逆污染[4,21]。因此,较高的DOC反映了进入膜表面与孔隙的有机物总量增加,这个过程加剧了膜污染,最终导致比通量下降,可逆阻力及不可逆阻力的上升。
图3末端比通量的 SHAP 特征重要性分析
Fig.3SHAP feature importance analysis of normalized specific flux
针对具体膜污染指标,SHAP分析揭示了不同EfOM组分在污染形成过程中的差异化贡献。在末端比通量的预测中(图3),Fmax-C2(SHAP值为0.24)主导了通量的下降。这主要是由于膜表面的含氧官能团易与蛋白质分子发生强相互作用[22],从而促使EfOM中的色氨酸蛋白样物质更容易与MCUM表面负载的还原氧化石墨烯(rGO)吸附或结合,进而加剧膜表面污染。Fan等[23]的研究同样表明C2组分与膜污染指标之间的皮尔逊相关系数高达0.99,进一步验证了其在通量下降中的主导作用。在可逆阻力的形成中,SHAP分析(图4)显示,腐殖酸类物质(FRI-Region V,SHAP值为0.23)和陆源类腐殖质组分(Fmax-C3,SHAP值为0.16)具有显著影响。这主要是由于分子质量大于50 000 u的腐殖酸类物质易在膜表面吸附并形成疏松的滤饼层,在过滤压力作用下产生弱结合的污染层[24]。这类污染通常以可逆形式存在,可通过反冲洗或温和的化学清洗方式去除。在不可逆阻力预测中(图5),富里酸类物质(FRI-Region III)的SHAP值高达0.56,仅次于DOC,表明其在不可逆污染形成中具有关键作用。这主要归因于EfOM中的中低分子质量(1 000~3 000 u)富里酸物质在膜过滤过程中易穿透滤饼层并进入膜孔,造成孔道堵塞,最终形成不可逆污染[25]。
图4可逆阻力的SHAP特征重要性分析
Fig.4SHAP feature importance analysis of reversible resistance
图5不可逆阻力的SHAP特征重要性分析
Fig.5SHAP feature importance analysis of irreversible resistance
为进一步探究关键膜污染因子之间的协同作用,基于SHAP特征重要性分析结果,选取了贡献度较高的特征变量,构建了PDPs以可视化不同变量组合对膜污染指标的综合影响。在末端比通预测中(图6(a)~6(c)),3组变量组合的等高线形态和颜色分布较为一致,且当两种指标数值最高时,膜通量显著下降至最低值(末端比通量约0.30),均表现出明显的协同负效应。对于可逆阻力(图6(d)~6(f)),变量间的交互模式与末端比通量相似,但整体协同效应逐渐减弱,颜色条数值范围也相应减小。DOC与腐殖酸类物质的组合显示出最强的交互作用,对可逆阻力的影响最强,预测值波动最大(0.8×1012~4.8×1012 m-1),说明他们之间协同效应显著。相比之下,DOC与富里酸类以及腐殖酸与富里酸类的组合影响较弱,预测值变化范围较小。这表明当DOC质量浓度升高,尤其腐殖酸类含量较高时,可逆污染更易形成,从而显著增加可逆阻力。在不可逆阻力分析中,不同污染物组合表现出差异化的交互特性。而在图6(g)中,不可逆阻力峰值(>9.0×1012 m-1)集中于DOC和富里酸类物质均高的区域,显示其强协同对不可逆污染的显著影响。图6(h)中,等高线沿DOC轴分布,表明该指标主要由DOC单因子主导,UV254的协同效应较弱。值得注意的是,尽管图6(h)中包含最重要因子DOC,其预测值范围(1.8×1012~6.0×1012 m-1)小于图6(i)中富里酸类物质与UV254的组合(2.4×1012~7.2×1012 m-1)。这表明在不可逆污染的形成过程中,富里酸类物质与芳香性物质这两类次重要因子的强协同作用,可能对污染程度产生的影响超过DOC等主导因子的单独或弱协同效应。
图6基于SHAP特征重要性的关键变量对膜污染指标(末端比通量、可逆、不可逆阻力)的二维偏依赖分析
Fig.6Two-dimensional partial dependence analysis of key variables on membrane fouling metrics (normalized specific flux, reversible, irreversible resistance) based on SHAP feature importance
综上,SHAP值分析揭示了色氨酸类、富里酸类和腐殖酸类物质为膜污染的主要驱动因子。其中,色氨酸类物质显著驱动末端比通量下降,富里酸类物质对不可逆阻力的形成具有关键影响,而腐殖酸类物质易在膜表面形成滤饼层导致可逆阻力上升。PDPs分析进一步揭示了这些组分间存在显著的非线性协同效应,特别是在高有机负荷条件下,色氨酸类与腐殖酸类物质对膜通量和可逆阻力的协同加剧作用明显;富里酸类物质与芳香性物质的强协同效应则对不可逆阻力的加重起重要作用。基于关键膜污染因子的识别,应优先提升MCUM表面负载BRGT对有机污染物的富集及降解能力,尤其针对主要膜污染驱动因子,同时强化BRGT复合材料对易引发膜污染的EfOM组分的膜表面原位降解能力,从而有效减少污染物积累和膜污染。此外,不同氧化剂对不同类型污染物具有特异性降解能力[26],MCUM可结合特定氧化剂,针对高污染倾向的污染物实现进一步去除,从而有效缓解膜污染。
3 结论
1)在末端比通量、可逆阻力与不可逆阻力的预测任务中,传统模型(Ridge、RBF、XGBoost)即使利用遗传算法进行超参数优化,整体预测效果仍然有限,且部分模型存在过拟合风险。相比之下,TabPFN模型无需超参数调整即可实现优于传统模型的预测效果,体现出其在非线性关系建模与泛化能力方面的优势。
2)引入TabPFN(PHE)模型后,不同预测任务的性能进一步提升。末端比通量与不可逆阻力在1 800 s集成时间下达到最优效果,可逆阻力的最优效果出现在120 s集成时间。适度集成可增强模型鲁棒性,过度集成则可能导致预测性能下降。
3)SHAP分析识别了二级出水有机物(EfOM)中导致膜污染的关键组分,主要包括色氨酸类物质、富里酸类物质和腐殖酸类物质,并分析了其在膜通量下降以及可逆和不可逆阻力形成过程中的不同贡献机制。
4)PDPs分析揭示,关键有机组分在较高有机负荷(如DOC质量浓度升高)条件下呈现出显著的非线性协同效应。具体而言,色氨酸类物质主要促使膜通量下降,腐殖酸类物质显著增加可逆阻力,富里酸类和芳香性物质则更易加剧不可逆阻力。这些结果加深了对膜污染机制的理解,为后续防控策略提供了科学依据。

