【本站讯】计算智能(Computational Intelligence)是人工智能的一个重要分支,强调使用仿生和近似计算方法来解决复杂问题,尤其适用于传统数学建模难以解决的非线性不确定性问题,包含神经网络、模糊系统、进化计算三方面。然而,高维数据通常具备维度高、数据冗杂且噪声较多等特点,传统计算智能方法受限于其自身特性难以有效处理高维数据。因此,探索如何创新计算智能理论实现低数据维度、高泛化能力的人工智能模型是个极具研究意义的课题。
鉴于此,我校理学院王健教授团队面向高维数据构建了无监督嵌入式特征选择模型、改进隶属度函数的模糊系统模型、神经模块可复用的可解释神经网络模型,为计算智能在高维场景中的应用提供了理论依据。相关成果在IEEE Transactions on Neural Networks and Learning Systems《IEEE神经网络和学习系统汇刊》、IEEE Transactions on Fuzzy Systems《IEEE模糊系统杂志》和IEEE Transactions on Cybernetics《IEEE控制论汇刊》等计算智能领域顶级学术期刊上发表。上述研究工作得到国家自然科学基金、国家重点研发计划、中央高校基本科研业务费、中国-中东欧国家高校联合教育项目、高端外国专家引进计划、“一带一路”创新人才交流外国专家项目等资助。

特征选择是计算智能和数据挖掘中的关键步骤,旨在从原始数据中筛选出最相关、最有用的特征,以提升模型性能、降低过拟合风险,并提高计算效率。团队提出一种高阶嵌入学习和稀疏学习的特征选择模型,该模型利用高阶相似性学习挖掘高维数据的本质几何结构,构造最优的相似图,并通过高阶嵌入学习提取高维数据最优的低维表达。采用稀疏回归模型构造最优的映射矩阵,从而实现特征重要性评估。此外,根据原始数据中样本数量和特征的关系,设计了一种协同竞争策略优化映射矩阵,显著提升了模型的计算效率。相关成果以“Unsupervised Feature Selection for High-Order Embedding Learning and Sparse Learning”为题发表在《IEEE Transactions on Cybernetics》上。论文第一作者为2021级博士生胡泽彪,通讯作者为王健教授。

针对高维数据特征选择,研究团队构造了一个融合数据分类层和特征层的统一框架。在分类层中,根据离散谱聚类生成数据的伪标签,并通过训练线性回归模型学习最优的回归/映射矩阵;在特征层中,根据分类层生成的映射矩阵将高维数据投影至低维空间,引入具有行稀疏正则化约束的自适应图学习实现特征降维。该工作从一个崭新的角度出发,创造性地构建了高维数据谱特征选择模型,扩展了计算智能中无监督特征选择的应用场景。相关成果以“Bi-Level Spectral Feature Selection”为题发表在《IEEE Transactions on Neural Networks and Learning Systems》上。论文第一作者为2021级博士生胡泽彪,通讯作者为王健教授。

高维数据在多领域日益普遍,模糊系统处理高维问题存在困难,其中构建模糊规则库(FRB)和使用 T-范数是主要阻碍因素。研究团队基于Dombi T范数提出了一种全新的适用于高维数据的模糊系统建模方案,对Dombi T范数中的指示参数设计自适应更新策略,并针对此策略提出复合型高斯隶属度函数,最终构建了基于自适应Dombi T范数的高维模糊系统。数值实验表明,对比同类方法,该模型在特征变量数以万计的高维问题上的识别精度显著提升。相关成果以“ADMTSK: A High-Dimensional Takagi-Sugeno-Kang Fuzzy System Based on Adaptive Dombi T-Norm”为题发表在《IEEE Transactions on Fuzzy Systems》上。论文第一作者为2019级博士生薛广东,通讯作者为王健教授。

神经网络是计算智能的一个重要方面,其逼近能力对揭示其学习能力意义重大,ReLU 等激活函数虽被广泛应用,但存在不可微等问题,且模型可解释性不足。研究团队基于可微分编程和max算子的组合特性,提出了一种可复用神经模块构建的可微分网络模型(MDN),扩展了ReLU及其平滑形式激活函数的适用范围,设计了显式模块化架构以增强网络可解释性,严格证明了该网络对凸函数和连续函数的通用逼近能力,进而构造出由两个MDN模块构成的差分网络模型(DMDN)以增强表达能力。数值实验表明,该方法在处理高维数据有鲁棒的性能表现。相关成果以“Universal Approximation Abilities of a Modular Differentiable Neural Network”为题发表在《IEEE Transactions on Neural Networks and Learning Systems》上。论文第一作者为王健教授,通讯作者为吴淑君、袁彬教授、Nikhil R. Pal院士。
近年来,王健教授团队致力于解决计算智能在高维数据处理方面的研究工作,组建跨媒体大数据联合实验室(https://cilab.upc.edu.cn/)在高维特征选择、高维模糊系统设计、智能油气田开发等方面取得了系列进展,在IEEE Transactions on Fuzzy Systems、IEEE Transactions on Systems, Man, and Cybernetics: Systems、IEEE Transactions on Neural Networks and Learning System、IEEE Transactions on Evolutionary Computation等国际权威期刊发表论文180余篇,引用5000余次,获山东省人工智能学会自然科学一等奖1项,承担国家重点研发计划项目子课题、国家自然科学基金项目、中石油重大科技项目等10余项,在计算智能领域形成了一定的国际影响力。
论文链接:
https://ieeexplore.ieee.org/document/10934714
https://ieeexplore.ieee.org/document/10562273
https://ieeexplore.ieee.org/document/10856345
https://ieeexplore.ieee.org/document/10488146