Neighborhood search heuristics for selecting hierarchically well‐formulated subsets in polynomial regression

The importance of subset selection in multiple regression has been recognized for more than 40 years and, not surprisingly, a variety of exact and heuristic procedures have been proposed for choosing subsets of variables. In the case of polynomial regression, the subset selection problem is complicated by two issues: (1) the substantial growth in the number of candidate predictors, and (2) the desire to obtain hierarchically well‐formulated subsets that facilitate proper interpretation of the regression parameter estimates. The first of these issues creates the need for heuristic methods that can provide solutions in reasonable computation time; whereas the second requires innovative neighborhood search approaches that accommodate the hierarchical constraints. We developed tabu search and variable neighborhood search heuristics for subset selection in polynomial regression. These heuristics are applied to a classic data set from the literature and, subsequently, evaluated in a simulation study using synthetic data sets. © 2009 Wiley Periodicals, Inc. Naval Research Logistics, 2010     

Optimal sample size allocation for tests with multiple levels of stress with extreme value regression

In this article, we discuss the optimal allocation problem in a multiple stress levels life‐testing experiment when an extreme value regression model is used for statistical analysis. We derive the maximum likelihood estimators, the Fisher information, and the asymptotic variance–covariance matrix of the maximum likelihood estimators. Three optimality criteria are defined and the optimal allocation of units for two‐ and k‐stress level situations are determined. We demonstrate the efficiency of the optimal allocation of units in a multiple stress levels life‐testing experiment by using real experimental situations discussed earlier by McCool and Nelson and Meeker. Monte Carlo simulations are used to show that the optimality results hold for small sample sizes as well. © 2006 Wiley Periodicals, Inc. Naval Research Logistics, 2007     

基因表达缺失值的加权回归估计算法

在基因芯片实验中,数据缺失客观存在,并在一定程度上影响芯片数据后续分析结果的准确性。在不增加实验次数的情况下,缺失值估计是降低缺失数据对后续分析影响的有效方法。利用相似性信息的核加权函数来实现缺失值回归估计的局部化,提出了基于加权回归估计的基因表达缺失值估计算法。在两个不同类型的基因芯片数据上,将新方法与几种已知的方法进行了比较分析。实验结果表明,新的估计算法具有比传统缺失值估计算法更好的稳定性和估计准确度。     

基于支持向量机的彩色图像恢复新方法

引起图像退化的因素众多,因而难以用一个统一的方法来进行恢复处理。鉴于图像的像素和各颜色分量通道间本质上存在某种相关性,以及以支持向量机为核心的统计学习理论具有较好地解决小样本、非线性、高维数问题的能力,提出了一种新的空域图像恢复方法,并通过对来自于待处理图像本身的训练样本的学习,构造自适应的回归插值函数;然后基于该函数对图像作有选择的修改,从而达到图像恢复的目的。实验表明,该方法是有效的,并且具有较好的泛化性能。     

基于改进支持向量回归机的火炮身管寿命预测

为准确预测火炮身管寿命终止时火炮射弹数,根据射击过程中火炮身管磨损量与身管寿命特性,分析了身管膛线起始部磨损量与身管射弹数之间的关系,提出了支持向量回归机算法,并采用遗传算法进行模型优化改进,得到火炮身管寿命预测最优模型。结合两种类型火炮的身管数据,利用该模型对身管寿命进行预测,并与原始支持向量回归机进行对比,通过分析可知改进的支持向量回归机预测效果好、精度高,为火炮在实际应用中身管的寿命预测提供了新的思路。     

基于广义回归神经网络的单位运营状况分类

单位的运营状况会直接影响股东和广大人民的利益,针对运营状况可以使用广义回归神经网络进行分类。由于广义回归神经网络中径向基函数的扩展参数Spread的选取会导致分类的准确率,提出了一种果蝇优化算法优化参数Spread的分类模型。充分利用了果蝇优化算法的寻优能力,将优化后的参数代入到广义回归神经网络中对单位的财务数据进行运营状况的分类。结果表明,与广义回归神经网络做比较,优化后的网络模型对数据的分类可以达到很高的准确率,在相关领域的分类上有非常大的实用性。     

航天器转动惯量参数在轨辨识的最优激励

根据矩阵分析理论研究了转动惯量参数的可辨识性问题,从姿态动力学方程导出关于未知参数的线性回归模型,将回归矩阵的条件数作为参数可辨识度的定量指标,以可辨识度最大为目标函数建立最优控制模型;应用解最优控制问题的伪谱法,计算控制力矩陀螺的指令轨线,使得惯量参数的辨识精度和收敛速度显著提高;在仿真中采用双无迹卡尔曼滤波算法进行参数辨识,结果验证了所提出的最优激励设计方法可以改善参数辨识性能,同时该方法对先验信息误差具有鲁棒性。     

面向监督学习的稀疏平滑岭回归方法

岭回归是监督学习中的一个重要方法,被广泛用于多目标分类和识别。岭回归中一个重要的步骤是定义一个特殊的多变量标签矩阵,以实现对多类别样本的编码。通过将岭回归看作是一种基于图的监督学习方法,拓展了标签矩阵的构造方法。在岭回归的基础之上,进一步考虑投影中维度的平滑性和投影矩阵的稀疏性,提出稀疏平滑岭回归方法。对比一系列经典的监督线性分类算法,发现稀疏平滑岭回归在多个数据集上有着更好的表现。另外,实验表明新的标签矩阵构造方法不会降低原始岭回归方法的表现,同时还可以进一步提升稀疏平滑岭回归方法的性能。     

基于逐步回归法的潜艇高空磁场仿真

应用目前磁场换算中较多使用的磁荷模拟法对潜艇高空磁场进行了仿真,为了尽量减少磁荷的位置及大小受人为经验的影响,且提高换算精度,采用逐步回归法对各模拟磁荷的磁矩进行筛选,最后对潜艇高空磁场进行了计算机仿真.仿真结果表明,该方法精度比较高,而且模型的稳定性好,对实际防空中磁探具有重要的意义.     

脉冲末修弹落点预测导引方法研究

在分析剩余射程影响因素的基础上,以弹道特征参数弹道高y及速度矢量分量Vx和Vy为解释变量,以回归分析方法为数学工具,建立脉冲末修弹剩余射程预测模型。以目标点与弹丸预测落点之间的差值为广义弹道偏差,结合数值仿真,对落点预测导引进行深入研究,验证了回归分析模型的可行性。