基于最小二乘法的系统参数辨识

基于最小二乘法的系统参数辨识

吴令红,熊晓燕,张 涛

太原理工大学机械电子研究所,太原 (030024)

E-mail

摘 要:系统辨识是自动控制学科的一个重要分支,由于其特殊作用,已经广泛应用于各种

领域,尤其是复杂系统或参数不容易确定的系统的建模。过去,系统辨识主要用于线性系统

的建模,经过多年的研究,已经形成成熟的理论。但随着社会、科学的发展,非线性系统越

来越受到人们的关注,其控制与模型之间的矛盾越来越明显,因而非线性系统的辨识问题也

越来越受到重视,其辨识理论不断发展和完善本。文重点介绍了系统参数辨识中最小二乘法

的基本原理,并通过悬臂梁模型的辨识实例,具体说明了基于最小二乘法参数辨识在Matlab

中的实现方法。结果表明基于最小二乘法具有算法简单、精度较高等优点。

关键词:系统辨识;参数辨识;滑动平均模型(ARX);最小二乘法;Matlab

中图分类号:TH-9

1. 引言

所谓辨识就是通过测取研究对象在人为输入作用下的输出响应,或正常运行时的输入输

出数据记录,加以必要的数据处理和数学计算,估计出对象的数学模型。这是因为对象的动

态特性被认为必然表现在它的变化着的输入输出数据之中,辨识只不过是利用数学的方法从

数据序列中提炼出对象的数学模型而已[1]。

最小二乘法是系统参数辨识中最基本最常用的方法。最小二乘法因其算法简单、理论成

熟和通用性强而广泛应用于系统参数辨识中。本文基于悬臂梁的实测数据,介绍了最小二乘

法的参数辨识在Matlab 中的实现。

2. 系统辨识

一般而言,建立系统的数学模型有两种方法:激励分析法和系统辨识法。前者是按照系

统所遵循的物化(或社会、经济等)规律分析推导出模型。后者则是从实际系统运行和实验

数据处理获得模型。如图1所示,系统辨识就是从系统的输入输出数据测算系统数学模型的

理论和方法。更进一步的定义是L.A.Zadeh 曾经与1962年给出的,即“系统辨识是在输入和

输出的基础上,从系统的一类系统范围内,确立一个与所实验系统等价的系统”。另外,系

统辨识还应该具有3个基本要素,即模型类、数据和准则[5]。被辨识系统模型根据模型形式

可分为参数模型和非参数模型两大类。所谓参数模型是指微分方程、差分方程、状态方程等

形式的数学模型;而非参数模型是指频率响应、脉冲响应、传递函数等隐含参数的数学模型。

在辨识工程中,模型的确定主要根据经验对实际对象的特性进行一定程度上的假设,如对象

的模型是线性的还是非线性的、是参数模型还是非参数模型等。在模型确定之后,就可以根

据对象的输入输出数据,按照一定的辨识算法确定模型的参数[4]。

y 图1 被研究的动态系统

3. 参数辨识模型结构及参数估计方法

3.1 参数辨识模型结构

在工程技术领域,描述离散系统的动态特性的一般模型是n 阶差分方程。对于一个所谓

的“黑盒子”系统,其差分方程的最一般的表达式可定义为:

A q

(1)()−1B q −1C q −1y (k )=u (k −nk )+e (k ) −1−1F q d q 其中:()()X q −1=x 0+x 1q −1+Λ+x nx q −nx (X =A ,B ,C ,D ,F ; x =a ,b ,c ,d ,f );q −1为

单位滞后算子;nx (na ,nb ,nc ,nd ,nf )分别为多项式A ,B ,C ,D ,F 的阶次,nk

为系统的延迟;e (k )为系统的噪声。

根据式(1)中的不同参数取值,可将参数辨识模型分为以下几种常见模型:自回归模型(AR

模型) 、滑动平均模型(ARX模型) 和自回归滑动平均模型(AMAX)等[3]。在本文中选用ARX

模型结构,即滑动平均模型:A q −1y (k )=B q −1u (t −nk )+e (k )。因为此模型结构具有如

下优点:在噪声较小时,ARX 模型具有鲁棒性、算法简单等优点;在噪声较大时,可适当

提高模型的阶次,以补偿噪声对辨识精度的影响。 ()()()

3.2 参数估计方法

对于参数模型辨识结构,系统辨识的任务是参数估计,即利用输入输出数据估计这些参

数,建立系统的数学模型。在参数估计中最常用的是最小二乘法(LS)、误差预测估计法、辅

助变量法(IV估计) 、神经网络法等[4]。

由于最小二乘法容易理解和掌握,利用最小二乘法原理所拟定的辨识算法在实施上比较

简单,并且不需要数理统计的知识,使得最小二乘法广泛应用于系统辨识领域,但它也存在

着一定的局限和不足,当系统噪声为有色噪声时,最小二乘法不能给出无偏一致估计[5]。本

文应用最小二乘法对悬臂梁数学模型进行了参数辨识。

3.3 最小二乘法(LS)

设一个SISO(单输入/单输出) 过程的ARX 模型:

A (q )y (k )=B (q )u (t −nk )+e (k ) (2)

其中:u (k )、y (k )为系统的输入输出量,e (k )为噪声。

式中A (q )=1+a 1q −1+Λ+a na q −na

B (q )=b 1q +Λ+b nb q −1−nb ,nk =1, Λt −1

模型(2)可化为最小二乘格式:

y (k )=h τ(k )θ+e (k ) (3)

记T θ=[a 1,a 2Λa na ,b 1,b 2,Λb nb ]为待

τ估计的参数。h (k )=[−y (k −1), Λ−y (k −na ), u (k −1), Λ, u (k −nb )],对于k =1, 2ΛL (L为数据长度) ,

方程(3)构成一个线性方程组,写成y L =H L (k )θ+e L (K )

⎡h τ(1)⎤⎡y (1)⎤⎡e (1)⎤⎢τ⎥⎢y (2)⎥⎢e (2)⎥()2h ⎢⎥⎥,H L =⎥ ,e L =⎢y L =⎢⎢Μ⎥⎢Μ⎥⎢Μ⎥⎢⎥⎢⎥⎢⎥τ()()y L e L ⎢⎥()h L ⎣⎦⎣⎦⎣⎦

根据最小二乘一次完成算法,其参数估计值为:

ττθLS =(H L H L )H L Z L (4) −1∧

4. 实例分析

本文以悬臂梁为研究对象,图2为悬臂梁振动实验的接线原理图,图3为实验采集的某

一段输出信号。本文利用系统辨识理论知识对悬臂梁建立模型,采用Matalb 最小二乘法[2](LS)

进行参数估计。

图2 悬臂梁振动实验原理图

图3 输出信号

在Matlab 环境下,编辑M 函数文件,

Load shiyanshuju.mat ; %导入用于模型辨识的实验数据。

shuju=iddata(double(Data1_AI_16),double(Data1_AI_0),0.001);

%把待辨识的数据由单精度转换为双精度,生成一个包含这些输入/输出频道的iddata 对

象。

ze=shuju(1000:2000);%取采样数据中的一段数据

m2=arx(ze,[10 10 1]); %%基于最小二乘法估计的ARX 模型辨识。

Present(m2); %%显示模型的信息。

figure,compare(ze,m2,1,100:300); %预测输出与实际输出比较。

利用最小二乘估计的辨识方法,辨识结果如下:

>> Discrete-time IDPOLY model: A(q)y(t) = B(q)u(t) + e(t)

A(q) = 1 - 1.415 q^-1 + 0.7886 q^-2 - 0.137 q^-3 + 0.1522 q^ -4 - 0.283 q^-5 + 0.4221 q^-6 -

0.2915 q^-7 - 0.04392 q^-8 + 0.5723 q^-9 - 0.4517 q^-10 B(q) = -48.99 q^-1 + 80.47 q^-2 - 0.4402 q^-3 - 97.77 q^-4 - 126.5 q^-5 + 213.4 q^-6 + 129.3

q^-7 - 41.96 q^-8 - 139.1 q^-9 + 31.36 q^-10

Estimated using ARX from data set ze

Loss function 0.291794 and FPE 0.297686

Sampling interval: 0.001

图4 基于最小二乘法的系统辨识模型同实际输出比较结果

从参数辨识的结果可得出结论:从系统参数、损失函数、最终预测误差和辨识模型同实

际输出结果的拟合度可以看出,最小二乘法辨识的ARX 模型参数估计精度比较高,证明了

最小二乘法的有效性。

4. 结束语

1、ARX 模型是时间序列中应用较多的一种模型,通过建立合理的模型并对参数进行精确的估计,可以得到较满意的结果,其模型的定阶和参数的估计以及实验的精度还需要进一步研究。

2、系统辨识的方法有很多, 最小二乘法是其中最基本、应用最广泛的一种系统辨识方法。最小二乘法可用于动态系统,也可以用于静态系统;可用于线性系统,也可以用于非线性系统;可用于离线估计,也可以用于在线估计,这种方法不仅在今天,而且在未来都会有非常广泛的应用前景。

参考文献

[1] 李言俊,张科. 系统辨理论及应用[M]. 北京:国防工业出版社,2006

[2] 刘叔军,盖晓华,樊京,崔世林等.MA TLAB7.0控制系统应用与实例[M]. 北京:机械工业出版社,2005

[3] 石贤良,吴成富. 基于MTALAB 的最小二乘法参数辨识与仿真[J]. 微机处理,2005:44-46

[4] 严晓久,周爱国,林建平,吴晔. 基于辅助变量法的系统参数辨识[J]. 机床与液压,2006:180-184

[5] 王秀峰,卢桂章. 系统建模与辨识[M]. 北京:电子工业出版社,2004

Parametric System Identification Based on Least-squares

Method

Wu Ling Hong,Xiong Xiao Yan,Zhang Tao

Tai Yuan University of Technology, Department of Mechatronical Engineering , Tai yuan(030024)

Abstract

As one of the main branches of the automatic control science, systemidentification has been applied in many fields. In the past, system identification was mostly applied in linear system modeling, and the flawless theory for linear system had come into being for many years. However, with the development of society and science, nonlinear system is more and more important. The conflict between control and model is getting more and more evident. This fact results in the development of nonlinear system identification theory. The fundamental principle of least-squares method was introduced in this paper, and amodeling of cantilever beam experiment was given to show how to implement system identification based on Least-squares Method in Matlab. The results of modeling indicate that system identification with least-squares method is more feasible and accurate.

Keywords: System identification; Parametric identification; ARX; Least square method; Matlab

作者简介:吴令红,男,1981年出生,硕士研究生,主要研究方向是机电系统动态测试与 故障诊断

基于最小二乘法的系统参数辨识

吴令红,熊晓燕,张 涛

太原理工大学机械电子研究所,太原 (030024)

E-mail

摘 要:系统辨识是自动控制学科的一个重要分支,由于其特殊作用,已经广泛应用于各种

领域,尤其是复杂系统或参数不容易确定的系统的建模。过去,系统辨识主要用于线性系统

的建模,经过多年的研究,已经形成成熟的理论。但随着社会、科学的发展,非线性系统越

来越受到人们的关注,其控制与模型之间的矛盾越来越明显,因而非线性系统的辨识问题也

越来越受到重视,其辨识理论不断发展和完善本。文重点介绍了系统参数辨识中最小二乘法

的基本原理,并通过悬臂梁模型的辨识实例,具体说明了基于最小二乘法参数辨识在Matlab

中的实现方法。结果表明基于最小二乘法具有算法简单、精度较高等优点。

关键词:系统辨识;参数辨识;滑动平均模型(ARX);最小二乘法;Matlab

中图分类号:TH-9

1. 引言

所谓辨识就是通过测取研究对象在人为输入作用下的输出响应,或正常运行时的输入输

出数据记录,加以必要的数据处理和数学计算,估计出对象的数学模型。这是因为对象的动

态特性被认为必然表现在它的变化着的输入输出数据之中,辨识只不过是利用数学的方法从

数据序列中提炼出对象的数学模型而已[1]。

最小二乘法是系统参数辨识中最基本最常用的方法。最小二乘法因其算法简单、理论成

熟和通用性强而广泛应用于系统参数辨识中。本文基于悬臂梁的实测数据,介绍了最小二乘

法的参数辨识在Matlab 中的实现。

2. 系统辨识

一般而言,建立系统的数学模型有两种方法:激励分析法和系统辨识法。前者是按照系

统所遵循的物化(或社会、经济等)规律分析推导出模型。后者则是从实际系统运行和实验

数据处理获得模型。如图1所示,系统辨识就是从系统的输入输出数据测算系统数学模型的

理论和方法。更进一步的定义是L.A.Zadeh 曾经与1962年给出的,即“系统辨识是在输入和

输出的基础上,从系统的一类系统范围内,确立一个与所实验系统等价的系统”。另外,系

统辨识还应该具有3个基本要素,即模型类、数据和准则[5]。被辨识系统模型根据模型形式

可分为参数模型和非参数模型两大类。所谓参数模型是指微分方程、差分方程、状态方程等

形式的数学模型;而非参数模型是指频率响应、脉冲响应、传递函数等隐含参数的数学模型。

在辨识工程中,模型的确定主要根据经验对实际对象的特性进行一定程度上的假设,如对象

的模型是线性的还是非线性的、是参数模型还是非参数模型等。在模型确定之后,就可以根

据对象的输入输出数据,按照一定的辨识算法确定模型的参数[4]。

y 图1 被研究的动态系统

3. 参数辨识模型结构及参数估计方法

3.1 参数辨识模型结构

在工程技术领域,描述离散系统的动态特性的一般模型是n 阶差分方程。对于一个所谓

的“黑盒子”系统,其差分方程的最一般的表达式可定义为:

A q

(1)()−1B q −1C q −1y (k )=u (k −nk )+e (k ) −1−1F q d q 其中:()()X q −1=x 0+x 1q −1+Λ+x nx q −nx (X =A ,B ,C ,D ,F ; x =a ,b ,c ,d ,f );q −1为

单位滞后算子;nx (na ,nb ,nc ,nd ,nf )分别为多项式A ,B ,C ,D ,F 的阶次,nk

为系统的延迟;e (k )为系统的噪声。

根据式(1)中的不同参数取值,可将参数辨识模型分为以下几种常见模型:自回归模型(AR

模型) 、滑动平均模型(ARX模型) 和自回归滑动平均模型(AMAX)等[3]。在本文中选用ARX

模型结构,即滑动平均模型:A q −1y (k )=B q −1u (t −nk )+e (k )。因为此模型结构具有如

下优点:在噪声较小时,ARX 模型具有鲁棒性、算法简单等优点;在噪声较大时,可适当

提高模型的阶次,以补偿噪声对辨识精度的影响。 ()()()

3.2 参数估计方法

对于参数模型辨识结构,系统辨识的任务是参数估计,即利用输入输出数据估计这些参

数,建立系统的数学模型。在参数估计中最常用的是最小二乘法(LS)、误差预测估计法、辅

助变量法(IV估计) 、神经网络法等[4]。

由于最小二乘法容易理解和掌握,利用最小二乘法原理所拟定的辨识算法在实施上比较

简单,并且不需要数理统计的知识,使得最小二乘法广泛应用于系统辨识领域,但它也存在

着一定的局限和不足,当系统噪声为有色噪声时,最小二乘法不能给出无偏一致估计[5]。本

文应用最小二乘法对悬臂梁数学模型进行了参数辨识。

3.3 最小二乘法(LS)

设一个SISO(单输入/单输出) 过程的ARX 模型:

A (q )y (k )=B (q )u (t −nk )+e (k ) (2)

其中:u (k )、y (k )为系统的输入输出量,e (k )为噪声。

式中A (q )=1+a 1q −1+Λ+a na q −na

B (q )=b 1q +Λ+b nb q −1−nb ,nk =1, Λt −1

模型(2)可化为最小二乘格式:

y (k )=h τ(k )θ+e (k ) (3)

记T θ=[a 1,a 2Λa na ,b 1,b 2,Λb nb ]为待

τ估计的参数。h (k )=[−y (k −1), Λ−y (k −na ), u (k −1), Λ, u (k −nb )],对于k =1, 2ΛL (L为数据长度) ,

方程(3)构成一个线性方程组,写成y L =H L (k )θ+e L (K )

⎡h τ(1)⎤⎡y (1)⎤⎡e (1)⎤⎢τ⎥⎢y (2)⎥⎢e (2)⎥()2h ⎢⎥⎥,H L =⎥ ,e L =⎢y L =⎢⎢Μ⎥⎢Μ⎥⎢Μ⎥⎢⎥⎢⎥⎢⎥τ()()y L e L ⎢⎥()h L ⎣⎦⎣⎦⎣⎦

根据最小二乘一次完成算法,其参数估计值为:

ττθLS =(H L H L )H L Z L (4) −1∧

4. 实例分析

本文以悬臂梁为研究对象,图2为悬臂梁振动实验的接线原理图,图3为实验采集的某

一段输出信号。本文利用系统辨识理论知识对悬臂梁建立模型,采用Matalb 最小二乘法[2](LS)

进行参数估计。

图2 悬臂梁振动实验原理图

图3 输出信号

在Matlab 环境下,编辑M 函数文件,

Load shiyanshuju.mat ; %导入用于模型辨识的实验数据。

shuju=iddata(double(Data1_AI_16),double(Data1_AI_0),0.001);

%把待辨识的数据由单精度转换为双精度,生成一个包含这些输入/输出频道的iddata 对

象。

ze=shuju(1000:2000);%取采样数据中的一段数据

m2=arx(ze,[10 10 1]); %%基于最小二乘法估计的ARX 模型辨识。

Present(m2); %%显示模型的信息。

figure,compare(ze,m2,1,100:300); %预测输出与实际输出比较。

利用最小二乘估计的辨识方法,辨识结果如下:

>> Discrete-time IDPOLY model: A(q)y(t) = B(q)u(t) + e(t)

A(q) = 1 - 1.415 q^-1 + 0.7886 q^-2 - 0.137 q^-3 + 0.1522 q^ -4 - 0.283 q^-5 + 0.4221 q^-6 -

0.2915 q^-7 - 0.04392 q^-8 + 0.5723 q^-9 - 0.4517 q^-10 B(q) = -48.99 q^-1 + 80.47 q^-2 - 0.4402 q^-3 - 97.77 q^-4 - 126.5 q^-5 + 213.4 q^-6 + 129.3

q^-7 - 41.96 q^-8 - 139.1 q^-9 + 31.36 q^-10

Estimated using ARX from data set ze

Loss function 0.291794 and FPE 0.297686

Sampling interval: 0.001

图4 基于最小二乘法的系统辨识模型同实际输出比较结果

从参数辨识的结果可得出结论:从系统参数、损失函数、最终预测误差和辨识模型同实

际输出结果的拟合度可以看出,最小二乘法辨识的ARX 模型参数估计精度比较高,证明了

最小二乘法的有效性。

4. 结束语

1、ARX 模型是时间序列中应用较多的一种模型,通过建立合理的模型并对参数进行精确的估计,可以得到较满意的结果,其模型的定阶和参数的估计以及实验的精度还需要进一步研究。

2、系统辨识的方法有很多, 最小二乘法是其中最基本、应用最广泛的一种系统辨识方法。最小二乘法可用于动态系统,也可以用于静态系统;可用于线性系统,也可以用于非线性系统;可用于离线估计,也可以用于在线估计,这种方法不仅在今天,而且在未来都会有非常广泛的应用前景。

参考文献

[1] 李言俊,张科. 系统辨理论及应用[M]. 北京:国防工业出版社,2006

[2] 刘叔军,盖晓华,樊京,崔世林等.MA TLAB7.0控制系统应用与实例[M]. 北京:机械工业出版社,2005

[3] 石贤良,吴成富. 基于MTALAB 的最小二乘法参数辨识与仿真[J]. 微机处理,2005:44-46

[4] 严晓久,周爱国,林建平,吴晔. 基于辅助变量法的系统参数辨识[J]. 机床与液压,2006:180-184

[5] 王秀峰,卢桂章. 系统建模与辨识[M]. 北京:电子工业出版社,2004

Parametric System Identification Based on Least-squares

Method

Wu Ling Hong,Xiong Xiao Yan,Zhang Tao

Tai Yuan University of Technology, Department of Mechatronical Engineering , Tai yuan(030024)

Abstract

As one of the main branches of the automatic control science, systemidentification has been applied in many fields. In the past, system identification was mostly applied in linear system modeling, and the flawless theory for linear system had come into being for many years. However, with the development of society and science, nonlinear system is more and more important. The conflict between control and model is getting more and more evident. This fact results in the development of nonlinear system identification theory. The fundamental principle of least-squares method was introduced in this paper, and amodeling of cantilever beam experiment was given to show how to implement system identification based on Least-squares Method in Matlab. The results of modeling indicate that system identification with least-squares method is more feasible and accurate.

Keywords: System identification; Parametric identification; ARX; Least square method; Matlab

作者简介:吴令红,男,1981年出生,硕士研究生,主要研究方向是机电系统动态测试与 故障诊断


相关内容

  • 非线性最小二乘辨识
  • 电力系统等值参数辨识的方法研究 4.1 研究等值参数辨识的意义 目前PSS 的参数设计主要还是依赖于单机无穷大系统,但在实际系统中无穷大系统的参数难以得知,可以近似发电机升压变的高压侧或出线远端,但会带来一定误差.本项目提出了一种根据发电机机端电压和电流量的变化情况,采用非线性最小二乘方法实时辨识等 ...

  • 基于最小二乘算法的RBF
  • 基于正交最小二乘算法的RBF 神经网络 一.实验环境 硬件平台Win10 64位操作系统,1.5GHZ ,4G 内存,软件版本MA TLAB2015b 二.实验数据 训练数据集: [***********]415 F 00.00740.00430.5520.54520.55020.24620.253 ...

  • 系统辨识之最小二乘
  • 系统辨识之最小二乘 周耀龙 144173248 摘 要 最小二乘法是是一种经典的数据处理方法.在系统辨识领域中,最小二乘法是一种得到广泛应用的估计方 法, 可用于动态系统.静态系统.线性系统.非线性系统.在随机的环境下,利用最小二乘法时,并不要求观测数据提供其概率统计方面的信息,而其估计结果,却有相 ...

  • 系统辨识大作业
  • 一. 问题描述 考虑仿真对象: z (k ) +0.9z (k -1) +0.15z (k -2) +0.02z (k -3) =0.7u (k -1) -0.15u (k -2) +e (k ) e(k ) +1.0e(k -1) +0.41e(k -2) =λv (k ), v ~N (0,1) ...

  • 一阶惯性环节的模糊PID自整定控制算法的设计
  • 第15卷第2期 高等职业教育-天津职业大学学报 Vol.15,No.2 一阶惯性环节的模糊PID自整定控制算法的设计 董春霞 (天津职业大学,天津 300402) 摘 要:提出一种新型的智能控制算法--模糊自整定PID控制算法,并进行单纯PID控制.模糊控制算法与这种新型控制算法的仿真比较.这一控制 ...

  • 系统参数辨识+matlab+实现
  • 4. 设某物理量Y 与X 满足关系式Y=aX2+bX+c,实验获得一批数据如下表,试辨识模型参数a ,b 和c .(50分) 报告要求:要有问题描述.参数估计原理.程序流程图.程序清单,最后给出结果及分析. (1)问题描述: 由题意知,这是一个已知模型为Y=aX2+bX+c,给出了10组实验输入输出 ...

  • 间歇式反应釜的温度预测控制
  • 第29卷第6期2007年12月 沈 阳 工 业 大 学 学 报Journal of Shenyang University of Technology Vol 29No 6Dec. 2007 文章编号:1000-1646(2007)06-0716-05 间歇式反应釜的温度预测控制 丁惜瀛, 崔紫微, ...

  • 人口年龄结构模型建模和预测
  • 上海交通大学 硕士学位论文 人口年龄结构模型建模和预测 姓名:虞丽萍 申请学位级别:硕士 专业:控制理论与控制工程 指导教师:袁景淇 20070101 人口年龄结构模型建模和预测 摘 要 人口是一个动态系统.人口变化对未来经济.社会的发展有着直接的影响.人口年龄结构是人口研究的重要指标之一,人口年龄 ...

  • 201404703028系统辨识
  • 研 究 生 课 程 实 验 封 面 课程名称: 报告题目: 学生学号: 学生姓名: 任课教师: 学位类别: 1 系统辨识部分 1.1 题目 直流电动机的辨识与自适应系统设计与仿真 1.1.1 工作原理 图1是一台最简单的直流电动机的模型,N 和S 是一对固定的磁极(一般是电磁铁,也可以是永久磁铁) ...