基于SVM的傳感器非線性特性校正新方法
摘 要：介紹了一種基于支持向量機的解決傳感器系統(tǒng)非線性特性問題的新方法。支持向量機是Vapnik教授提出的基于統(tǒng)計學習理論的新一代機器學習技術(shù)，它有效地解決了小樣本學習問題，因此該方法對樣本數(shù)量沒有特殊的要求。實驗證明該方法有效，同時研究表明該方法也能用于其他系統(tǒng)的非線性校正。
關(guān)鍵詞：非線性校正；神經(jīng)網(wǎng)絡(luò)；支持向量機；擬合方法；傳感器
Nonlinear rectification of sensors based on SVM
WU Dehui1,WANG Xiaohong1,ZHU Chenghui2
(1.Jiujiang College,Jiangxi Jiujiang 332005,China;
2.Hefei University of Technology,Anhui Hefei 230009,China)
Abstract：The paper presents a new bbbbbb of solving the problem of the nonlinearity rectification in a sensor system by using a support vector machine(SVM)that is a new machine with learning algorithm based on a statistic learning theory created by prof.Vapnik.The SVM can solve smallsample learning problems with no special demand for data number.The experimental result shows that this bbbbbb is effective.The rebbbbbb indicates that the bbbbbb can be also used to realize the nonlinearity rectification in other similar systems.
Key words：nonlinear rectification;neural network;SVM;fitting bbbbbb;sensor
0前言
現(xiàn)代控制系統(tǒng)對傳感器的準確度、穩(wěn)定性和工作條件等方面提出了很高的要求。然而，從嚴格意義上來說，目前絕大多數(shù)傳感器特性都不理想，其輸入輸出特性大多為非線性關(guān)系。為此，人們通過一些方法來進行非線性補償和修正。特別是近年來，隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展，有不少學者提出了基于神經(jīng)網(wǎng)絡(luò)進行非線性傳感特性校正的方法。這些方法一般是用一個多層的前饋神經(jīng)網(wǎng)絡(luò)去映射傳感器特性曲線的反函數(shù)作為校正環(huán)節(jié)，算法相對簡單，實現(xiàn)容易。
但是通過分析神經(jīng)網(wǎng)絡(luò)的基本工作原理，筆者認為該方法依然存在一些不足［1、6］：1)在訓練過程中神經(jīng)網(wǎng)絡(luò)極容易陷入局部最小，而不能得到全局最?。?)神經(jīng)網(wǎng)絡(luò)過分依賴訓練數(shù)據(jù)的質(zhì)量和數(shù)量，但大多數(shù)情況下樣本數(shù)據(jù)十分有限，由于噪聲影響，存在數(shù)據(jù)不一致情況，對神經(jīng)網(wǎng)絡(luò)的訓練結(jié)果影響較大；3)輸入數(shù)據(jù)往往是高維的，而訓練結(jié)果僅是輸入空間的稀疏分布，所以大量的高維數(shù)據(jù)必然會大大增加算法的訓練時間。
支持向量機SVM［4，5］(Support Vector Machine)是基于統(tǒng)計學習理論的一種新的學習方法，最早由Vapnik教授及其合作者于上世紀90年代中期提出。由于其優(yōu)良特性，最近引起了許多研究者的興趣。支持向量機主要用于模式識別，目前在該方面成功的范例較多；與模式識別相比，支持向量機用于函數(shù)擬合的成功應(yīng)用較少。和神經(jīng)網(wǎng)絡(luò)相比，支持向量機是基于統(tǒng)計學習理論的小樣本學習方法，采用結(jié)構(gòu)風險最小化原則，具有很好的泛化性能；而神經(jīng)網(wǎng)絡(luò)是基于大樣本的學習方法，采用經(jīng)驗風險最小化原則。
將支持向量機函數(shù)擬合技術(shù)應(yīng)用于傳感器非線性特性校正的研究剛起步，國內(nèi)尚無先例。如何在傳感器非線性特性校正領(lǐng)域充分發(fā)揮支持向量機函數(shù)擬合的技術(shù)優(yōu)勢，解決神經(jīng)網(wǎng)絡(luò)方法中的缺陷是一個值得研究的問題。
1支持向量機擬合基本理論
1.1線性函數(shù)擬合問題
與支持向量機的研究最初是針對模式識別中的線性可分問題［5］相似，先分析線性樣本點的線性函數(shù)擬合問題，擬合函數(shù)以線性函數(shù)的特性出現(xiàn)，可用形式＝ωTx＋b表示。假設(shè)所有訓練數(shù)據(jù)｛xi，yi｝能在精度ε下無誤差地用線性函數(shù)擬合，即
統(tǒng)計學理論指出，在這一優(yōu)化目標是最小化ωTω／2時可取得較好的推廣能力?？紤]到實際應(yīng)用中允許擬合誤差的情況，則支持向量機優(yōu)化目標可以表示為［3］
式中c為平衡因子，ζ、ζ*為懲罰因子，懲罰函數(shù)L(·)通常采用如下的離散定義形式(如圖1所示)
n，進一步采用對偶優(yōu)化方法，最大化目標函數(shù)
小部分不為0，它們對應(yīng)在不靈敏區(qū)邊界上或外
式中，偏移量b可由支持向量(xi，yi)及精度ε求得，SVs表示支持向量集。
1.2非線性函數(shù)擬合問題
對于非線性函數(shù)擬合基本思想是：可以通過非線性變換x→φ(x)將原擬合問題映射到某個高維特征空間中，然后在該空間中進行線性擬合，即
在支持向量機中，引入核函數(shù)(Kernel function)來簡化非線性逼近。在高維特征空間中，線性問題中的內(nèi)積運算可用核函數(shù)來代替。核函數(shù)滿足k(x,x′)＝〈φ(x),φ(x′)〉，這樣目標函數(shù)式(4)就變成了式(6)所示的形式：
2傳感器非線性誤差校正原理［6］
大多數(shù)傳感系統(tǒng)都可用y＝f(x)，x∈(ζα，ζb)表示，其中y表示傳感系統(tǒng)的輸出，x表示傳感系統(tǒng)的輸入，ζα，ζb為輸入信號的范圍。y信號可經(jīng)過電子設(shè)備進行測量，目的是根據(jù)測得的y信號求得未知的變量x，即表示為x＝y(tǒng)－1(y)。在實際應(yīng)用過程中，絕大多數(shù)傳感器傳遞函數(shù)為非線性函數(shù)。
為了消除或補償傳感系統(tǒng)的非線性特性，可使其輸出y通過一個補償環(huán)節(jié)，如圖2所示。該模型的特性函數(shù)為u＝g(y)，其中u為非線性補償后的輸出，它與輸入信號x呈線性關(guān)系。很明顯函數(shù)g(*)也是一個非線性函數(shù)，并使得補償后的傳感器具有理想特性。在實際應(yīng)用中，非線性補償函數(shù)g(*)的表達式難以準確求出，但可以通過建模來實現(xiàn)，補償模型的建立就成了校正傳感器非線性特性的關(guān)鍵。
筆者根據(jù)支持向量機的函數(shù)擬合能力，提出了基于支持向量機的傳感器非線性特性校正方法。
3仿真與應(yīng)用研究
該文使用支持向量機對兩個非線性傳感系統(tǒng)的非線性誤差進行校正，取得了較滿意的效果。
3.1一維傳感器非線性校正
用實驗法得出一組訓練樣本(見表1)，在表1中x表示傳感系統(tǒng)的輸入量，其值由精度較高的設(shè)備產(chǎn)生，在這里可作為標準量，y值為傳感系統(tǒng)的輸出量。
設(shè)計支持向量機對該傳感系統(tǒng)進行非線性校正，傳感器輸出信號y經(jīng)過該SVM的處理相當于進行了一個逆?zhèn)鞲心Ｐ停С窒蛄繖C的輸出u作為非線性補償后的輸出，它與輸入信號x的誤差應(yīng)更小。
由此可得到一組訓練樣本(yi，xi)，其中yi表示支持向量機的輸入，xi為擬合的目標。
設(shè)計支持向量機時，精度ε＝0.02，核函數(shù)選用多項式k(xi，x)＝(xi·x＋1)6，傳感器非線性校正曲線如圖3所示，由此可見用該方法提高了傳感器的精度。
3.2二維圖像傳感器非線性校正
有二維圖像傳感器，其校正前的輸出如圖4a所示，而實際像點應(yīng)在柵格線的交叉點。從圖4a不難看出，該傳感器存在著嚴重的非線性，且這種非線性不能以解析式表達。
如式(1)所示，文中介紹的支持向量機每個學習樣本的輸入數(shù)據(jù)xi是一個多維向量，樣本輸出yi是一個數(shù)而非向量。待校正的二維圖像傳感器校正樣本｛(xa，xb)，(ya，yb)｝是二維輸入二維輸出的數(shù)據(jù)，因此，不能直接用支持向量機進行校正。
筆者設(shè)計兩個SVM來解決該問題，一個SVMa用于校正a方向上的誤差，其學習樣本為｛(xa，xb)，ya｝；另一個SVMb用于校正b方向上的誤差，其學習樣本為｛（xa，xb)，yb｝。兩個SVM設(shè)ε＝0.01，核函數(shù)均選用多項式k(xi，x)＝(xi·x＋1)4。
用SVMa和SVMb分別校正樣本數(shù)據(jù)在a和b方向非線性誤差，校正結(jié)果如圖4b所示。
比較圖4b與圖4a，校正后的二維圖像傳感器的非線性已得到校正，精度令人滿意。
4結(jié)束語
將SVM技術(shù)應(yīng)用于傳感器非線性特性校正的研究剛起步，國內(nèi)尚無此 類文獻。畢竟支持向量機理論和應(yīng)用還是一個較新的領(lǐng)域，仍處于理論和實驗研究 階段。筆者認為支持向量機今后的研究應(yīng)該集中在以下幾個方面：①核函數(shù)的構(gòu)造與選擇； ②大樣本條件下SVM算法研究；③懲罰函數(shù)的改進。
參考文獻
［1］馮瑞，張浩然，邵惠鶴.基于SVM的軟測量建模［J］.信息與控 制，2002，31(6)：567－571．
［2］馬云潛，張學工.支持向量機函數(shù)擬合在分形插值中的應(yīng)用［J］.清華大學 學報(自然科學版)，2000，40(3)：76－78．
［3］李凱，郭子雪.基于SVM的函數(shù)模擬［J］.河北大學學報(自然科學版)，200 1，21(1)：7－8．
［4］Joachims T.Text categorization with support vector machine:Learnin g with many relevant feature［J］.Proceedings of the 10th.European Confere nceon Machine Learning.Berlin Springer,1998,137－142.
［5］Vapnik V.The Nature of Statistical Learning Theory［M］.NewYerk,Sp ringer 1995．
［6］汪曉東.RBF神經(jīng)網(wǎng)絡(luò)在傳感器校正中的應(yīng)用［J］.儀器儀表學報，2003，2 4(1)：96－98.
關(guān)鍵詞：非線性校正；神經(jīng)網(wǎng)絡(luò)；支持向量機；擬合方法；傳感器
Nonlinear rectification of sensors based on SVM
WU Dehui1,WANG Xiaohong1,ZHU Chenghui2
(1.Jiujiang College,Jiangxi Jiujiang 332005,China;
2.Hefei University of Technology,Anhui Hefei 230009,China)
Abstract：The paper presents a new bbbbbb of solving the problem of the nonlinearity rectification in a sensor system by using a support vector machine(SVM)that is a new machine with learning algorithm based on a statistic learning theory created by prof.Vapnik.The SVM can solve smallsample learning problems with no special demand for data number.The experimental result shows that this bbbbbb is effective.The rebbbbbb indicates that the bbbbbb can be also used to realize the nonlinearity rectification in other similar systems.
Key words：nonlinear rectification;neural network;SVM;fitting bbbbbb;sensor
0前言
現(xiàn)代控制系統(tǒng)對傳感器的準確度、穩(wěn)定性和工作條件等方面提出了很高的要求。然而，從嚴格意義上來說，目前絕大多數(shù)傳感器特性都不理想，其輸入輸出特性大多為非線性關(guān)系。為此，人們通過一些方法來進行非線性補償和修正。特別是近年來，隨著神經(jīng)網(wǎng)絡(luò)的發(fā)展，有不少學者提出了基于神經(jīng)網(wǎng)絡(luò)進行非線性傳感特性校正的方法。這些方法一般是用一個多層的前饋神經(jīng)網(wǎng)絡(luò)去映射傳感器特性曲線的反函數(shù)作為校正環(huán)節(jié)，算法相對簡單，實現(xiàn)容易。
但是通過分析神經(jīng)網(wǎng)絡(luò)的基本工作原理，筆者認為該方法依然存在一些不足［1、6］：1)在訓練過程中神經(jīng)網(wǎng)絡(luò)極容易陷入局部最小，而不能得到全局最?。?)神經(jīng)網(wǎng)絡(luò)過分依賴訓練數(shù)據(jù)的質(zhì)量和數(shù)量，但大多數(shù)情況下樣本數(shù)據(jù)十分有限，由于噪聲影響，存在數(shù)據(jù)不一致情況，對神經(jīng)網(wǎng)絡(luò)的訓練結(jié)果影響較大；3)輸入數(shù)據(jù)往往是高維的，而訓練結(jié)果僅是輸入空間的稀疏分布，所以大量的高維數(shù)據(jù)必然會大大增加算法的訓練時間。
支持向量機SVM［4，5］(Support Vector Machine)是基于統(tǒng)計學習理論的一種新的學習方法，最早由Vapnik教授及其合作者于上世紀90年代中期提出。由于其優(yōu)良特性，最近引起了許多研究者的興趣。支持向量機主要用于模式識別，目前在該方面成功的范例較多；與模式識別相比，支持向量機用于函數(shù)擬合的成功應(yīng)用較少。和神經(jīng)網(wǎng)絡(luò)相比，支持向量機是基于統(tǒng)計學習理論的小樣本學習方法，采用結(jié)構(gòu)風險最小化原則，具有很好的泛化性能；而神經(jīng)網(wǎng)絡(luò)是基于大樣本的學習方法，采用經(jīng)驗風險最小化原則。
將支持向量機函數(shù)擬合技術(shù)應(yīng)用于傳感器非線性特性校正的研究剛起步，國內(nèi)尚無先例。如何在傳感器非線性特性校正領(lǐng)域充分發(fā)揮支持向量機函數(shù)擬合的技術(shù)優(yōu)勢，解決神經(jīng)網(wǎng)絡(luò)方法中的缺陷是一個值得研究的問題。
1支持向量機擬合基本理論
1.1線性函數(shù)擬合問題
與支持向量機的研究最初是針對模式識別中的線性可分問題［5］相似，先分析線性樣本點的線性函數(shù)擬合問題，擬合函數(shù)以線性函數(shù)的特性出現(xiàn)，可用形式＝ωTx＋b表示。假設(shè)所有訓練數(shù)據(jù)｛xi，yi｝能在精度ε下無誤差地用線性函數(shù)擬合，即
統(tǒng)計學理論指出，在這一優(yōu)化目標是最小化ωTω／2時可取得較好的推廣能力?？紤]到實際應(yīng)用中允許擬合誤差的情況，則支持向量機優(yōu)化目標可以表示為［3］
式中c為平衡因子，ζ、ζ*為懲罰因子，懲罰函數(shù)L(·)通常采用如下的離散定義形式(如圖1所示)
n，進一步采用對偶優(yōu)化方法，最大化目標函數(shù)
小部分不為0，它們對應(yīng)在不靈敏區(qū)邊界上或外
式中，偏移量b可由支持向量(xi，yi)及精度ε求得，SVs表示支持向量集。
1.2非線性函數(shù)擬合問題
對于非線性函數(shù)擬合基本思想是：可以通過非線性變換x→φ(x)將原擬合問題映射到某個高維特征空間中，然后在該空間中進行線性擬合，即
在支持向量機中，引入核函數(shù)(Kernel function)來簡化非線性逼近。在高維特征空間中，線性問題中的內(nèi)積運算可用核函數(shù)來代替。核函數(shù)滿足k(x,x′)＝〈φ(x),φ(x′)〉，這樣目標函數(shù)式(4)就變成了式(6)所示的形式：
2傳感器非線性誤差校正原理［6］
大多數(shù)傳感系統(tǒng)都可用y＝f(x)，x∈(ζα，ζb)表示，其中y表示傳感系統(tǒng)的輸出，x表示傳感系統(tǒng)的輸入，ζα，ζb為輸入信號的范圍。y信號可經(jīng)過電子設(shè)備進行測量，目的是根據(jù)測得的y信號求得未知的變量x，即表示為x＝y(tǒng)－1(y)。在實際應(yīng)用過程中，絕大多數(shù)傳感器傳遞函數(shù)為非線性函數(shù)。
為了消除或補償傳感系統(tǒng)的非線性特性，可使其輸出y通過一個補償環(huán)節(jié)，如圖2所示。該模型的特性函數(shù)為u＝g(y)，其中u為非線性補償后的輸出，它與輸入信號x呈線性關(guān)系。很明顯函數(shù)g(*)也是一個非線性函數(shù)，并使得補償后的傳感器具有理想特性。在實際應(yīng)用中，非線性補償函數(shù)g(*)的表達式難以準確求出，但可以通過建模來實現(xiàn)，補償模型的建立就成了校正傳感器非線性特性的關(guān)鍵。
筆者根據(jù)支持向量機的函數(shù)擬合能力，提出了基于支持向量機的傳感器非線性特性校正方法。
3仿真與應(yīng)用研究
該文使用支持向量機對兩個非線性傳感系統(tǒng)的非線性誤差進行校正，取得了較滿意的效果。
3.1一維傳感器非線性校正
用實驗法得出一組訓練樣本(見表1)，在表1中x表示傳感系統(tǒng)的輸入量，其值由精度較高的設(shè)備產(chǎn)生，在這里可作為標準量，y值為傳感系統(tǒng)的輸出量。
設(shè)計支持向量機對該傳感系統(tǒng)進行非線性校正，傳感器輸出信號y經(jīng)過該SVM的處理相當于進行了一個逆?zhèn)鞲心Ｐ停С窒蛄繖C的輸出u作為非線性補償后的輸出，它與輸入信號x的誤差應(yīng)更小。
由此可得到一組訓練樣本(yi，xi)，其中yi表示支持向量機的輸入，xi為擬合的目標。
設(shè)計支持向量機時，精度ε＝0.02，核函數(shù)選用多項式k(xi，x)＝(xi·x＋1)6，傳感器非線性校正曲線如圖3所示，由此可見用該方法提高了傳感器的精度。
3.2二維圖像傳感器非線性校正
有二維圖像傳感器，其校正前的輸出如圖4a所示，而實際像點應(yīng)在柵格線的交叉點。從圖4a不難看出，該傳感器存在著嚴重的非線性，且這種非線性不能以解析式表達。
如式(1)所示，文中介紹的支持向量機每個學習樣本的輸入數(shù)據(jù)xi是一個多維向量，樣本輸出yi是一個數(shù)而非向量。待校正的二維圖像傳感器校正樣本｛(xa，xb)，(ya，yb)｝是二維輸入二維輸出的數(shù)據(jù)，因此，不能直接用支持向量機進行校正。
筆者設(shè)計兩個SVM來解決該問題，一個SVMa用于校正a方向上的誤差，其學習樣本為｛(xa，xb)，ya｝；另一個SVMb用于校正b方向上的誤差，其學習樣本為｛（xa，xb)，yb｝。兩個SVM設(shè)ε＝0.01，核函數(shù)均選用多項式k(xi，x)＝(xi·x＋1)4。
用SVMa和SVMb分別校正樣本數(shù)據(jù)在a和b方向非線性誤差，校正結(jié)果如圖4b所示。
比較圖4b與圖4a，校正后的二維圖像傳感器的非線性已得到校正，精度令人滿意。
4結(jié)束語
將SVM技術(shù)應(yīng)用于傳感器非線性特性校正的研究剛起步，國內(nèi)尚無此 類文獻。畢竟支持向量機理論和應(yīng)用還是一個較新的領(lǐng)域，仍處于理論和實驗研究 階段。筆者認為支持向量機今后的研究應(yīng)該集中在以下幾個方面：①核函數(shù)的構(gòu)造與選擇； ②大樣本條件下SVM算法研究；③懲罰函數(shù)的改進。
參考文獻
［1］馮瑞，張浩然，邵惠鶴.基于SVM的軟測量建模［J］.信息與控 制，2002，31(6)：567－571．
［2］馬云潛，張學工.支持向量機函數(shù)擬合在分形插值中的應(yīng)用［J］.清華大學 學報(自然科學版)，2000，40(3)：76－78．
［3］李凱，郭子雪.基于SVM的函數(shù)模擬［J］.河北大學學報(自然科學版)，200 1，21(1)：7－8．
［4］Joachims T.Text categorization with support vector machine:Learnin g with many relevant feature［J］.Proceedings of the 10th.European Confere nceon Machine Learning.Berlin Springer,1998,137－142.
［5］Vapnik V.The Nature of Statistical Learning Theory［M］.NewYerk,Sp ringer 1995．
［6］汪曉東.RBF神經(jīng)網(wǎng)絡(luò)在傳感器校正中的應(yīng)用［J］.儀器儀表學報，2003，2 4(1)：96－98.
本文標簽：基于SVM的傳感器非線性特性校正新方法
* 由于無法獲得聯(lián)系方式等原因，本網(wǎng)使用的文字及圖片的作品報酬未能及時支付，在此深表歉意，請《基于SVM的傳感器非線性特性校正新方法》相關(guān)權(quán)利人與機電之家網(wǎng)取得聯(lián)系。
關(guān)于“基于SVM的傳感器非線性特性校正新方法”的更多資訊
：鞏經(jīng)理
：13915946763
：南京塞姆泵業(yè)有限公司
VIP公司推薦
|
|
|
|
|
|
|
|