文章目錄

• 1. 什么是徑向基函數(shù)
• • 1. 高斯徑向基函數(shù)
  • 2. 反演S型函數(shù)
  • 3. 擬多二次函數(shù)
• 2. 正則化徑向基神經(jīng)網(wǎng)絡(luò)
• 3. 基于RBF網(wǎng)絡(luò)逼近的自適應(yīng)控制
• • 1. 問題描述
  • 2. RBF 網(wǎng)絡(luò)原理
  • 3. 控制算法設(shè)計(jì)與分析
  • 4. 仿真實(shí)例
• 4. RBF神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制matlab仿真_RBF神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用簡(jiǎn)介
• • 1. 采用梯度下降法計(jì)算權(quán)值
  • 2. 依據(jù)穩(wěn)定性理論設(shè)計(jì)權(quán)值
• 5. RBF神經(jīng)網(wǎng)絡(luò)在控制中的應(yīng)用
• 6. 嚴(yán)格反饋結(jié)構(gòu)
• 7. 反推控制 Backstepping

---

1. 什么是徑向基函數(shù)

理解RBF網(wǎng)絡(luò)的工作原理可從兩種不同的觀點(diǎn)出發(fā)：

當(dāng)用RBF網(wǎng)絡(luò)解決非線性映射問題時(shí)，用函數(shù)逼近與內(nèi)插的觀點(diǎn)來解釋，對(duì)于其中存在的不適定(illposed）問題，可用正則化理論來解決；

當(dāng)用RBF網(wǎng)絡(luò)解決復(fù)雜的模式分類任務(wù)時(shí)，用模式可分性觀點(diǎn)來理解比較方便，其潛在合理性基于Cover關(guān)于模式可分的定理。

下面闡述基于函數(shù)逼近與內(nèi)插觀點(diǎn)的工作原理。

1963年Davis提出高維空間的多變量插值理論。徑向基函數(shù)技術(shù)則是20世紀(jì)80年代后期，Powell在解決“多變量有限點(diǎn)嚴(yán)格（精確）插值問題”時(shí)引人的，目前徑向基函數(shù)已成為數(shù)值分析研究中的一個(gè)重要領(lǐng)域。

考慮一個(gè)由N維輸人空間到一維輸出空間的映射。設(shè) $N$ 維空間有 $p$ 個(gè)輸人向量平，$p=1，2，....，P$，它們?cè)谳敵隹臻g相應(yīng)的目標(biāo)值為 $d^p,p=1,2,...,P$，$P$ 對(duì)輸人一輸出樣本構(gòu)成了訓(xùn)練樣本集。插值的目的是尋找一個(gè)非線性映射函數(shù) $F(X)$，使其滿足下述插值條件：

$$F(X)=d^p,p=1,2,?,P\text{\hspace{1em}(1)}$$

式子中，函數(shù) $F$ 描述了一個(gè)插值曲面，所謂嚴(yán)格插值或精確插值，是一種完全內(nèi)插，即該插值曲面必須通過所有訓(xùn)練數(shù)據(jù)點(diǎn)。

那么到底什么是插值，在這里簡(jiǎn)單的解釋一下，就是通過訓(xùn)練集數(shù)據(jù)，我找到一個(gè)曲面，這個(gè)曲面可以完全覆蓋這些訓(xùn)練點(diǎn)，那么找到這個(gè)曲面后就可以通過這個(gè)曲面取尋找其他的值了，下面畫個(gè)圖給大家看看：

就是我通過一些數(shù)據(jù)樣本點(diǎn) ，每個(gè)樣本都有目標(biāo)值，通映射高維空間去找到一個(gè)曲面 $F(x)$,這個(gè)曲面需要經(jīng)過所有的數(shù)據(jù)，一旦這個(gè)曲面確定以后，我就可以通過這個(gè)曲面去生成更多的數(shù)據(jù)目標(biāo)值，就是這個(gè)意思了，好，我們繼續(xù)往下：

采用徑向基函數(shù)技術(shù)解決插值問題的方法是，選擇 $P$ 個(gè)基函數(shù)個(gè)訓(xùn)練數(shù)據(jù)，各基函數(shù)的形式為：

$$\phi (\Vert x?x^p\Vert ),p=1,2,?,P\text{\hspace{1em}(2)}$$

式中，基函數(shù) $\phi$ 為非線性函數(shù)，訓(xùn)練數(shù)據(jù)點(diǎn) $x^P$ 是 $\phi$ 的中心。

基函數(shù)以輸入空間的點(diǎn) $x$ 與中心 $x^P$ 的距離作為函數(shù)的自變量。由于距離是徑向同性的，故函數(shù)被稱為徑向基函數(shù)。

基于徑向基函數(shù)技術(shù)的插值函數(shù)定義為基函數(shù)的線性組合：
$$F(x)=\sum _{p=1}^P{w}_p\phi (\Vert x?x^P\Vert )\text{\hspace{1em}(3)}$$

在這里解釋一下 $\Vert x?x^P\Vert$，這是范數(shù)。對(duì)平面幾何的向量來說就是模，然而一旦維度很高就不知道是什么東西了，可能是衡量距離的一個(gè)東西，那么這個(gè)代表什么意思呢？簡(jiǎn)單來說就是一個(gè)圓而已，在二維平面，$x^P$ 就是圓心，$x$ 就是數(shù)據(jù)了，這個(gè)數(shù)據(jù)距離圓心的距離，因?yàn)楹蛿?shù)據(jù)的位置和大小無關(guān)，只和到圓心的半徑有關(guān)，況且同一半徑圓上的點(diǎn)到圓心是相等的因此取名為徑向，代入映射函數(shù)就是徑向基函數(shù)了，我們看看徑向基函數(shù)有什么特點(diǎn)：

將 (1) 式的插值條件代入上式，得到 $P$ 個(gè)關(guān)于未知系數(shù) $w^p,p=1,2,?,P$ 的線性方程組：
$$\begin{array}{r}\sum _{p=1}^P{w}_p\phi (\Vert x^1?x^p\Vert )=d^1\\ \sum _{p=1}^P{w}_p\phi (\Vert x^2?x^p\Vert )=d^2\\ ?\\ \sum _{p=1}^P{w}_p\phi (\Vert x^P?x^p\Vert )=d^P\end{array}$$

令 ${\phi }_{ip}=\phi (\Vert x^i?x^p\Vert ),i=1,2,?,P,p=1,2,?,P$，則上述方程組可改寫為：
$$?\begin{array}{cccc}{\phi }_{11}& {\phi }_{12}& ?& {\phi }_{1P}\\ {\phi }_{11}& {\phi }_{12}& ?& {\phi }_{1P}\\ ?& ?& ?& ?\\ {\phi }_{11}& {\phi }_{12}& ?& {\phi }_{1P}\end{array}??\begin{array}{c}{w}_1\\ w_2\\ ?\\ w_P\end{array}?=?\begin{array}{c}{d}_1\\ d_2\\ ?\\ d_P\end{array}?\text{\hspace{1em}(5)}$$

令 $\Phi$ 表示元素 ${\phi }_{ip}$ 的 $P\times P$ 階矩陣，$W$ 和 $d$ 分別表示系數(shù)向量和期望輸出向量，(5) 式還可以寫成下面的向量形式：

$$\Phi W=d\text{\hspace{1em}(6)}$$

式中，$\Phi$ 稱為插值矩陣，若 $\Phi$ 為可逆矩陣，就可以從 (6) 式中解出系數(shù)向量 $W$，即：
$$W={\Phi }^{?1}d\text{\hspace{1em}(7)}$$

通過上面大家可以看到為了使所有數(shù)據(jù)都在曲面還需要系數(shù)調(diào)節(jié)，此時(shí)求出系數(shù)向量就求出了整個(gè)的映射函數(shù)了，下面看幾個(gè)特殊的映射函數(shù)：

1. 高斯徑向基函數(shù)

$$\phi (r)=\exp (?\frac{r^2}{2{\delta }^2})$$

橫軸就是到中心的距離，用半徑 $r$ 表示。如上圖，我們發(fā)現(xiàn)當(dāng)距離等于 0 時(shí)，徑向基函數(shù)等于 1，距離越遠(yuǎn)衰減越快，其中高斯徑向基的參數(shù) $\delta$ 在支持向量機(jī)中被稱為到達(dá)率或者說函數(shù)跌落到零的速度。

紅色 $\delta =1$，藍(lán)色 $\delta =5$，綠色 $\delta =0.5$，我們發(fā)現(xiàn)到達(dá)率越小其越窄。

---

2. 反演S型函數(shù)

---

3. 擬多二次函數(shù)

---

2. 正則化徑向基神經(jīng)網(wǎng)絡(luò)

正則化RBF網(wǎng)絡(luò)的結(jié)構(gòu)如下圖所示。其特點(diǎn)是：網(wǎng)絡(luò)具有 $N$ 個(gè)輸人節(jié)點(diǎn)，$P$ 個(gè)隱節(jié)點(diǎn)，$i$ 個(gè)輸出節(jié)點(diǎn)；網(wǎng)絡(luò)的隱節(jié)點(diǎn)數(shù)等于輸人樣本數(shù)，隱節(jié)點(diǎn)的激活函數(shù)常高斯徑向基函數(shù)，并將所有輸人樣本設(shè)為徑向基函數(shù)的中心，各徑向基函數(shù)取統(tǒng)一的擴(kuò)展常數(shù)。

設(shè)輸入層的任意節(jié)點(diǎn)你用 $i$ 表示，隱節(jié)點(diǎn)任意節(jié)點(diǎn)用 $j$ 表示，輸出層的任一節(jié)點(diǎn)用 $k$ 表示。對(duì)各層的數(shù)學(xué)描述如下：

輸入向量：
$$X=(x_1,x_2,?,x_N{)}^T$$

任一隱節(jié)點(diǎn)的激活函數(shù)：
$${\phi }_j(X),(j=1,2,?,P)$$

稱為基函數(shù)，一般使用高斯函數(shù)。

輸出權(quán)矩陣：
$$W$$

其中，$w_{ik},(j=1,2,?,P,k=1,2,?,l)$ 為隱層的第 $j$ 個(gè)節(jié)點(diǎn)與輸出層第 $k$ 個(gè)節(jié)點(diǎn)間的突觸權(quán)值。

輸出向量：
$$Y=(y_1,y_2,?,y_l)$$

輸出層神經(jīng)元采用線性激活函數(shù)。

當(dāng)輸入訓(xùn)練集中的某個(gè)樣本 $x^p$ 時(shí)，對(duì)應(yīng)的期望輸出 $d^p$ 就是教師信號(hào)。為了確定網(wǎng)絡(luò)隱層到輸出層之間的 $P$ 個(gè)權(quán)值，需要將訓(xùn)練集中的樣本逐一輸入一遍，從而得到式 (4) 中的方程組。網(wǎng)絡(luò)的權(quán)值確定后，對(duì)訓(xùn)練集的樣本實(shí)現(xiàn)了完全內(nèi)插，即對(duì)所有樣本誤差為 0。而對(duì)非訓(xùn)練集的輸入模式，網(wǎng)絡(luò)的輸出值相當(dāng)于函數(shù)的內(nèi)插，因此徑向基函數(shù)網(wǎng)絡(luò)可用作數(shù)逼近。

正則化RBF網(wǎng)絡(luò)具有以下3個(gè)特點(diǎn)：

正則化網(wǎng)絡(luò)是一種通用逼近器，只要有足夠的節(jié)點(diǎn)，它可以以任意精度逼近緊集上的任意多元連續(xù)函數(shù)；

具有最佳逼近特性，即任給一個(gè)未知的非線性函數(shù) $f$，總可以找到一組權(quán)值使得正則化網(wǎng)絡(luò)對(duì)于 $f$ 的逼近優(yōu)于所有其可能的選擇；

正則化網(wǎng)絡(luò)得到的解是最佳的，所謂“最佳”體現(xiàn)在同時(shí)滿足對(duì)樣本的逼近誤差和逼近曲線的平滑性。

Ref: 機(jī)器學(xué)習(xí)–支持向量機(jī)（六）徑向基核函數(shù)（RBF）詳解

Ref: 深度學(xué)習(xí) — 徑向基神經(jīng)網(wǎng)絡(luò)RBF詳解

---

3. 基于RBF網(wǎng)絡(luò)逼近的自適應(yīng)控制

1. 問題描述

簡(jiǎn)單的運(yùn)動(dòng)系統(tǒng)動(dòng)力學(xué)方程為：
$$\ddot{\theta }=f(\theta ,\dot{\theta })+u\text{\hspace{1em}(1)}$$

其中 $\theta$ 為角度，$u$ 為控制輸入。

寫成狀態(tài)方程形式為：
$$\begin{array}{rl}& {\dot{x}}_1=x_2\\ & {\dot{x}}_2=f(x)+u\end{array}\text{\hspace{1em}(2)}$$

其中 $f(x)$ 為未知非線性函數(shù)。

未知指令為 $x_d$，則誤差及其變化率為：
$$\begin{array}{rl}e& =x_1?x_d\\ \dot{e}& ={\dot{x}}_1?{\dot{x}}_d\\ & =x_2?{\dot{x}}_d\end{array}$$

定義誤差函數(shù)為
$$s=ce+\dot{e},c>0\text{\hspace{1em}(3)}$$

則
$$\begin{array}{rl}\dot{s}& =c\dot{e}+\ddot{e}\\ & =c\dot{e}+{\dot{x}}_2?{\ddot{x}}_d\\ & =c\dot{e}+f(x)+u?{\ddot{x}}_d\end{array}$$

由式（3）可知，如果 $s\to 0$，則 $e\to 0$ 且 $\dot{e}\to 0$。

2. RBF 網(wǎng)絡(luò)原理

由于 RBF 網(wǎng)絡(luò)具有萬能逼近特性，采用 RBF 神經(jīng)網(wǎng)絡(luò)逼近 $f(x)$，網(wǎng)絡(luò)算法為：
$$h_j=\exp (\frac{\Vert x?c_j{\Vert }^2}{2b_j^2})\text{\hspace{1em}(4)}$$

$$f=W^{?T}h(x)+\epsilon \text{\hspace{1em}(5)}$$

其中，$x$ 為網(wǎng)絡(luò)的輸入，$j$ 為網(wǎng)絡(luò)隱含層第 $j$ 個(gè)節(jié)點(diǎn)，$h=[h_j{]}^T$ 為網(wǎng)絡(luò)的高斯基函數(shù)輸出，$W^{?}$ 為網(wǎng)絡(luò)的理想權(quán)值，$\epsilon$ 為網(wǎng)絡(luò)的逼近誤差，$\epsilon \le {\epsilon }_N$。

網(wǎng)絡(luò)輸入取狀態(tài)變量 $x=[x_1,x_2{]}^T$，則網(wǎng)絡(luò)輸出為：
$$\hat{f}(x)={\hat{W}}^{T}h(x)\text{\hspace{1em}(6)}$$

3. 控制算法設(shè)計(jì)與分析

由于
$$\begin{array}{rl}f(x)?\hat{f}(x)& =W^{?T}h(x)+\epsilon ?{\hat{W}}^{T}h(x)\\ & =?{\tilde{W}}^{T}h(x)+\epsilon \end{array}$$

定義 Lyapunov 函數(shù)為
$$V=\frac{1}{2}{s}^2+\frac{1}{2\gamma }{\tilde{W}}^T\tilde{W}\text{\hspace{1em}(7)}$$

其中 $\gamma >0,\tilde{W}=\hat{W}?W^{?}$。

則
$$\begin{array}{rl}\dot{V}& =s\dot{s}+\frac{1}{2\gamma }{\tilde{W}}^T\dot{\hat{W}}\\ & =s(c\dot{e}+f(x)+u?{\ddot{x}}_d)+\frac{1}{2\gamma }{\tilde{W}}^T\dot{\hat{W}}\end{array}$$

設(shè)計(jì)控制律為
$$u=?c\dot{e}?\hat{f}(x)+{\ddot{x}}_d?\eta \text{sgn}(s)\text{\hspace{1em}(8)}$$

則
$$\begin{array}{rl}\dot{V}& =s(f(x)?\hat{f}(x)?\eta \text{sgn}(s))+\frac{1}{\gamma }{\tilde{W}}^T\dot{\hat{W}}\\ & =s(?{\tilde{W}}^{T}h(x)+\epsilon ?\eta \text{sgn}(x))+\frac{1}{\gamma }{\tilde{W}}^T\dot{\hat{W}}\\ & =\epsilon s?\eta |s|+{\tilde{W}}^T(\frac{1}{\gamma }\dot{\hat{W}}?sh(x))\end{array}$$

取 $\eta >|\epsilon {|}_{\max }$，自適應(yīng)律為
$$\dot{\hat{W}}=\gamma sh(x)\text{\hspace{1em}(9)}$$

則 $\dot{V}=\epsilon s?\eta |s|<0$。

4. 仿真實(shí)例

考慮如下被控對(duì)象
$$\begin{array}{rl}& {\dot{x}}_1=x_2\\ & {\dot{x}}_2=f(x)+u\end{array}$$

其中 $f(x)=10x_1{x}_2$。

控制律采用式（8），自適應(yīng)律采用式（9），取 $\gamma =500,\eta =0.50$。根據(jù)網(wǎng)絡(luò)的輸入 $x_1$ 和 $x_2$ 的實(shí)際范圍，高斯基函數(shù)的參數(shù) $c_i$ 和 $b_i$ 的取值分別為 [-2 -1 0 1 2] 和 3.0。網(wǎng)絡(luò)權(quán)值矩陣中各個(gè)元素的初始值取 0.10。

仿真結(jié)果如下圖所示。

Ref: 一種簡(jiǎn)單的基于RBF網(wǎng)絡(luò)逼近的自適應(yīng)控制

---

4. RBF神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制matlab仿真_RBF神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用簡(jiǎn)介

RBF神經(jīng)網(wǎng)絡(luò)在控制中的應(yīng)用，可以按其隱含層與輸出層連接權(quán)值的計(jì)算方式分為以下兩類：

1. 采用梯度下降法計(jì)算權(quán)值

2. 依據(jù)穩(wěn)定性理論設(shè)計(jì)權(quán)值

依據(jù)穩(wěn)定性理論設(shè)計(jì)權(quán)值，即通過分析系統(tǒng)的Lyapunov穩(wěn)定性，設(shè)計(jì)權(quán)值，從而保證系統(tǒng)的穩(wěn)定性和收斂性。

考慮如下二階非線性系統(tǒng)，以自適應(yīng)RBF控制器的設(shè)計(jì)為例，對(duì)該權(quán)值設(shè)計(jì)方式進(jìn)行簡(jiǎn)要介紹。

$$\ddot{x}=f(x,\dot{x})+g(x,\dot{x})u\text{\hspace{1em}(3)}$$

其中，$f$ 為未知非線性函數(shù)，$g$ 為已知非線性函數(shù)；$u\in {\mathbb{R}}^n$ 和 $y\in {\mathbb{R}}^n$ 分別為系統(tǒng)的控制輸入和輸出。

令 $x_1=x,x_2=\dot{x}$ 和 $y=x_1$，（3）式可改寫為

$$\begin{array}{rl}& {\dot{x}}_1=x_2\\ & {\dot{x}}_2=f(x_1,x_2)+g(x_1,x_2)u\\ & y=x_1\end{array}$$

設(shè)理想跟蹤指令為 $y_d$，則誤差為
$$\begin{array}{rl}e& =y_d?y\\ & =y_d?x_1\\ E& =[e,\dot{e}{]}^T\end{array}$$

設(shè)計(jì) $K=[k_p,k_d{]}^T$ 使多項(xiàng)式 $s^2+k_{d}s+k_p=0$ 的根都在左半復(fù)平面。

將 RBF 神經(jīng)網(wǎng)絡(luò)的輸出代替式（3）中未知函數(shù)，可設(shè)計(jì)控制律為
$$u=\frac{1}{g(x)}[]$$

Ref: rbf神經(jīng)網(wǎng)絡(luò)自適應(yīng)控制matlab仿真_RBF神經(jīng)網(wǎng)絡(luò)及其在控制中的應(yīng)用簡(jiǎn)介

---

5. RBF神經(jīng)網(wǎng)絡(luò)在控制中的應(yīng)用

Ref: RBF神經(jīng)網(wǎng)絡(luò)參考模型自適應(yīng)MATLAB實(shí)現(xiàn)（分析）

---

6. 嚴(yán)格反饋結(jié)構(gòu)

控制理論中，什么是嚴(yán)格反饋結(jié)構(gòu)？

嚴(yán)格反饋系統(tǒng)和純反饋系統(tǒng)的區(qū)別是？

---

7. 反推控制 Backstepping

反推控制

學(xué)習(xí)筆記（1）——反步控制法

反步（Back-Stepping）設(shè)計(jì)方法

---

總結(jié)

以上是生活随笔為你收集整理的径向基RBF(radial basis function)函数、RBF神经网络、 反推(back-stepping)控制的全部?jī)?nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。