文章目錄

• • • 1. 循環(huán)神經(jīng)網(wǎng)絡(luò)簡介

1. 循環(huán)神經(jīng)網(wǎng)絡(luò)簡介

循環(huán)神經(jīng)網(wǎng)絡(luò)源自于1982年由 Saratha Sathasivam提出的霍普菲爾德網(wǎng)絡(luò)。

循環(huán)神經(jīng)網(wǎng)絡(luò)的主要用途是處理和預(yù)測(cè)序列數(shù)據(jù)，循環(huán)神經(jīng)網(wǎng)絡(luò)的的典型結(jié)構(gòu)如下圖：

在每一時(shí)刻t，循環(huán)神經(jīng)網(wǎng)絡(luò)會(huì)針對(duì)該時(shí)刻的輸入和當(dāng)前模型的狀態(tài)給出一個(gè)輸出，并更新模型狀態(tài)。從圖中可以看出，RNN的主體結(jié)構(gòu)A的輸入為來自輸入層的xt和上一時(shí)刻的隱藏狀態(tài)ht-1。

循環(huán)神經(jīng)網(wǎng)絡(luò)對(duì)長度為N的序列展開后，可以視為一個(gè)有N個(gè)中間層的前饋神經(jīng)網(wǎng)絡(luò)。

循環(huán)神經(jīng)網(wǎng)絡(luò)可以看成同一神經(jīng)網(wǎng)絡(luò)在時(shí)間序列上被復(fù)制多次的結(jié)果，這個(gè)被復(fù)制多次的結(jié)構(gòu)被cheng

未完待續(xù)。。。

總結(jié)

以上是生活随笔為你收集整理的TensorFlow学习笔记之六（循环神经网络RNN）的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯(cuò)，歡迎將生活随笔推薦給好友。