蟲匯聚之所

類神經網路在相同輸入時如果需要有不同的輸出...

譬如訂票系統輸入台北，可能是目的地是台北，或是出發地台北，判定需要知道前後文，這時候有類似記憶功能(?)的RNN就派上用場了

文字如何轉成vector表示，方法很多種，

1. one of n encoding

2."other"dimension 用來表示超出字庫的輸入(或輸出?

3.word hashing

常見RNN Elman 、Jordan 、BidirectionalRNN、LSTM
Elman Network
隱藏層的直下一圈讀出來
Jordan Network
上一層輸出下一圈讀出來(效果比較好)

BidirectionalRNN
雙向RNN

LSTM
三個GATE
通過input gate 寫入(network學習)
Outputgat讀出(network學習)
forget gate 要不要忘記(network學習)

這三個閘的值在0到1之間，可以視為數值通過的程度。
4input
output of network
signal control of input gate
signal control of output gate
signal control of forget gate
1output
to other network