Page 220 - Kỷ yếu hội thảo khoa học lần thứ 12 - Công nghệ thông tin và Ứng dụng trong các lĩnh vực (CITA 2023)

204

Hình 2. - LSTM [4]

(i)
(ii)
(iii)
(iv)
(v)
i) forget gate: C ng quên quy nh ph n nào c a tr c gi l i
ho c lo i b . Nó nh n tr ng thái u vào hi n t i r i chuy n chúng qua
hàm kích ho t sigmoid, t o ra các giá tr t n 1. Giá tr g n b quên,
trong khi giá tr g n b gi l i.
ii) input gate: C ng u vào m i và tr ng thái
trong tr ng thái ô. Nó có hai ph n: hàm kích ho t sigmoid quy nh giá
tr nào c n c p nh t và hàm kích ho t tanh t o ra các giá tr ng viên cho tr ng thái ô.
u ra c c nhân theo t ng ph n t v u ra c t o
ra các giá tr c p nh t cu i cùng.
iii) ouput gate: C u khi n lu ng thông tin t tr ng thái ô sang tr ng thái n.
Nó l y tr ng thái u vào hi n t i, chuy n chúng qua ch
ho quy nh ph n nào c a tr ng thái ô s hi n th u ra
v i tr c chuy n qua kích hàm kích ho t tanh.
iv) cell state: Tr ng thái ô là m t thành ph n b nh dài h n c và
truy c th c c p nh t b i c ng quên và c ng
u vào m c th i gian. Tr ng thái ô giúp mô hình LSTM h c và duy trì các ph
thu c dài h n theo trình t .
v) hidden state: Tr ng thái n là m t thành ph n b nh ng n h n mang thông tin t
c c p nh t b i c u ra và ph thu c vào tr ng
thái ô hi n t i. Tr ng thái n ho c chuy n ô LSTM ti p theo trong chu i ho c
c s d u ra c c th i gian hi n t i.
ConvLSTM - -
LSTM và CNN

CITA 2023 ISBN: 978-604-80-8083-9