LSTM

Avatar de Usuario
Dalamar
Site Admin
Mensajes: 8927
Registrado: 09 May 2012 01:38

LSTM

Mensajepor Dalamar » 03 Jun 2017 18:03

Dentro de las redes neuronales recurrentes tenemos las LSTM (Lon Short Term Memory), son redes neuronales con capacidad para recordar, olvidar y tienen memoria a corto y a largo plazo, al igual que los humanos.

Las mejores fuentes que he encontrado para entender este tipo de redes neuronales son:

http://blog.echen.me/2017/05/30/exploring-lstms

http://colah.github.io/posts/2015-08-Understanding-LSTMs/

Un video muy bueno: https://www.youtube.com/watch?v=WCUNPb-5EYI&feature=youtu.be

En este hilo vamos a intentar comprender dichas redes neuronales, profundizar en algunas mas avanzadas como Grid LSTM.

Y hacer algunos experimentos con ellas usando Keras y Tensorflow.
¿Te ha gustado este hilo? Compartelo en las redes sociales para que se sume mas gente a la conversacion!

Avatar de Usuario
Dalamar
Site Admin
Mensajes: 8927
Registrado: 09 May 2012 01:38

Re: LSTM

Mensajepor Dalamar » 29 Jun 2017 18:28

LSTM no suele sufrir de "vanishing gradients", pero si de exploding gradients.
LSTMExploding.JPG

Fuente: https://papers.nips.cc/paper/5346-sequence-to-sequence-learning-with-neural-networks.pdf
¿Te ha gustado este hilo? Compartelo en las redes sociales para que se sume mas gente a la conversacion!


Volver a “Inteligencia Artificial”

Ingresar