Redes Neuronales & Deep Learning

PARTE I. REDES NEURONALES ARTIFICIALES......Page 27
Inteligencia Artificial......Page 29
Definiciones de I.A.......Page 34
Los problemas de la I.A.......Page 36
Técnicas heurísticas......Page 48
Aprendizaje automático......Page 53
Aplicaciones del aprendizaje automático......Page 56
Tipos de aprendizaje automático......Page 60
Aprendizaje supervisado......Page 61
Aprendizaje no supervisado......Page 68
¿Otras formas de aprendizaje?......Page 77
Evaluación de los resultados del aprendizaje......Page 85
Métricas de evaluación......Page 86
Métodos de evaluación......Page 105
Finalización del modelo......Page 113
Descomposición del error en sesgo y varianza......Page 114
Técnicas de aprendizaje......Page 121
Técnicas simbólicas: I.A. simbólica......Page 123
Técnicas analógicas: Reconocimiento de patrones......Page 128
Técnicas bayesianas: Modelos probabilísticos......Page 136
Técnicas evolutivas: Computación evolutiva......Page 143
Técnicas conexionistas: I.A. conexionista......Page 151
Combinación de múltiples modelos: Ensembles......Page 155
Selección y extracción de características......Page 160
Deep Learning......Page 167
Características clave del deep learning......Page 171
Limitaciones del deep learning......Page 179
Inspiración biológica......Page 186
Modelos de neuronas y redes neuronales artificiales......Page 211
Neuronas o elementos de procesamiento......Page 213
Funciones de activación......Page 220
Arquitecturas de las redes neuronales artificiales......Page 230
PARTE II. ENTRENAMIENTO DE REDES......Page 239
La neurona de McCulloch y Pitts......Page 241
Reconocimiento de patrones con redes neuronales......Page 247
El algoritmo de aprendizaje del perceptrón......Page 252
Variantes y aplicaciones del perceptrón......Page 261
Limitaciones del perceptrón......Page 277
El algoritmo de propagación de errores......Page 285
Entrenamiento de redes multicapa......Page 289
El algoritmo de propagación de errores hacia atrás......Page 311
Implementación del algoritmo......Page 320
Coda: Un poco de historia......Page 341
Entrenamiento de una red neuronal......Page 349
Topología de la red......Page 352
Funciones de activación......Page 369
Modos de entrenamiento......Page 380
El conjunto de entrenamiento......Page 389
Inicialización de la red......Page 404
Tasas de aprendizaje......Page 419
Hiperparámetros......Page 438
Prevención del sobreaprendizaje......Page 453
El problema del sobreaprendizaje......Page 454
Regularización......Page 458
Introducción de ruido......Page 476
Early stopping......Page 481
Ensembles......Page 485
Dropout......Page 488
Algoritmos de optimización......Page 497
El caso unidimensional......Page 500
El caso multidimensional......Page 505
Momentos......Page 518
Tasas de aprendizaje adaptativas......Page 523
Técnicas de optimización de segundo orden......Page 540
Gradientes conjugados......Page 560
Aprendiendo a optimizar de forma automática......Page 564
Paralelización de las técnicas de optimización......Page 566
Comentarios finales......Page 574
PARTE III. ARQUITECTURAS ESPECIALIZADAS......Page 579
Softmax......Page 581
La entropía cruzada como función de coste......Page 584
Curso rápido de Teoría de la Información......Page 585
La función softmax......Page 595
Estimación de máxima verosimilitud......Page 601
Una derivación alternativa......Page 604
Cuestiones de implementación......Page 607
Aplicaciones......Page 618
Mecanismos de atención......Page 620
Apéndice: El gradiente natural......Page 622
Redes convolutivas......Page 625
Orígenes: El Neocognitrón de Fukushima......Page 627
La operación de convolución......Page 632
Capas convolutivas......Page 640
Capas de pooling......Page 653
Cuestiones prácticas......Page 662
Aplicaciones......Page 677
Bibliografía......Page 713
Índice alfabético......Page 791