CAPÍTULO 14 / 40
Componentes de Deep Learning
8 lecciones · Explora, experimenta y comprende.
Aprendamos juntos.
Pregúntame sobre este curso o por dónde empezar.
- Paso 58~10m3D · 1Código · 12★Más cinematográfica
Matemáticas de redes neuronales convolucionales
Una convolución desliza un filtro aprendible sobre un mapa de características y devuelve, en cada posición espacial, el producto punto entre…
Abrir lección - Paso 59~5mCódigo · 11🎯Victoria rápida
Redes recurrentes: RNN, LSTM y GRU
Una RNN procesa una secuencia manteniendo un estado oculto . Cada paso integra la nueva entrada en un resumen acumulado. La salida se lee en…
Abrir lección - Paso 60~5mCódigo · 11🎯Victoria rápida
Batch Normalization y Layer Normalization
Batch normalization normaliza cada característica a lo largo del minibatch: , y luego escala y desplaza con aprendibles. En test usa medias…
Abrir lección - Paso 61~5mCódigo · 11🎯Victoria rápida
Dropout: la matemática de la regularización estocástica
Dropout anula cada activación con probabilidad durante el entrenamiento y escala las supervivientes por para preservar la esperanza. En test…
Abrir lección - Paso 62~5m3D · 1Código · 11★Más cinematográfica
Funciones de activación: ReLU, GELU, Swish y compañía
Las funciones de activación introducen la no linealidad. Sin ellas, cualquier pila de nn.Linear colapsa a una sola capa lineal equivalente.
Abrir lección - Paso 63~5mCódigo · 11🎯Victoria rápida
Codificaciones posicionales: cómo los transformers ven el orden
La atención es invariante a permutaciones — barajar los tokens baraja la salida pero no cambia cuáles tokens atienden a cuáles. Por eso hay…
Abrir lección - Paso 64~5m3D · 1Código · 11★Más cinematográfica
Optimizadores modernos: SGD, Momentum, Adam, AdamW
SGD básico: . Simple y a veces óptimo para CNNs con el schedule adecuado.
Abrir lección - Paso 65~5mCódigo · 11🎯Victoria rápida
Schedules de tasa de aprendizaje: warmup, coseno, cíclicos
La tasa de aprendizaje es el hiperparámetro más importante. Una fija rara vez es óptima — la mayor parte del entrenamiento se beneficia de u…
Abrir lección