Saltar al contenido

un viaje de lo básico a Kaiming {DH}

octubre 3, 2021

3 de abril de 2019·Leer 11 minutos

Me gustaría invitarlo a unirse a mí en la exploración de varios enfoques para inicializar pesos de capa en redes neuronales. Paso a paso, a través de varios experimentos cortos y ejercicios de pensamiento, descubriremos por qué la inicialización correcta del peso es tan importante al entrenar redes neuronales profundas. A lo largo del camino, cubriremos varios enfoques que los investigadores han desarrollado a lo largo de los años y, finalmente, examinaremos qué funciona mejor para las arquitecturas de red contemporáneas con las que probablemente trabajará.

Ejemplos a seguir provienen de mi propia reimplementación de una serie de cuadernos que Jeremy Howard cubrió en la última versión del curso fast.ai Deep Learning Part II que se lleva a cabo actualmente en la primavera de 2019 en el USF Data Institute.

El objetivo de …

leer mas:
un viaje de lo básico a Kaiming {DH}