Piense en cada nodo individual como su propio modelo de regresión lineal , compuesto por datos de entrada, ponderaciones, un sesgo (o umbral) y una salida. La fórmula se vería así:

∑wixi + sesgo = w1x1 + w2x2 + w3x3 + sesgo

salida = f(x) = 1 if ∑w1x1 + b>= 0; 0 if ∑w1x1 + b < 0

Una vez determinada la capa de entrada, se asignan las ponderaciones. Estas ponderaciones ayudan a determinar la importancia de cualquier variable, ya que las más grandes contribuyen de forma más significativa a la producción en comparación con otros insumos. A continuación, todas las entradas se multiplican por sus ponderaciones respectivas y luego se suman. Después, la salida pasa por una función de activación, que determina la salida. Si esa salida excede un umbral determinado, "dispara" (o activa) el nodo, pasa los datos a la siguiente capa de la red. El resultado es que la salida de un nodo se convierte en la entrada del siguiente. Este proceso de paso de datos de una capa a la siguiente define esta red neuronal como una red de retroalimentación.

Analicemos cómo se vería un solo nodo usando valores binarios. Podemos aplicar este concepto a un ejemplo más tangible, como si debes ir a surfear (Sí: 1, No: 0). La decisión de ir o no ir es nuestro resultado previsto, o lo que sea. Supongamos que hay tres factores que influyen en su toma de decisiones:

1. ¿Son buenas las olas? (Sí: 1, No: 0)
2. ¿El lugar está vacío? (Sí: 1, No: 0)
3. ¿Ha habido recientemente un ataque de tiburón? (Sí: 0, No: 1)

Entonces, supongamos lo siguiente, dándonos las siguientes entradas:

• X1 = 1, ya que las olas son ideales
• X2 = 0, ya que no hay mucha gente
• X3 = 1, ya que no ha habido un ataque de tiburón reciente

Ahora, necesitamos asignar algunas ponderaciones para determinar la importancia. Las ponderaciones más grandes significan que las variables particulares son de mayor importancia para la decisión o el resultado.

• W1 = 5, ya que las grandes olas no se presentan con frecuencia
• W2 = 2, ya que es común que haya mucha gente
• W3 = 4, ya que le tiene miedo a los tiburones

Finalmente, también asumiremos un valor de umbral de 3, lo que se traduciría en un valor de sesgo de -3. Con todas las diversas entradas, podemos comenzar a introducir valores en la fórmula para obtener el resultado deseado.

Y-hat = (1*5) + (0*2) + (1*4) – 3 = 6

Si usamos la función de activación del principio de esta sección, podemos determinar que la salida de este nodo sería 1, ya que 6 es mayor que 0. En este caso, iría a surfear; pero si ajustamos las ponderaciones o el umbral, podemos lograr diferentes resultados del modelo. Cuando observamos una decisión, como en el ejemplo anterior, podemos ver cómo una red neuronal podría tomar decisiones cada vez más complejas dependiendo del resultado de decisiones o capas anteriores.

En el ejemplo anterior, utilizamos perceptrones para ilustrar algunas de las matemáticas en juego aquí, pero las redes neuronales aprovechan las neuronas sigmoides, que se distinguen por tener valores entre 0 y 1. Dado que las redes neuronales se comportan de manera similar a los árboles de decisión, la cascada de datos de un nodo a otro, tener valores x entre 0 y 1 reducirá el impacto de cualquier cambio dado de una sola variable en la salida de cualquier nodo dado, y posteriormente, la salida de la red neuronal.

A medida que empecemos a pensar en casos de uso más prácticos para las redes neuronales, como el reconocimiento o la clasificación de imágenes, aprovecharemos el aprendizaje supervisado o conjuntos de datos etiquetados para entrenar el algoritmo. A medida que entrenamos el modelo, querremos evaluar su precisión utilizando una función de costo (o pérdida). Esto también se conoce comúnmente como error cuadrático medio (MSE). En la siguiente ecuación,

• i representa el índice de la muestra,
• y-hat es el resultado previsto,
• y es el valor real, y
• m es el número de muestras.

= =1/2 ∑129_(=1)^▒( ̂^(() )−^(() ) )^2

En última instancia, el objetivo es minimizar nuestra función de costo para garantizar la corrección del ajuste para cualquier observación dada. A medida que el modelo ajusta sus ponderaciones y sesgos, utiliza la función de costo y el aprendizaje por refuerzo para alcanzar el punto de convergencia, o el mínimo local. El proceso en el que el algoritmo ajusta sus ponderaciones es a través del descenso de gradiente, lo que permite que el modelo determine la dirección a seguir para reducir errores (o minimizar la función de costo). Con cada ejemplo de entrenamiento, los parámetros del modelo se ajustan para converger gradualmente al mínimo.  

Consulte este artículo de IBM Developer para obtener una explicación más profunda de los conceptos cuantitativos involucrados en las redes neuronales.

La mayoría de las redes neuronales profundas son de retroalimentación, lo que significa que fluyen en una sola dirección, desde la entrada hasta la salida. Sin embargo, también puede entrenar el modelo a través de la retropropagación; es decir, moverse en la dirección opuesta de la salida a la entrada. La retropropagación nos permite calcular y atribuir el error asociado a cada neurona, lo que nos permite ajustar y adaptar los parámetros del modelo o modelos de forma adecuada.