¿Qué es un acelerador de IA?

A medida que la tecnología de IA se expande, los aceleradores de IA son críticos para procesar las grandes cantidades de datos necesarios para ejecutar aplicaciones de IA. Actualmente, los casos de uso del acelerador de IA abarcan teléfonos inteligentes, PC, robótica, vehículos autónomos, Internet de las cosas (IoT), edge computing y más.

Durante décadas, los sistemas informáticos han dependido de aceleradores (o coprocesadores) para diversas tareas especializadas. Algunos ejemplos típicos de coprocesadores son las unidades de procesamiento gráfico (GPU), las tarjetas de sonido y las tarjetas de vídeo.

Pero con el crecimiento de las aplicaciones de IA en la última década, las unidades de procesamiento central (CPU) tradicionales e incluso algunas GPU no podían procesar las grandes cantidades de datos necesarias para ejecutar las aplicaciones de IA. Aparecen los aceleradores de IA, con capacidades especializadas de procesamiento paralelo que les permiten realizar miles de millones de cálculos simultáneamente.

A medida que el sector de la IA se expande hacia nuevas aplicaciones y campos, los aceleradores de IA son cruciales para acelerar el procesamiento de los datos necesarios para crear aplicaciones de IA a escala.

Sin aceleradores de IA como las GPU, las matrices de puertas programables en campo (FPGA) y los circuitos integrados de aplicaciones específicas (ASIC) para acelerar el deep learning, los avances en la IA, como ChatGPT, llevarían mucho más tiempo y serían más costosos. Algunas de las empresas más grandes del mundo utilizan ampliamente los aceleradores de IA, como Apple, Google, IBM, Intel y Microsoft.

Dado que la velocidad y la escalabilidad son primordiales en el sector de la tecnología de IA, que evoluciona a gran velocidad, los aceleradores de IA se han convertido en indispensables para ayudar a las empresas a innovar a escala y sacar antes al mercado nuevas aplicaciones de IA. Los aceleradores de IA son superiores a sus homólogos más antiguos en tres aspectos cruciales: velocidad, eficacia y diseño.

Los aceleradores de IA son mucho más rápidos que las CPU tradicionales debido a su latencia considerablemente más baja, una medida de los retrasos en un sistema. La baja latencia es especialmente crucial en el desarrollo de aplicaciones de IA en los campos de la medicina y los vehículos autónomos, donde los retrasos de segundos, incluso milisegundos, son peligrosos.

Los aceleradores de IA pueden ser entre cien y mil veces más eficientes que otros sistemas informáticos más estándar. Tanto los grandes chips aceleradores de IA utilizados en centros de datos como los más pequeños que se suelen emplear en dispositivos edge consumen menos energía y disipan menos calor que sus predecesores.

Los aceleradores de IA tienen lo que se conoce como arquitectura heterogénea, que permite que varios procesadores admitan tareas independientes, una capacidad que aumenta el rendimiento informático hasta los niveles requeridos por las aplicaciones de IA. 

Los aceleradores de IA son cruciales para las aplicaciones de la tecnología de IA. Sin embargo, la industria se enfrenta a desafíos que deberán resolverse pronto o obstaculizarán la innovación.

En 2023, el 50 % de los semiconductores del mundo, incluidos los aceleradores de IA, se fabricaron en la isla de Taiwán. NVIDIA, la mayor empresa de hardware y software de IA del mundo, ha confiado históricamente en una sola empresa, Taiwan Semiconductor Manufacturing Corporation (TSMC), para sus aceleradores de IA; se calcula que TSMC fabrica alrededor del 90 % de los chips de inteligencia artificial del mundo.

Dado que la producción se concentra en un solo lugar, cualquier tipo de interrupción de la cadena de suministro, ya sea debida a catástrofes naturales, ciberataques o disturbios geopolíticos, podría crear graves cuellos de botella y escasez. 

Los modelos de IA más potentes de hoy en día requieren más potencia de cálculo de la que pueden manejar muchos aceleradores de IA, y el ritmo de innovación en el diseño de chips no sigue el ritmo de la innovación que se produce en los modelos de IA.

Las empresas están explorando áreas como la computación en memoria y el rendimiento y la fabricación mejorados por algoritmos de IA para aumentar la eficiencia, pero no avanzan tan rápido como el aumento de la demanda computacional de las aplicaciones con IA.

Los aceleradores de IA son pequeños, la mayoría se miden en milímetros y el mayor del mundo sólo tiene el tamaño de un iPad, lo que dificulta dirigir la cantidad de energía necesaria para alimentarlos a un espacio tan reducido. Esto se ha vuelto cada vez más difícil a medida que las demandas de computación de las cargas de trabajo de IA han aumentado en los últimos años. Es necesario realizar mejoras pronto en las arquitecturas de redes de entrega de energía (PDN) que están detrás de los aceleradores de IA, o su rendimiento comenzará a verse afectado.

Debido a su diseño único y hardware especializado, los aceleradores de IA aumentan considerablemente el rendimiento del procesamiento de IA en comparación con sus predecesores. Las funciones diseñadas específicamente permiten resolver algoritmos de IA complejos a velocidades que superan con creces a los chips de uso general.

Los aceleradores de IA suelen estar hechos de un material semiconductor, como el silicio, y un transistor conectado a un circuito electrónico. Las corrientes eléctricas que recorren el material se encienden y apagan, creando una señal que luego lee un dispositivo digital. En los aceleradores avanzados, las señales se encienden y apagan miles de millones de veces por segundo, lo que permite a los circuitos resolver cálculos complejos mediante código binario.

Algunos aceleradores de IA están diseñados para un propósito específico, mientras que otros tienen una funcionalidad más general. Por ejemplo, las NPU son aceleradores de IA creados específicamente para el deep learning, mientras que las GPU son aceleradores de IA diseñados para el procesamiento de vídeo e imágenes.

Encargados principalmente de resolver algoritmos avanzados, el rendimiento de los aceleradores de IA es crucial para diversas operaciones relacionadas con la IA, como el machine learning (ML), el deep learning y los problemas de redes neuronales profundas.

Pueden resolver muchos algoritmos a la vez, de forma rápida y precisa, debido a la forma única en que implementan los recursos computacionales, principalmente a través del procesamiento paralelo, su arquitectura de memoria única y una característica conocida como precisión reducida.

Los aceleradores de IA más avanzados de la actualidad están diseñados para abordar problemas grandes y complejos dividiéndolos en otros más pequeños y resolviéndolos al mismo tiempo, lo que aumenta exponencialmente su velocidad.

Procesamiento paralelo

No hay ninguna otra característica que mejore tanto el rendimiento de un acelerador de IA como su capacidad para realizar muchos cálculos a la vez, una tarea conocida como procesamiento paralelo. A diferencia de otros chips, los aceleradores de IA pueden completar tareas en minutos, segundos (incluso milisegundos) que antes llevaban horas e incluso días.

Esta capacidad los hace indispensables para las tecnologías de IA que dependen del procesamiento de datos en tiempo real, como el edge computing. Dada la gran cantidad de algoritmos complejos en los procesos de ML y deep learning, los aceleradores de IA son cruciales para el avance tanto de la tecnología como de sus aplicaciones.

Precisión reducida para el entrenamiento de IA

Para ahorrar energía, los aceleradores de IA pueden emplear una función conocida como aritmética de precisión reducida. Las redes neuronales siguen siendo muy funcionales y utilizan números de punto flotante de 16 o incluso 8 bits, en lugar de los 32 bits que utilizan los chips de uso más general. Esto significa que pueden lograr velocidades de procesamiento más rápidas con un menor gasto de energía sin sacrificar la precisión.

Jerarquía de memoria

La forma en que los datos se mueven de un lugar a otro en un acelerador de IA es crucial para la optimización de las cargas de trabajo de IA. Los aceleradores de IA utilizan arquitecturas de memoria diferentes a las de los chips de propósito general, lo que les permite lograr latencias más bajas y un mejor rendimiento. Estas características de diseño especializadas, incluidas las cachés en chip y la memoria de gran ancho de banda, son vitales para acelerar el procesamiento de los grandes conjuntos de datos necesarios para las cargas de trabajo de IA de alto rendimiento.

Los aceleradores de IA se dividen en dos arquitecturas según su función: aceleradores de IA para centros de datos y aceleradores de IA para marcos de edge computing. Los aceleradores de IA para centros de datos requieren una arquitectura altamente escalable y chips de gran tamaño, como el Wafer-Scale Engine (WSE), construido por Cerebras para sistemas de deep learning, mientras que los aceleradores de IA construidos para ecosistemas informáticos periféricos se centran más en la eficiencia energética y la capacidad de ofrecer resultados casi en tiempo real.

Integración a escala de oblea

La integración a escala de oblea, o WSI, es un proceso para construir redes de chips de IA extremadamente grandes en un único "supe"» chip para reducir costes y acelerar el rendimiento de los modelos de deep learning. La integración a escala de oblea más popular es la red de chips WSE-3 producida por Cerebras y construida mediante el proceso de 5 nm de TSMC, actualmente el acelerador de IA más rápido del mundo.

NPU

Las NPU, o unidades de procesamiento neuronal, son aceleradores de IA para el deep learning y las redes neuronales y los requisitos de procesamiento de datos exclusivos de estas cargas de trabajo. Las NPU pueden procesar grandes cantidades de datos más rápido que otros chips. Pueden realizar una amplia gama de tareas de IA asociadas con el machine learning, como el reconocimiento de imágenes y las redes neuronales detrás de aplicaciones populares de IA y ML como ChatGPT.

GPU

Las GPU, circuitos electrónicos creados para mejorar el rendimiento de los gráficos informáticos y el procesamiento de imágenes, se utilizan en diversos dispositivos, como tarjetas de vídeo, placas base y teléfonos móviles. Sin embargo, debido a sus capacidades de procesamiento paralelo, también se utilizan cada vez más en el entrenamiento de modelos de IA. Un método popular es conectar muchas GPU a un solo sistema de IA para aumentar la potencia de procesamiento de ese sistema.

Matrices de puertas programables en campo (FPGA)

Las FPGA son aceleradores de IA altamente personalizables que dependen de conocimientos especializados para ser reprogramados con un fin específico. A diferencia de otros aceleradores de IA, las FPGA tienen un diseño único que se adapta a una función específica, a menudo relacionada con el procesamiento de datos en tiempo real. Las FPGA son reprogramables a nivel de hardware, lo que permite un nivel de personalización mucho mayor. Entre las aplicaciones más comunes de las FPGA se encuentran la industria aeroespacial, el Internet de las cosas (IoT) y las redes inalámbricas.

Circuitos integrados de aplicación específica (ASIC)

Los ASIC son aceleradores de IA que se han diseñado con un propósito o una carga de trabajo específicos, como el deep learning en el caso del acelerador WSE-3 ASIC producido por Cerebras. A diferencia de las FPGA, los ASIC no se pueden reprogramar, pero dado que se construyen con un propósito singular, suelen superar a otros aceleradores de uso más general. Un ejemplo de ellos es la unidad de procesamiento tensorial (TPU) de Google, desarrollada para el machine learning de redes neuronales mediante el software TensorFlow propio de Google.

Desde teléfonos inteligentes y PC hasta tecnología de IA de última generación, como robótica y satélites, los aceleradores de IA desempeñan un papel crucial en el desarrollo de nuevas aplicaciones de IA. Estos son algunos ejemplos de cómo se utilizan los aceleradores de IA: