¿Qué es la incrustación?

La incrustación es una herramienta fundamental para los ingenieros de ML que crean motores de búsqueda de texto e imágenes, sistemas de recomendación, chatbots, sistemas de detección del fraude y muchas otras aplicaciones. En esencia, la incrustación permite que los modelos de machine learning encuentren objetos similares.

A diferencia de otras técnicas ML, las incrustaciones se aprenden a partir de datos que utilizan varios algoritmos, como las redes neuronales, en lugar de requerir explícitamente experiencia humana para definir. Permiten que el modelo aprenda patrones y relaciones complejos en los datos, que de otro modo serían imposibles de identificar para los humanos.

Por ejemplo, la implementación integrada de OpenAI permite que ChatGPT entienda fácilmente las relaciones entre diferentes palabras y categorías en lugar de analizar cada palabra de forma aislada. Gracias a las incrustaciones, los modelos GPT de OpenAI pueden generar respuestas más coherentes y contextualmente relevantes a las preguntas e indicaciones de los usuarios.

La mayoría de los algoritmos de machine learning solo pueden tomar datos numéricos de baja dimensión como entradas. Por lo tanto, es necesario convertir los datos a un formato numérico. Esto puede implicar cosas como crear una representación de "bolsa de palabras" para datos de texto, convertir imágenes en valores de píxeles o transformar datos de gráficos en una matriz numérica.

Los objetos que entran en un modelo de incrustación se emiten como incrustaciones, representadas como vectores. Un vector es una matriz de números (por ejemplo 1489, 22... 3, 777), donde cada número indica dónde se encuentra un objeto a lo largo de una dimensión especificada. El número de dimensiones puede llegar a mil o más en función de la complejidad de los datos de entrada. Cuanto más cerca esté una incrustación de otras incrustaciones en este espacio n-dimensional, más similares serán. La similitud de distribución viene determinada por la longitud de los puntos vectoriales de un objeto a otro (medida euclidiana, coseno u otra).

Un modelo, Word2Vec (word to vector), desarrollado por Google en 2013, es un método para crear incrustaciones de palabras de manera eficiente mediante el uso de una red neuronal de dos capas. Toma como entrada una palabra y escupe una coordenada n-dimensional (el vector de incrustación) de modo que cuando se trazan estos vectores de palabras en un espacio tridimensional, los sinónimos se agrupan.

Así es como se representarían dos palabras: "dad" y "mom" como vectores:

 $“D\mathrm{un}D”=[\mathrm{0,1548},\mathrm{0,4848},\dots ,\mathrm{1,864}]$ 

 $“mom”=[\mathrm{0,8785},\mathrm{0,8974},\dots ,\mathrm{2,794}]$ 

Aunque existe cierta similitud entre estas dos palabras, cabría esperar que "father" estuviera mucho más cerca de "dad" en el espacio vectorial, lo que daría como resultado un producto escalar más alto (una medida de la dirección relativa de dos vectores y cómo estrechamente se alinean en la dirección a la que apuntan).

Un ejemplo más complejo es la incrustación de recomendaciones, que funciona representando usuarios y elementos (por ejemplo, películas, productos, artículos) como vectores de alta dimensión en un espacio vectorial continuo. Estas incrustaciones capturan características latentes que reflejan las preferencias de los usuarios y las características de los elementos. La idea es aprender una representación para cada usuario y elemento de tal manera que el producto de puntos de sus incrustaciones se correlacione con la preferencia del usuario por ese elemento.

Cada usuario y elemento está asociado a un vector de incrustación. Estos vectores generalmente se aprenden a través de un modelo de recomendación durante un proceso de entrenamiento. Las inserciones de usuario e inserciones de elementos se organizan en matrices. Las filas de la matriz de usuarios representan a los usuarios y las filas de la matriz de elementos representan los elementos.

La puntuación de recomendación de un par de elementos de usuario se puede calcular tomando el producto punto del vector de incrustación del usuario y el vector de incrustación del elemento. Cuanto más alto sea el producto punto, más probable será que el usuario esté interesado en el artículo.

 $REcommEND\mathrm{un}tioNScorE=UsErEmbEDDiNg\cdot ItEmEmbEDDiNg$ 

Las matrices de incrustación se aprenden a través de un proceso de capacitación que utiliza interacciones históricas entre el usuario y el elemento. El modelo tiene como objetivo minimizar la diferencia entre las puntuaciones previstas y las preferencias reales del usuario (por ejemplo, calificaciones, clics, compras).

Una vez entrenado el modelo, se puede utilizar para generar las mejores recomendaciones para los usuarios. Se recomiendan los elementos con las puntuaciones más altas previstas para un usuario.

Las incrustaciones se utilizan en diversos dominios y aplicaciones debido a su capacidad para transformar datos categóricos y de alta dimensión en representaciones vectoriales continuas, capturando patrones, relaciones y semántica significativos. A continuación se muestran algunas razones por las que se utiliza la incrustación en la ciencia de datos:

Las incrustaciones son representaciones versátiles que pueden aplicarse a una amplia gama de tipos de datos. Estos son algunos de los objetos más comunes que pueden incrustarse:

Las incrustaciones de palabras capturan las relaciones semánticas y los significados contextuales de las palabras en función de sus patrones de uso en un corpus lingüístico determinado. Cada palabra se representa como un vector denso de tamaño fijo de números reales. Es lo opuesto a un vector disperso, como la codificación one-hot, que tiene muchas entradas cero.

El uso de la incrustación de palabras ha mejorado significativamente el rendimiento de los modelos de procesamiento del lenguaje natural (PLN) al proporcionar una representación más significativa y eficiente de las palabras. Estas incrustaciones permiten a las máquinas comprender y procesar el lenguaje de una manera que captura los matices semánticos y las relaciones contextuales, lo que las hace valiosas para una amplia gama de aplicaciones, incluido el análisis de sentimientos, la traducción automática y la recuperación de información.

Entre los modelos de incrustación de palabras más conocidos figuran Word2Vec, GloVe (Global Vectors for Word Representation), FastText e incrustaciones derivadas de modelos basados en transformadores como BERT (Bidirectional Encoder Representations from Transformers) y GPT (Generative Pre-trained Transformer).

La incrustación de texto amplía la incrustación de palabras para representar frases, párrafos o documentos enteros en un espacio vectorial continuo. Las incrustaciones de texto desempeñan un papel crucial en varias aplicaciones de PLN, como el análisis de sentimientos, la clasificación de textos, la traducción automática, la respuesta a preguntas y la recuperación de información.

Modelos como Doc2Vec, USE (Universal Sentence Encoder), BERT y ELMO (Embed from Language Models) se han entrenado en cantidades masivas de empresas incorporadas previamente entrenadas, como Wikipedia y Google News.

La incrustación de imágenes está diseñada para capturar características visuales e información semántica sobre el contenido de las imágenes. Las incrustaciones de imágenes son particularmente útiles para diversas tareas de computer vision, ya que permiten el modelado de similitudes de imágenes, la clasificación de imágenes, la detección de objetos y otras tareas de reconocimiento visual.

Las redes neuronales convolucionales populares (CNN) para incrustaciones de imágenes incluyen modelos como VGG (Visual Geometry Group), ResNet (Residual Networks), Inception (GoogLeNet) y EfficientNet. Estos modelos se han entrenado previamente en conjuntos de datos de imágenes a gran escala y se pueden utilizar como potentes extractores de funciones.

Al igual que las incrustaciones de imágenes y texto, las incrustaciones de audio se generan a menudo utilizando arquitecturas de deep learning, especialmente redes neuronales recurrentes, redes neuronales convolucionales (CNN) o modelos híbridos que combinan ambos. Estas incrustaciones capturan las características relevantes de los datos de audio, lo que permite un análisis, procesamiento y métricas de similitud eficaces. Las incrustaciones de audio son especialmente útiles en aplicaciones como el reconocimiento de voz, la clasificación de audio y el análisis de música, entre otras.

La incrustación de gráficos es esencial para diversas tareas, incluida la clasificación de nodos, la predicción de enlaces y la detección de comunidades en redes complejas. Estas incrustaciones se aplican en el análisis de redes sociales, sistemas de recomendación, análisis de redes biológicas, detección del fraude y otros ámbitos en los que los datos pueden representarse como grafos.

Las inserciones se crean a través de un proceso llamado "incrustar el aprendizaje". Aunque el método específico utilizado depende del tipo de datos que se van a incrustar, las incrustaciones se crean siguiendo estos pasos generales:

1. Elegir o entrenar un modelo de incrustación: seleccione un modelo de incrustación preexistente adecuado para sus datos y tareas, o entrene uno nuevo si es necesario. Para el texto, puede elegir Word2Vec, GloVe o BERT. Para las imágenes, puede utilizar CNN previamente entrenadas como VGG o ResNet.
   
   
2. Prepare sus datos: formatee sus datos de una manera compatible con el modelo de incrustación elegido. Para el texto, esto implica la tokenización y posiblemente el preprocesamiento. Para las imágenes, es posible que tenga que cambiar el tamaño y normalizar las imágenes.
   
   
3. Cargar o entrenar el modelo de incrustación: si utiliza un modelo preentrenado, cargue los pesos y la arquitectura. Si entrena un nuevo modelo, proporcione sus datos de entrenamiento preparados al algoritmo.
   
   
4. Generar incrustaciones: para cada punto de datos, utilice el modelo entrenado o cargado para generar incrustaciones. Por ejemplo, si usa un modelo de incrustación de palabras, ingrese una palabra para obtener su vector correspondiente.
   
   
5. Integra las inserciones en tu aplicación: use las inserciones generadas como características en su modelo de machine learning, o para buscar similitud, recomendación, clustering, etc., dependiendo de la tarea específica.
   

En todos los casos de incrustación, la idea es representar los datos en un espacio vectorial continuo donde se conservan las relaciones significativas. El proceso de entrenamiento implica ajustar los parámetros del modelo para minimizar la diferencia entre los valores previstos y los reales en función de la función objetivo elegida. Una vez entrenadas, las incrustaciones se pueden utilizar para varias tareas posteriores.

Las inserciones se utilizan ampliamente en varias aplicaciones del mundo real en diferentes dominios. Algunos ejemplos son:

• Inserciones de palabras en el análisis de sentimientos: las incrustaciones de palabras como Word2Vec o GloVe se utilizan para representar palabras en un espacio vectorial continuo. Los modelos de análisis de sentimiento pueden aprovechar estas incrustaciones para comprender y clasificar el sentimiento de un fragmento de texto.
  
  
• BERT para responder a las preguntas:  las incrustaciones BERT se utilizan en los sistemas de preguntas y respuestas. La modelo puede entender el contexto de la pregunta y el documento para extraer la información pertinente.
  
  
• Similitud de textos con Doc2Vec: las incrustaciones Doc2Vec se aplican en tareas como la búsqueda de documentos similares. Las incrustaciones de documentos se comparan para medir la similitud semántica entre documentos.

• Clasificación de imágenes con CNN: los CNN, como VGG o ResNet, se utilizan para tareas de clasificación de imágenes. Las características de la capa final o de las capas intermedias pueden servir como incrustaciones de imágenes.
  
  
• Recuperación de imágenes mediante CLIP: el modelo CLIP aprende incrustaciones conjuntas para imágenes y texto. Esto permite aplicaciones como la recuperación de imágenes basadas en consultas en lenguaje natural.
  
  
• Reconocimiento facial con FaceNet: FaceNet crea incrustaciones para rostros que se pueden usar para el reconocimiento facial. Estas incrustaciones se utilizan a menudo para medir la similitud entre diferentes caras.

• Filtrado colaborativo con incrustaciones: las incrustaciones se utilizan para representar usuarios y elementos en modelos de filtrado colaborativo. Los métodos de factorización de matriz aprovechan estas incrustaciones para hacer recomendaciones personalizadas.
  
  
• Recomendaciones de productos con incrustaciones de palabras: en el comercio electrónico, las descripciones o reseñas de productos se pueden incrustar mediante incrustaciones de palabras. Se pueden recomendar productos similares en función de la similitud semántica de sus incrustaciones.

• Traducción multimodal con MUSE: MUSE (Multilingual Universal Sentence Encoder) posibilita la comprensión multilingüe e intermodal. Se puede utilizar para tareas como traducir texto entre idiomas o conectar imágenes con las descripciones correspondientes.
  
  
• Búsqueda multimodal mediante incrustaciones conjuntas: se aprenden incrustaciones conjuntas para distintas modalidades, como imágenes y texto. Esto permite la búsqueda entre modales, donde una consulta en una modalidad recupera resultados en otra modalidad.

• Detección de anomalías de red con incrustaciones de gráficos: las incrustaciones de nodos de red se pueden utilizar para detectar anomalías. Los cambios en el espacio de incrustación pueden indicar un comportamiento inusual.
  
  
• Detección del fraude con incrustaciones de transacciones: las incrustaciones de datos de transacciones pueden ayudar a identificar patrones asociados a actividades fraudulentas. Las incrustaciones inusuales pueden indicar transacciones potencialmente fraudulentas.

Estos ejemplos ponen de manifiesto la versatilidad de las incrustaciones en diversas aplicaciones, lo que demuestra su capacidad para capturar representaciones y relaciones significativas en diferentes tipos de datos.