Hay una variedad de métodos de aumento de datos. Las técnicas específicas utilizadas para aumentar los datos dependen de la naturaleza de los datos con los que trabaja un usuario. Tenga en cuenta que el aumento de datos se suele implementar durante el preprocesamiento en el conjunto de datos de entrenamiento. Algunos estudios investigan el efecto del aumento en el conjunto de validación o prueba, pero las aplicaciones de aumento fuera de los conjuntos de entrenamiento son más raras.⁴

El aumento de datos se ha aplicado mucho en la investigación para una serie de tareas de visión artificial, desde la clasificación de imágenes hasta la detección de objetos. Como tal, hay una gran cantidad de investigaciones sobre cómo las imágenes aumentadas mejoran el rendimiento de las redes neuronales (CNN) de última generación en el procesamiento de imágenes.

Muchos tutoriales y recursos no académicos clasifican el aumento de datos de imagen en dos categorías: transformaciones geométricas y transformaciones fotométricas (o, espacio de color). Ambos consisten en una manipulación de archivos de imagen relativamente sencilla. La primera categoría denota técnicas que alteran el espacio y el diseño de la imagen original, como el cambio de tamaño, el zoom o los cambios de orientación (por ejemplo, el giro horizontal). Las transformaciones fotométricas alteran los canales RGB (rojo-verde-azul) de una imagen. Algunos ejemplos de transformación fotométrica son el ajuste de saturación y la escala de grises de una imagen.⁵

Algunas fuentes categorizan la inyección de ruido con transformaciones geométricas,⁶ mientras que otras la clasifican con transformaciones fotométricas.⁷ La inyección de ruido inserta píxeles aleatorios negros, blancos o de color en una imagen de acuerdo con una distribución gaussiana.

Como ilustra la inyección de ruido, la clasificación binaria de las técnicas de aumento de imágenes en geométricas y fotométricas no cubre toda la gama de posibles estrategias de aumento. Las técnicas de aumento de imágenes excluidas son el filtrado kernel (nitidez o desenfoque de una imagen) y la mezcla de imágenes. Un ejemplo de esto último son los recortes y parches aleatorios. Esta técnica muestrea aleatoriamente secciones de varias imágenes para crear una nueva imagen. Esta nueva imagen es una composición hecha a partir de las secciones muestreadas de las imágenes de entrada. Una técnica relacionada es el borrado aleatorio, que elimina una parte aleatoria de una imagen.⁸ Estas tareas son útiles en las tareas de reconocimiento de imágenes, ya que los casos de uso del mundo real pueden requerir que las máquinas identifiquen objetos parcialmente oscurecidos.

El aumento a nivel de instancia es otro aumento. El aumento a nivel de instancia copia esencialmente las regiones etiquetadas (por ejemplo, los cuadros delimitadores) de una imagen y las inserta en otra imagen. Este enfoque entrena la imagen para identificar objetos en diferentes fondos, así como objetos oscurecidos por otros objetos. El aumento a nivel de instancia es un enfoque particularmente destacado para tareas de reconocimiento específicas de la región, como la detección de objetos y las tareas de segmentación de imágenes.⁹

Al igual que el aumento de imágenes, el aumento de datos de texto consta de muchas técnicas y métodos que se utilizan en toda una serie de tareas de procesamiento del lenguaje natural (PLN). Algunos recursos dividen el aumento de texto en métodos basados en reglas (o "fáciles") y métodos neuronales. Por supuesto, al igual que ocurre con la división binaria de las técnicas de aumento de la imagen, esta categorización no lo abarca todo.

Los enfoques basados en reglas incluyen técnicas de búsqueda y sustitución relativamente sencillas, como la eliminación o inserción aleatorias. Los enfoques basados en reglas también incluyen la sustitución de sinónimos. En esta estrategia, una o varias palabras de una cadena se sustituyen por sus respectivos sinónimos registrados en tesauros predefinidos, como WordNet o la base de datos de paráfrasis. La inversión de oraciones y la pasivación, en las que se intercambian el objeto y el sujeto, también son ejemplos de enfoques basados en reglas. ¹⁰

Según su clasificación, los métodos neuronales utilizan redes neuronales para generar nuevas muestras de texto a partir de los datos de entrada. Un método neuronal notable es la retrotraducción. Utiliza la traducción automática para traducir los datos de entrada a un idioma de destino y luego de nuevo al idioma de entrada original. De este modo, la retrotraducción aprovecha las variaciones lingüísticas que dan lugar a traducciones automatizadas para generar variaciones semánticas en un conjunto de datos de un solo idioma con fines de aumento. Las investigaciones sugieren que esto es eficaz para mejorar el rendimiento del modelo de traducción automática.¹¹

Otra estrategia son los aumentos de texto mixtos. Este enfoque implementa métodos de eliminación e inserción basados en reglas mediante incrustaciones de Neural Networks. En concreto, los transformadores preentrenados (por ejemplo, BERT) generan incrustaciones de texto a nivel de palabras o frases, transformando el texto en puntos vectoriales, como en un modelo de bolsa de palabras. La transformación del texto en puntos vectoriales generalmente tiene como objetivo captar la similitud lingüística, es decir, se cree que las palabras u oraciones más cercanas entre sí en el espacio vectorial comparten significados o frecuencias similares. Los aumentos mixtos interpolan cadenas de texto que se encuentran a una distancia determinada entre sí para producir nuevos datos que son un agregado de los datos de entrada.¹²

Muchos usuarios tienen dificultades para identificar qué estrategias de aumento de datos deben aplicar. ¿Varía la eficacia de las técnicas de aumento de datos según los conjuntos de datos y las tareas? La investigación comparativa sobre técnicas de aumento de datos sugiere que múltiples formas de aumento tienen un mayor impacto positivo que una sola, pero determinar la combinación óptima de técnicas depende del conjunto de datos y de la tarea.¹³ Pero, ¿cómo se seleccionan las técnicas óptimas?

Para abordar este problema, la investigación ha recurrido al aumento automatizado de datos. Un enfoque de aumento automatizado utiliza el aprendizaje por refuerzo para identificar las técnicas de aumento que devuelven la mayor precisión de validación en un conjunto de datos determinado.¹⁴ Este enfoque ha demostrado implementar estrategias que mejoran el rendimiento tanto en datos de muestra como fuera de ella.¹⁵ Otro enfoque prometedor para el aumento automatizado identifica y aumenta los falsos positivos de las salidas del clasificador. De este modo, el aumento automático identifica las mejores estrategias para corregir los elementos clasificados erróneamente con frecuencia.¹⁶

Desde hace poco, la investigación ha recurrido a redes y modelos generativos para identificar estrategias óptimas de aumento dependientes de la tarea¹⁷ y de la clase¹⁸. Esto incluye trabajar con redes generativas de confrontación (GAN). Las GAN son redes de deep learning que normalmente se utilizan para generar datos sintéticos, e investigaciones recientes investigan su uso para aumentar datos. Algunos experimentos, por ejemplo, sugieren que los aumentos de datos sintéticos de los conjuntos de imágenes médicas mejoran el rendimiento de los modelos de clasificación¹⁹ y segmentación²⁰ más que los aumentos clásicos. En relación con esto, la investigación sobre el aumento de textos aprovecha los modelos de lenguaje de gran tamaño (LLM) y los chatbots para generar datos aumentados. Estos experimentos utilizan LLM para generar muestras aumentadas de datos de entrada con técnicas de confusión y sinonimización, lo que demuestra un mayor impacto positivo en los modelos de clasificación de textos que en el aumento clásico.²¹

Los investigadores y desarrolladores adoptan ampliamente las técnicas de aumento de datos cuando entrenan modelos para diversas tareas de machine learning. Por el contrario, los datos sintéticos son un área de investigación comparativamente más nueva. Los experimentos comparativos entre datos sintéticos y reales muestran resultados mixtos, ya que los modelos entrenados íntegramente con datos sintéticos a veces superan a los modelos entrenados con datos del mundo real. Tal vez como era de esperar, esta investigación sugiere que los datos sintéticos son más útiles cuando reflejan las características de los datos del mundo real.²²