Democratizar la IA: ¿Qué significa y cómo funciona?
Parpadee y es posible que se pierda el último grupo de personas que utilizan inteligencia artificial (IA).
Un día, se trata de amantes de los tacos que los piden a bots amigables en su autoservicio local.1 El siguiente, son los perfumistas que utilizan herramientas de IA para diseñar fragancias sustentables.2 O agricultores de hortalizas orgánicas que despliegan desmalezadoras robóticas.3 O usuarios de lentes bifocales que se someten a exámenes de la vista impulsados por IA.4
No hace falta una visión 20/20 para hacerse una idea: a medida que los casos de uso y los beneficios de la IA crecen a una velocidad vertiginosa, también lo hace la gran cantidad de humanos que la emplean. Una vez esotérica, la tecnología avanzada de IA empodera tanto a los consumidores como a los usuarios empresariales. Y este nivel de ubicuidad es posiblemente un indicador de la democratización de la IA.
Sin embargo, una mirada más cercana a las prácticas actuales de la IA sugiere que todavía hay margen de mejora en la democratización de la IA. Para entender por qué, es importante considerar qué implica la democratización, cómo repercute hoy en las personas y las empresas, y cómo podría afectarlas en el futuro.
Las últimas novedades e insights sobre IA
Descubra insights y noticias de expertos sobre IA, la nube y mucho más en el boletín semanal Think.
La definición de democratizar la IA varió a lo largo de los años. En términos generales, puede considerarse la difusión más equitativa de las aplicaciones y capacidades de la IA en toda la sociedad. A un nivel más granular, los investigadores suelen estar de acuerdo en al menos 3 aspectos fundamentales de la democratización de la IA:5
- Democratizar el uso de la IA
- Democratizar el desarrollo de la IA
- Democratización de la gobernanza de la IA
Democratizar el uso de la IA se refiere a proporcionar acceso a la IA a una gama más amplia de usuarios más allá de los expertos en machine learning (ML). Los medios comunes para mejorar el acceso incluyen reducir los costos de la IA e incorporar la IA en herramientas y plataformas que la gente ya está utilizando.
Es una noción que lleva años en desarrollo, mucho antes de que la IA entrara en el discurso público. En 2016, por ejemplo, Microsoft declaró que democratizaría la IA con un enfoque para “sacarla de los cuentos de hadas hacerla accesible para todos”.6 La participación del uso democratizado de la IA es que más personas se beneficiarán de las capacidades de la IA, tanto en su vida personal como laboral.
El lanzamiento y la rápida adopción de aplicaciones de IA generativa orientadas al consumidor sugieren que la democratización del uso de la IA entre los consumidores está en marcha. Una encuesta global del sentimiento del consumidor de 2023 encontró que el 75 % de los encuestados empleó herramientas impulsadas por IA.7 La aplicación de modelos de lenguaje grande (LLM) orientada al consumidor más popular, ChatGPT de OpenAI, afirma tener más de 200 millones de usuarios activos semanales.
Sin embargo, en las empresas, el uso de la IA varía según el tamaño y la industria. Por ejemplo, una investigación encargada por IBM encontró que el 42 % de las organizaciones de nivel empresarial (aquellas con más de 1000 empleados) utilizan activamente sistemas de IA, mientras que otro 40 % está explorando la tecnología. Sin embargo, una encuesta que incluyó a empresas más pequeñas (con una plantilla promedio de empleados inferior a 48) determinó que menos del 4 % de las empresas utilizan IA para producir bienes y servicios.
En esa encuesta, realizada por la US Census Bureau, las tasas de adopción también variaron según la industria, y las empresas de servicios de alimentos y construcción informaron el uso más bajo. Las empresas tecnológicas, como era de esperar, contaron con las tasas de uso más altas.8
Democratizar el desarrollo de la IA se refiere a incluir a más personas en la creación de soluciones de IA. Pero exactamente quiénes son esas personas depende de su interpretación del concepto. A menudo, se trata de proporcionar a los desarrolladores, investigadores y científicos de datos recursos informáticos y herramientas técnicas gratuitos o de bajo costo que ya son accesibles para los empleados de las grandes empresas tecnológicas.
Aún así, en otros casos, democratizar el desarrollo implica incluir usuarios no técnicos en soluciones de IA y desarrollo de modelos. Significa mirar más allá de los círculos de expertos enrarecidos a aquellas personas que no necesariamente poseen una comprensión profunda de los algoritmos de la IA, los conjuntos de datos y la informática.
Esto se puede lograr proporcionando herramientas que ayuden a los usuarios sin conocimientos tecnológicos a crear y adaptar aplicaciones impulsadas por IA. Este concepto tiene cierta similitud con la democratización de datos dentro de las empresas: el proceso de creación de sistemas y adopción de herramientas que permiten a cualquier empleado, independientemente de su formación técnica, incorporar la ciencia de datos en sus procesos de toma de decisiones.
En ambos casos, la democratización del desarrollo de la IA se considera positiva para el futuro de la innovación. Esta innovación podría optimizar los modelos de IA para servir con mayor eficacia a un abanico más amplio de stakeholders y usuarios que en la actualidad. Por ejemplo, las empresas más pequeñas que antes no podían permitirse crear aplicaciones de IA a medida podrían encontrar más factible esta tarea gracias a herramientas y servicios más asequibles.
Mientras tanto, los consumidores de grupos subrepresentados también podrían beneficiarse porque el desarrollo democratizado podría ayudar a prevenir el sesgo de la IA, que es cuando los prejuicios de la sociedad se incorporan inadvertidamente en el diseño algorítmico, los datos de entrenamiento de la IA y otros aspectos del desarrollo de la IA. El sesgo de la IA puede producir resultados poco útiles o incluso perjudiciales para las personas de grupos subrepresentados, obstaculizando su capacidad para participar en la economía y la sociedad.
Parte del problema del sesgo se debe al hecho de que, como señalan los investigadores del Centro para la gobernanza de la IA, las principales empresas de IA suelen emplear "un grupo demográfico reducido" de desarrolladores. Los investigadores concluyeron que incluir a más personas en el desarrollo de la IA podría dar lugar a aplicaciones que sirvan a intereses más diversos.9
Por ahora, la mayor parte del desarrollo y la innovación de la IA sigue concentrándose en ciertos países y en el sector con fines de lucro. Según un estudio de 2024, los desarrolladores de Estados Unidos produjeron 5 veces más modelos fundacionales de IA en un solo año que en China, hogar del segundo nivel más alto de desarrollo. Por su parte, los desarrolladores de la industria tecnológica crearon casi cuatro veces más modelos que los procedentes del mundo académico.10
La gobernanza de la IA se refiere a los procesos, estándares y medidas de protección que ayudan a garantizar que los sistemas y herramientas de IA sean seguros y éticos. En consecuencia, democratizar la gobernanza de la IA es la idea de que más personas y organizaciones, más allá de los desarrolladores y las empresas de tecnología, tienen influencia sobre el despliegue seguro y ético de la tecnología de la IA.
Tal democratización, dicen los defensores de la gobernanza, puede ayudar a minimizar los daños relacionados con el despliegue de la IA, como la discriminación o las violaciones de la privacidad. También podría ayudar a fomentar una mayor explicabilidad, interpretabilidad, transparencia y otras características que mejoren la confianza en los sistemas de IA.
Sin embargo, al igual que con la democratización del desarrollo de la IA, los detalles de quién, exactamente, debería participar en la democratización de la gobernanza pueden variar. Algunos argumentan que debería incluir deliberadamente a aquellos que se ven afectados por el despliegue de la IA.11 Otros sugieren que, de alguna manera, todos los miembros de la sociedad deberían participar en la gobernanza de la IA.12
Las medidas de democratización de la gobernanza se pueden llevar a cabo a nivel empresarial, y las empresas recopilan entrada sobre el gobierno de sus sistemas de IA de empleados o clientes. En una escala más amplia, los esfuerzos de democratización se están llevando a cabo a través de acciones de gobierno, a saber, infraestructuras voluntarias y regulaciones obligatorias, e iniciativas de colaboración en los sectores público y privado.
Diferentes herramientas y tecnologías apoyan la democratización de la IA al permitir que más personas y organizaciones desarrollen sus propias aplicaciones de IA.
Software de código abierto
El software de código abierto es un software desarrollado y actualizado colectivamente por una comunidad de usuarios. También está disponible para que cualquiera pueda emplearla, modificarla y redistribuirla sin costo alguno. En cuanto a la IA, las bibliotecas de modelos de código abierto, como las que ofrece el asociado de IBM Hugging Face, incluyen modelos fundacionales que las empresas pueden adaptar a casos de uso específicos.
Las herramientas adicionales de código abierto pueden ayudar a los usuarios a aprovechar al máximo los modelos disponibles. Por ejemplo, InstructLab, un proyecto de código abierto de IBM® Research y Red Hat, genera datos sintéticos que ayudan a acelerar el entrenamiento de LLM. Los datos sintéticos se pueden adaptar a objetivos, valores y casos de uso específicos, mientras que recopilar datos del mundo real que cumplan con especificaciones similares puede ser una tarea ardua y prohibitivamente costosa.
Software como servicio (SaaS)
La infraestructura necesaria para adaptar y desplegar con éxito los sistemas de IA puede ser un obstáculo importante para las organizaciones que buscan adoptar soluciones de IA. Dicha infraestructura incluye soluciones de almacenamiento de datos, recursos de cómputo, marcos de machine learning y plataformas de operaciones de machine learning (MLOps).
Afortunadamente, los modelos de software como servicio permiten a las empresas acelerar la adopción de la IA sin grandes inversiones en infraestructura. Una colaboración entre IBM y Amazon podría facilitar a las empresas el acceso a SaaS centrado en la IA, ya que IBM ahora ofrece almacenamiento de datos clave y soluciones de gobernanza de la IA a través del mercado AWS de Amazon.
Herramientas sin código
Gracias a las herramientas y plataformas sin código, aquellos con habilidades de programación limitadas o nulas pueden crear algunas aplicaciones de IA. Las soluciones sin código, como Amazon SageMaker Canvas, ofrecen la automatización de los flujos de trabajo de desarrollo de la IA y cuentan con interfaces de arrastrar y soltar para un enfoque centrado en la visualización.
En los últimos años, surgieron varias iniciativas en los sectores público y privado para avanzar en las 3 formas de democratización de la IA: uso, desarrollo y gobernanza. Estas iniciativas incluyen:
AI Alliance
La AI Alliance es una comunidad internacional de desarrolladores, investigadores y adoptantes de la IA que colaboran para promover una IA responsable. El grupo, lanzado en 2023 por IBM y Meta, incluye líderes de universidades, industrias y gobiernos. Los objetivos del grupo incluyen el desarrollo de puntos de referencia y herramientas de evaluación para permitir el desarrollo y el uso responsable de la IA, avanzar en el desarrollo de modelos fundacionales de código abierto y desarrollar contenido educativo para informar al público y a los legisladores.
Alianza de gobernanza de la IA
La AI Governance Alliance (AIGA) fue lanzada por el Foro Económico Mundial en 2023, tras la Cumbre de Liderazgo de IA Responsable del FEM. La AIGA promueve la inclusión, la ética y la sustentabilidad en el desarrollo y el despliegue de la IA. Su comité directivo, encargado de asesorar sobre los resultados de la alianza, incluye a líderes académicos, funcionarios del gobierno y ejecutivos de organizaciones de tecnología, como Google, IBM, Meta y OpenAI.
National AI Research Resource Pilot
El National Science Foundation’s National AI Research Resource (NAIRR) de la US National Science Foundation es una iniciativa para conectar a los investigadores de todo Estados Unidos con recursos de infraestructura de IA. El piloto consiste en una asociación con otras 12 agencias federales y otras 26 organizaciones, como Amazon Web Services, Google, Hugging Face, IBM, Intel, Meta, Microsoft y OpenAI.
Marcos de IA confiable
Diferentes gobiernos y organizaciones intergubernamentales han desarrollado infraestructuras de IA confiable para promover una mayor equidad y transparencia, entre otras cualidades clave, en el desarrollo y despliegue de sistemas de IA. Esos marcos incluyen los Principios de AI de la Organización para la Cooperación y el Desarrollo Económicos y el Marco de Gestión de Riesgos de AI del Instituto Nacional de Estándares y Tecnología (NIST) de EE. UU. Los principios de al menos una infraestructura, las Directrices Éticas para una Inteligencia Artificial Confiable de la Unión Europea, se incorporaron posteriormente a la legislación: la Ley de IA de la UE.
Programas de mejora de habilidades de la IA
La mejora de habilidades de IA prepara a los empleados con las habilidades y la educación necesarias para usar la IA en el trabajo. Las disciplinas en las que la mejora de las habilidades de la IA ha demostrado ser especialmente útil para los trabajadores incluyen atención al cliente, servicios financieros, atención médica, recursos humanos y desarrollo web. Si bien los trabajadores o sus empleadores pueden invertir en programas de entrenamiento pagados de IA, varias empresas tecnológicas y universidades ofrecen cursos de IA de forma gratuita, como Amazon, IBM, la Universidad de Harvard y la Universidad de Pensilvania.13
Notas de pie de página
1 “Taco Bell is rolling out AI ordering in hundreds of drive-thrus. Here's how it works.” ZDNET. 1 de agosto de 2024.
2 “Is the Future of Fragrance In the Hands of AI?” Fashion. 2 de enero de 2024.
3 “Carbon Robotics recauda 70 millones de dólares para ampliar las soluciones de agricultura robótica impulsadas por IA.” SiliconANGLE. 21 de octubre de 2024
4 “Meet the 'Eyebot': An AI-Powered, 90-Second Vision Test.” CNet. 17 de octubre de 2024.
5 “Democratizing AI’ and the Concern of Algorithmic Injustice.” Philosophy & Technology. 14 de agosto de 2024.
6, 12 “Democratizing AI.” Microsoft. 26 de septiembre de 2016.
7 “Consumers Know More About AI Than Business Leaders Think.” BCG. 24 de abril de 2024.
8 “How Many U.S. Businesses Use Artificial Intelligence?” United States Census Bureau. 28 de noviembre de 2023.
9, 11 “Democratising AI: Multiple Meanings, Goals, and Methods.” Association for Computing Machinery Digital Library. 29 de agosto de 2023.
10 “Artificial Intelligence Index Report 2024.” Stanford University Human-Centered Artificial Intelligence. Consultado el 28 de octubre de 2024.
13 “Aquí hay 7 clases gratuitas de IA que puede tomar en línea de las mejores empresas tecnológicas y universidades”. Fortune. 5 de septiembre de 2024.
Recursos
Gobierne modelos de IA generativa desde cualquier lugar y despliéguelos en la nube u on-premises con IBM watsonx.governance.
Vea cómo la gobernanza de la IA puede ayudar a aumentar la confianza de sus empleados en la IA, acelerar la adopción y la innovación y mejorar la confianza de los clientes.
Prepárese para la Ley de IA de la UE y establezca un enfoque de gobernanza para la IA responsable con la ayuda de IBM® Consulting.