Riesgo de mala precisión del modelo para la IA
Descripción
La escasa precisión de un modelo se produce cuando su rendimiento es insuficiente para la tarea para la que fue diseñado. Puede haber poca precisión si el modelo no está correctamente diseñado o si cambian las entradas previstas del modelo.
¿Por qué preocupa la escasa precisión de los modelos de cimentación?
Un rendimiento inadecuado del modelo puede afectar negativamente a los usuarios finales y a los sistemas posteriores que dependen de un resultado correcto, y el uso de datos sintéticos que no sean representativos puede agravar estos problemas. En los casos en los que los resultados del modelo son consecuentes, esto puede dar lugar a daños sociales, de reputación o financieros.
Tema principal: Atlas de riesgos de IA
Proporcionamos ejemplos cubiertos por la prensa para ayudar a explicar muchos de los riesgos de los modelos de fundación. Muchos de estos sucesos de los que se ha hecho eco la prensa aún están evolucionando o se han resuelto, y hacer referencia a ellos puede ayudar al lector a comprender los riesgos potenciales y a trabajar para mitigarlos. Resaltar estos ejemplos son sólo para fines ilustrativos.