Cómo elegir el primer proyecto de IA en una pyme industrial
Para elegir el primer proyecto conviene tener presente que los riesgos que la organización considera más altos para un sistema de IA en su contexto de uso…
Para elegir el primer proyecto conviene tener presente que los riesgos que la organización considera más altos para un sistema de IA en su contexto de uso exigen la priorización más urgente (1). Antes de comparar, defina para cada uno su finalidad, su contexto de uso y el valor que aporta. Después, conviene preferir un caso de IA diseñado para interactuar solo con sistemas computacionales y entrenado con datos no sensibles, por ejemplo datos recogidos del entorno físico, que puede merecer una priorización inicial menor.
¿Cómo elijo el primer proyecto de IA en mi pyme industrial: qué valor, qué riesgo y qué tipo de caso me conviene?
Conviene documentar, para cada candidato, los propósitos previstos, el contexto de uso y el valor de negocio, conforme a MAP 1.1 y MAP 1.4 (1). El NIST AI RMF (MAP 1.1) pide entender y documentar el contexto de uso, y entre sus consideraciones incluye los posibles impactos positivos y negativos del uso del sistema sobre individuos, comunidades, organizaciones, la sociedad y el planeta.
Después, las tolerancias al riesgo de la organización deben determinarse y documentarse, según MAP 1.5 (1). El marco no prescribe la tolerancia al riesgo: cuando no existen guías establecidas, las organizaciones deben definir una tolerancia al riesgo razonable.
Con esos datos, las políticas y los recursos deben priorizarse según el nivel de riesgo evaluado y el impacto potencial de cada sistema de IA (1). El NIST indica que un sistema que solo interactúa con sistemas computacionales y se entrena con datos no sensibles, como datos recogidos del entorno físico, puede merecer una prioridad inicial menor. Una priorización inicial mayor puede requerirse cuando el sistema se entrena con grandes conjuntos de datos sensibles o protegidos, como información de identificación personal, o cuando sus salidas tienen un impacto directo o indirecto en personas.
El Reglamento de IA de la UE clasifica como de alto riesgo los sistemas usados para asignar tareas según el comportamiento individual o para supervisar y evaluar a personas trabajadoras (2). El considerando del Reglamento de IA sobre empleo y gestión de trabajadores dice que los sistemas de IA usados para asignar tareas según el comportamiento individual, los rasgos personales o las características, o para supervisar o evaluar a personas en relaciones contractuales laborales, deben clasificarse también como de alto riesgo, porque pueden tener un impacto apreciable en sus perspectivas profesionales, sus medios de vida y los derechos de los trabajadores. El considerando del Reglamento de IA sobre empleo y gestión de trabajadores clasifica como de alto riesgo los sistemas de IA usados, por ejemplo, para asignar tareas según el comportamiento individual o para supervisar o evaluar a personas en relaciones laborales, y ese pasaje no menciona los casos que solo analizan datos del proceso.
¿Qué datos necesito y en qué estado deben estar para que el caso elegido sea viable?
Antes de elegir un caso, pregúntese qué información necesita el sistema para cumplir su objetivo (3). La guía de datos de la AESIA, publicada por el Ministerio para la Transformación Digital, sitúa esa definición como primer paso del ciclo de datos.
Después, la recopilación consiste en obtener los datos que contienen la información necesaria para desarrollar el sistema de IA (3). La precisión y la calidad de la solución dependerán, entre otros elementos, de lo representativos y suficientes que sean los datos, que generalmente se extraen de diferentes fuentes.
La misma guía define la calidad de los datos como su grado de adecuación al propósito para el que se recabaron (3). Medirla y mejorar los datos que no alcancen calidad suficiente es un proceso imprescindible de un buen gobierno del dato.
Si hay datos personales, hay que tener en cuenta la normativa aplicable en materia de protección de datos de carácter personal (3). Un candidato solo es viable si puede responder con claridad qué información necesita y si esa información es adecuada a su propósito.
¿Cómo defino de antemano qué significa que el primer proyecto ha funcionado?
Los criterios de rendimiento o garantía del sistema de IA deben medirse, cualitativa o cuantitativamente, y demostrarse en condiciones similares a las del despliegue, según MEASURE 2.3 (1).
Una vez en producción, MEASURE 2.4 indica que la funcionalidad y el comportamiento del sistema de IA y de sus componentes deben monitorizarse (1).
Si la IA va a aumentar o sustituir una actividad humana, necesita una referencia con la que compararse (1). El NIST reconoce que esa línea base es difícil de sistematizar, porque el sistema y las personas no realizan las tareas de la misma manera. Por eso conviene fijar la métrica, el punto de comparación y las condiciones de prueba antes de ver los resultados.
Comprobaciones para elegir y validar el primer caso de uso
Comprobación | Qué dice la fuente | Cómo verificarlo |
|---|---|---|
Valor de negocio y finalidad | El valor o contexto de uso de negocio está claramente definido, y la finalidad, los usos beneficiosos y el contexto previstos están entendidos y documentados. | Existe un documento que recoge finalidad, contexto y valor de negocio del caso. |
Tolerancia al riesgo | El marco no prescribe la tolerancia al riesgo; donde no hay guías establecidas, la organización debe definir una razonable. | La tolerancia al riesgo de la organización está determinada y documentada antes de elegir. |
Impacto en personas y tipo de datos | Se justifica más prioridad de riesgo si el sistema usa datos sensibles o personales o sus salidas afectan a personas. Con datos no sensibles del entorno físico y sin interacción humana, puede bastar una prioridad inicial menor. | Se comprueba si el caso trata datos personales o si sus salidas afectan a personas. |
Gestión o evaluación de trabajadores | Los sistemas para asignar tareas según el comportamiento individual o para supervisar o evaluar a trabajadores se clasifican como de alto riesgo. | Se comprueba si el caso asigna tareas o evalúa a personas en su relación laboral. |
Información necesaria | Hay que establecer con qué información se alimentará el sistema para lograr el objetivo para el que se diseña. | La información necesaria está listada y vinculada al objetivo del caso. |
Calidad de los datos | La calidad es el grado de adecuación de los datos a su propósito, y medirla y mejorarla es un proceso imprescindible del gobierno del dato. | Se ha medido la adecuación de los datos al propósito del caso y se han corregido los datos insuficientes. |
Criterio de éxito medible | El rendimiento se mide, cualitativa o cuantitativamente, y se demuestra en condiciones similares al despliegue, con las medidas documentadas. | Los criterios y las medidas de rendimiento están documentados y probados en condiciones cercanas a la planta. |
Línea base de comparación | Si la IA aumenta o sustituye una actividad humana, se necesita alguna métrica de referencia para comparar. | Existe una métrica de la actividad actual con la que comparar los resultados del sistema. |
Fuentes
- Artificial Intelligence Risk Management Framework (AI RMF 1.0), U.S. Department of Commerce, National Institute of Standards and Technology, enero de 2023
- REGULATION (EU) 2024/1689 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act), Official Journal of the European Union, 13 de junio de 2024
- Guía 7. Datos y gobernanza del dato, Ministerio para la Transformación Digital y de la Función Pública, 17 de julio de 2026