Centro-i para la Sociedad del Futuro, think tank mexicano enfocado en análisis de políticas públicas, presentó el manual “Regulación ágil para la Gobernanza de la IA”, una metodología que propone que gobiernos, empresas, universidades y otras organizaciones puedan establecer reglas para la inteligencia artificial que se ajusten conforme cambien la tecnología, sus riesgos y la evidencia disponible.
El objetivo del manual es que las organizaciones puedan identificar qué riesgos puede generar un sistema de IA, qué personas y derechos podrían verse afectados y qué medidas son necesarias para reducirlos, en lugar de aplicar las mismas reglas a cualquier tecnología o uso de IA.
El documento señala que los ciclos tradicionales para crear y modificar leyes y reglamentos pueden resultar demasiado lentos frente a la velocidad de evolución de la IA. Sin embargo, la propuesta no consiste únicamente en actualizar las normas con mayor frecuencia, sino en cambiar la manera de regular la IA para incorporar monitoreo, evidencia y mecanismos que permitan corregir una medida o detenerla cuando sea necesario.
Durante la presentación, Elena Estavillo, directora general de Centro-i, explicó que la propuesta no se limita al ámbito gubernamental. En una empresa, por ejemplo, la gobernanza de IA puede traducirse en políticas internas, códigos de conducta o estándares corporativos, mientras que en una universidad puede aplicarse mediante protocolos de comités de ética, reglamentos de investigación o directrices académicas.
“Cuando hablamos de regulación no solo se habla de leyes, en general son sistemas de reglas que sirven para definir procesos, responsabilidades, alinear incentivos entre todos los actores participantes en todo tipo de ámbitos. Por eso, este manual también es aplicable fuera del entorno gubernamental”, destacó Estavillo.
Una regulación de IA que se ajuste a cada caso
Para definir qué medidas aplicar, el manual propone analizar cada sistema de IA dentro del contexto en el que opera. La metodología considera el nivel de impacto que puede tener un sistema y cuánto se conocen sus posibles efectos. La combinación de ambas variables permite determinar qué tipo de medidas pueden ser adecuadas para cada caso.
Un sistema con bajo impacto y efectos conocidos, por ejemplo, podría gestionarse mediante principios, guías o esquemas voluntarios con revisiones periódicas y mecanismos de vigilancia bien establecidos. Esto no significa que deba dejarse sin seguimiento, ya que los riesgos pueden cambiar conforme evoluciona la tecnología o aumenta su uso.
En cambio, cuando el impacto potencial es alto y existe incertidumbre sobre sus efectos, pueden utilizarse mecanismos de mayor supervisión, como pruebas piloto controladas y protocolos que permitan ajustar las medidas conforme se obtenga nueva información.
La metodología también propone establecer umbrales que activen una revisión cuando cambien las condiciones. Si aumenta la escala de uso de un sistema o aparece un daño inesperado, por ejemplo, la regulación podría revisarse antes de que el problema se agrave.
Además, el análisis toma en cuenta las capacidades de las instituciones y de los equipos responsables, así como factores como la urgencia, el alcance de la tecnología y los cambios en el entorno.
Protección de los derechos
Una parte fundamental del documento, según Estavillo, es que Centro-i toma como referencia la Carta Iberoamericana de Principios y Derechos en los Entornos Digitales para identificar qué derechos podrían verse afectados por un sistema de IA y qué salvaguardas pueden reducir esos riesgos. Para la experta, experimentar con nuevos esquemas regulatorios no implica reducir la protección de los derechos. Por el contrario, estos procesos deben incorporar desde el inicio mecanismos para vigilar sus resultados y corregirlos si generan efectos no previstos.
En este sentido, Mariana Benítez, integrante de la Comisión Especial en Materia de Inteligencia Artificial de la Cámara de Diputados, destacó que el reto no consiste en elegir entre regular o permitir la innovación sino en establecer «una regulación capaz de aprender, de medir y corregir con la velocidad de la tecnología sin debilitar los derechos de las personas».
Según la diputada, esto se debe a que las leyes tradicionales pueden quedar rezagadas frente a la velocidad con que evoluciona la IA. Por lo que considera que establecer únicamente principios generales no es suficiente si no existen responsabilidades, métricas y consecuencias claras.
En este contexto, planteó que el Estado también debe asumirse como usuario y comprador de sistemas de IA y aplicar criterios de evaluación y seguimiento en sus procesos de adquisición. La regulación ágil, explicó, permitiría aprender de la aplicación de las reglas, medir sus resultados y corregirlas cuando sea necesario, en lugar de asumir que una regulación seguirá funcionando de la misma manera una vez aprobada.
El manual también plantea un enfoque diferenciado para considerar posibles efectos sobre grupos en situación de vulnerabilidad. Además, incluye ejemplos sobre sesgos socioeconómicos y de género en sistemas automatizados, así como casos de regulación ágil en Latinoamérica y otras regiones.
12 herramientas para regular la IA
El manual también identifica 12 instrumentos que pueden utilizarse para diseñar esquemas adaptables, entre ellos se encuentran los sandboxes regulatorios, protocolos adaptativos, herramientas tecnológicas para apoyar la supervisión, laboratorios de innovación, autorregulación, corregulación, certificaciones voluntarias y pruebas piloto supervisadas.
También contempla esquemas de incentivos, regulación basada en principios y resultados, gobernanza anticipatoria y cláusulas que permitan revisar, modificar o terminar una medida. De acuerdo con Estavillo, estas herramientas pueden combinarse dependiendo del problema. Por ejemplo, una prueba piloto puede utilizarse para generar evidencia antes de establecer nuevas reglas.
La metodología propone siete fases para acompañar una regulación o política desde su diseño y puesta en marcha hasta la evaluación de sus resultados. Estas consisten en justificación, planeación, diseño, despliegue, monitoreo, retroalimentación y cierre. A partir de lo observado, la organización puede decidir si mantenerla, modificarla, pausarla o terminarla.
Aplicaciones en gobierno y universidades
Durante la presentación, Gabriel Palombo, director general de la Agencia Digital de Baja California, señaló que algunos proyectos desarrollados en el estado ya incorporan elementos similares al enfoque propuesto por Centro-i.
Por su parte, Pablo Pruneda Gross, coordinador general del Consejo Coordinador de Inteligencia Artificial de la UNAM, señaló que la metodología también puede aplicarse en instituciones académicas, por ejemplo, mediante protocolos para investigación con IA, evaluación de proyectos y formación de personal.
Con el manual, Centro-i plantea que la regulación de la IA pueda incorporar aprendizaje y ajustes conforme cambien sus efectos, sin dejar de lado la protección de los derechos.
