El Consejo de Estado estableció lineamientos sobre el uso de la inteligencia artificial en la administración de justicia, luego de identificar que un recurso judicial fue sustentado con referencias a sentencias inexistentes que habrían sido generadas por ChatGPT.
La decisión, considerada uno de los pronunciamientos más relevantes de la justicia colombiana sobre el uso de IA generativa, surgió durante el análisis de un recurso extraordinario de unificación de jurisprudencia. En este caso, los denunciantes argumentaban que una sentencia previa había desconocido precedentes del propio Consejo de Estado.
Sin embargo, tras revisar las decisiones judiciales citadas como sustento del recurso, el alto tribunal encontró que varias de ellas no existían o no coincidían con los datos consignados en el expediente.
La Relatoría de la Sección Tercera realizó las verificaciones correspondientes y concluyó que era imposible localizar las providencias mencionadas en las bases oficiales de la corporación. Aunque las referencias incluían números de radicado, fechas, magistrados ponentes y supuestas reglas jurídicas, ninguna correspondía a los fallos descritos por los recurrentes.
Ante esta situación, el Consejo de Estado rechazó el recurso y aprovechó la providencia para desarrollar una reflexión sobre los riesgos asociados al uso de herramientas de inteligencia artificial generativa en actuaciones judiciales.
La IA no puede sustituir el criterio jurídico humano
En su análisis, la corporación reconoció que tecnologías como ChatGPT ofrecen oportunidades para agilizar tareas de investigación, consulta y redacción. No obstante, enfatizó que estas herramientas no pueden reemplazar el juicio crítico, la interpretación jurídica ni la responsabilidad profesional de quienes intervienen en un proceso judicial.
El tribunal recordó que toda información obtenida mediante sistemas de inteligencia artificial debe ser sometida a procesos de verificación y contraste antes de ser utilizada en escritos, conceptos o decisiones judiciales.
«La tecnología, por sí misma, no constituye el problema; por el contrario, representa una oportunidad para fortalecer las capacidades humanas», señaló la providencia. Sin embargo, advirtió que el riesgo aparece cuando abogados, jueces o funcionarios presentan información generada por estos sistemas sin comprobar su autenticidad o exactitud.
Seguridad jurídica
El Consejo de Estado destacó que la expansión de la inteligencia artificial en el sector legal exige mantener el control humano sobre las decisiones judiciales y reforzar principios como la buena fe, la transparencia, la lealtad procesal y la diligencia profesional.
Según la corporación, los operadores jurídicos tienen el deber de capacitarse en el uso de estas herramientas y comprender tanto sus beneficios como sus limitaciones, especialmente frente al fenómeno conocido como «alucinaciones», en el que los sistemas de IA generan información falsa presentada con apariencia de veracidad.
La providencia subraya que ni abogados ni jueces pueden delegar en la inteligencia artificial las valoraciones que corresponden exclusivamente al razonamiento humano, ni tampoco excusarse en el uso de estas tecnologías para justificar errores o información inexacta.
Investigación disciplinaria
Además de rechazar el recurso extraordinario, el Consejo de Estado ordenó remitir copia íntegra del expediente a la Comisión Seccional de Disciplina Judicial de Bogotá para que determine si existe mérito para adelantar una investigación disciplinaria.
Asimismo, exhortó a los operadores jurídicos y abogados a emplear sistemas de inteligencia artificial de manera ética, responsable y acorde con los principios que rigen la administración de justicia.
Con esta decisión, el Consejo de Estado busca prevenir errores derivados del uso indebido de herramientas de IA, proteger la seguridad jurídica y garantizar que las decisiones judiciales continúen siendo producto del análisis y la responsabilidad de las personas, y no de sistemas automatizados.
