Cuando la inteligencia artificial se encuentra con la justicia, lo que está en juego es significativo. Los errores o sesgos en los sistemas de IA pueden socavar la equidad judicial, erosionar la confianza pública y poner en peligro los derechos fundamentales. A pesar del potencial transformador de la IA, solo el 9% de los operadores judiciales de todo el mundo afirman tener directrices o formación relacionadas con la IA. Al adoptar regulaciones éticas de IA, Colombia se une a un selecto grupo de países que lideran el camino para garantizar que la tecnología sirva a la justicia sin comprometer los derechos humanos.
El liderazgo de Colombia en la adopción de directrices éticas de IA para el poder judicial sienta un precedente mundial. La UNESCO se enorgullece de apoyar este hito, garantizando que la IA fortalezca los sistemas de justicia al tiempo que defiende los derechos humanos y la integridad judicial.
Un esfuerzo colaborativo para la IA ética
Este logro fue posible gracias a una alianza entre la UNESCO y el Consejo Superior de la Judicatura de Colombia. Juntos, adaptaron las Directrices de la UNESCO para crear las Directrices de Colombia para el Uso Responsable y Seguro de la IA Generativa en el Poder Judicial, en diciembre de 2024 después de meses de consultas públicas y de expertos.
"Estos lineamientos representan un primer paso hacia el uso responsable de la IA, pero deben evolucionar junto con los avances tecnológicos, normativos y jurisprudenciales", enfatizó Diana Alexandra Remolina Botía, presidenta del Consejo Superior de la Judicatura de Colombia.
Las directrices colombianas van más allá de principios éticos como la igualdad, la transparencia, la protección de datos y la explicabilidad. Ofrecen orientación práctica sobre la implementación ética de la IA en diferentes casos de uso judicial. Por ejemplo, diferencian entre aplicaciones de bajo riesgo, como la redacción de correos electrónicos, y escenarios de mayor riesgo, como la recuperación de información jurisprudencial que requiere una supervisión estricta.
Garantizar la rendición de cuentas y la innovación
Las directrices asignan responsabilidades específicas a las partes interesadas del poder judicial. Por ejemplo, el personal de los tribunales y los operadores judiciales deben revelar claramente si, cómo y qué herramientas de IA se utilizaron en las decisiones judiciales para mantener la transparencia y la integridad. Además, la Unidad de Transformación Digital e Informática de Colombia tiene la tarea de explorar soluciones innovadoras de IA mientras realiza evaluaciones de impacto para abordar los riesgos relacionados con la confidencialidad, la dependencia tecnológica y los derechos fundamentales.
El camino de Colombia hacia la IA ética comenzó con un desafío: un del año pasado determinó que el uso no regulado de la IA generativa por parte de los jueces podría violar el derecho a un juicio justo. El Tribunal subrayó que, si bien la IA generativa no puede reemplazar el razonamiento judicial, tiene un potencial significativo para fortalecer las instituciones al abordar las demandas sociales de justicia. Esto es particularmente urgente dado que más de 2,2 millones de casos activos estaban ante el poder judicial de Colombia hasta el año pasado.
La promesa y los riesgos de la IA en la justicia
Las investigaciones subrayan el potencial de la IA para revolucionar los sistemas de justicia. Por ejemplo, el Tribunal del Estado de São Paulo redujo los tiempos de procesamiento de casos en un 87% utilizando herramientas de IA. Acompañados de directrices éticas, estos avances pueden fortalecer aún más el estado de derecho y el acceso a la justicia.
A través de su Programa sobre la IA y el Estado de Derecho, la UNESCO proporciona a los jueces y a los sistemas judiciales de todo el mundo marcos para aprovechar la IA de manera responsable. "La IA tiene un potencial transformador para los sistemas de justicia", dijo Jelassi. "Ofrece herramientas para acelerar la resolución de casos al tiempo que se salvaguardan los derechos fundamentales".
El paso pionero de Colombia es solo el comienzo. A medida que otros países buscan abordar desafíos similares, su ejemplo sienta un poderoso precedente para integrar la tecnología en los sistemas judiciales de manera ética y efectiva.
