El Consejo Superior de la Judicatura (CSJ) de Colombia expidió el 16 de diciembre de 2024 el Acuerdo PCSJA24-12243, “por el cual se adoptan lineamientos para el uso y aprovechamiento respetuoso, responsable, seguro y ético de la inteligencia artificial en la Rama Judicial”. No es una recomendación genérica: son reglas concretas para magistrados, jueces y empleados de todas las jurisdicciones y especialidades, así como para directivos y empleados de las unidades y direcciones administrativas de la Rama Judicial.

El acuerdo llega en un momento en que juzgados de distintas jurisdicciones —no solo en Colombia— empezaron a usar herramientas de IA generativa para redactar escritos, revisar jurisprudencia y preparar análisis de fallos. El riesgo que motiva la norma ya está documentado en más de una corte del mundo: herramientas generativas que producen citas y referencias con apariencia de autoridad judicial real pero contenido inexistente. El CSJ respondió fijando principios y deberes operativos, no solo una advertencia.

Lo relevante para el ecosistema LATAM: el acuerdo colombiano sigue, en sus líneas generales, un patrón que reaparece en otros marcos regionales de gobernanza judicial de IA: priorizar supervisión humana verificable, trazabilidad de qué herramienta se usó y protección de datos por sobre reglas atadas a un producto específico. Eso hace que una arquitectura de gobernanza pensada así sea portable entre jurisdicciones, aunque cada país fije sus propios detalles de implementación.

Qué exige el Acuerdo PCSJA24-12243

1. Tres categorías de uso, no una prohibición genérica

El acuerdo organiza los usos permitidos de IA en la Rama Judicial en tres categorías con distinto nivel de exigencia: gestión administrativa (optimizar procesos y tareas de apoyo, el nivel de menor exigencia), usos que requieren revisión detallada antes de utilizarse, y usos sujetos a altos estándares éticos que demandan transparencia, responsabilidad y protección de la privacidad. No es un semáforo binario permitido/prohibido: el nivel de escrutinio exigido escala con el uso.

2. Supervisión humana como principio, no como sugerencia

El Artículo 3 del acuerdo fija, entre sus Principios y Garantías, la primacía de los derechos fundamentales y la supervisión, control y verificación humana: los funcionarios y empleados judiciales son responsables de ejercer escrutinio estricto sobre las acciones y decisiones en las que usan herramientas de IA. El acuerdo es explícito en un punto que las áreas de comunicaciones de la propia Rama Judicial repiten: la IA no puede sustituir la decisión de un juez. El deber incluye conocer las funcionalidades, limitaciones y riesgos de la herramienta usada, y controlar y verificar la fiabilidad de lo que produce antes de incorporarlo a un expediente o una decisión.

3. Trazabilidad obligatoria: declarar qué herramienta se usó

El Artículo 14 exige informar explícitamente el uso de IA en expedientes, documentos o decisiones judiciales, especificando el nombre de la herramienta, el modelo, la empresa proveedora y la fecha de uso. También exige comunicar y compartir los proyectos o iniciativas institucionales que involucren IA, incluida la IA generativa. Es un deber de transparencia documental, no una formalidad: sin ese registro no hay forma de auditar después qué participó en una decisión.

4. Protección de datos y neutralidad de proveedores

El acuerdo reconoce explícitamente los riesgos de sesgos, errores, violación de derechos fundamentales y problemas de seguridad de datos, y exige análisis de impacto sobre protección de datos, protocolos de mitigación de riesgos y neutralidad tecnológica en la selección de proveedores. Su Capítulo 5 establece, además, lineamientos de acompañamiento, seguimiento y actualización continua de la implementación — los criterios no quedan fijos en el texto de 2024, están sujetos a revisión.

Cómo implementamos eso en Arteclaw

Cada uno de esos cuatro puntos tiene una capa técnica correspondiente en el ecosistema Arteclaw, aunque los dos primeros comparten un mismo mecanismo. No son políticas declaradas: son controles que corren en producción y pueden auditarse.

Categorías de riesgo y supervisión humana → clasificación A0-A3 + escalation obligatorio

El clasificador de riesgo A0-A3 del ecosistema traduce técnicamente esas tres categorías de uso del acuerdo en cuatro niveles de exigencia creciente, y evalúa cada output antes de que llegue al usuario. Para outputs clasificados como A2 y A3 (contextos judiciales de alto riesgo), la revisión humana está en el path de entrega, no como opción. El sistema registra quién revisó, cuándo y qué cambios hizo — el mismo tipo de escrutinio estricto que el Artículo 3 del acuerdo exige de funcionarios y empleados judiciales.

Para un contexto legal colombiano: un escrito que contenga referencia jurisprudencial es A2 por defecto. No se entrega al abogado hasta que alguien lo haya validado manualmente. Ese punto de pausa queda registrado en logs inmutables.

Trazabilidad → registro de qué modelo generó qué, y quién lo revisó

El deber de declarar herramienta, modelo, proveedor y fecha de uso (Artículo 14) es, en términos técnicos, un requisito de logging estructurado. Cada output generado por el ecosistema Arteclaw queda registrado con esos cuatro datos más quién lo revisó y qué cambió — no como un campo opcional, sino como parte del pipeline de entrega.

Cuando el sistema no puede verificar con confianza una salida generada (por ejemplo, una referencia normativa o jurisprudencial), escala a Concilio — un panel de múltiples proveedores de IA (Claude, Gemini, GPT-4, con Opus como árbitro) que analiza el output de forma independiente. Si no hay consenso, el output se rechaza y se devuelve marcado como “REQUIERE VERIFICACIÓN MANUAL contra fuente oficial” — remitiendo a las bases de datos públicas reales de jurisprudencia colombiana (Corte Constitucional, Corte Suprema de Justicia, Consejo de Estado, SUIN-JURISCOL), no a un dominio inventado.

Datos de procesos → modelo de contexto sin PII sensible

Los Edge Functions del ecosistema procesan consultas sobre procesos colombianos sin inyectar expedientes completos ni datos identificables de partes. Si un análisis requiere datos reales, el módulo de contexto inyecta solo metadatos: {tipo_de_proceso: "laboral", rol_cliente: "demandante", tipo_de_reclamo: "despido sin justa causa"}, no nombres, números de cédula, detalles de la demanda.

Eso reduce el riesgo de exposición de datos sensibles y se alinea con lo que el acuerdo exige en materia de protección de datos: análisis de impacto y protocolos de mitigación de riesgos antes de exponer información de un proceso a una herramienta de IA.

La otra mitad del punto 4 —neutralidad tecnológica en la selección de proveedores— es, en los hechos, lo que ya hace Concilio: el panel de múltiples proveedores (Claude, Gemini, GPT-4) no ata la validación de un output a un único modelo. Si un proveedor cambia condiciones, sube de precio o queda fuera de servicio, el sistema no depende de él en exclusiva.

Por qué esto importa ahora

El acuerdo lleva en vigor desde diciembre de 2024, y su Capítulo 5 exige seguimiento y actualización continuos de la implementación. Eso significa que los criterios no son un checkbox que se cumple una vez: van a seguir ajustándose a medida que la Rama Judicial acumule experiencia real con estas herramientas, y los equipos que operan sobre procesos colombianos deberían asumir que las exigencias específicas se van a precisar, no relajar.

Un equipo técnico que diseña hoy con gobernanza por arquitectura — supervisión humana en el path de entrega, trazabilidad de qué modelo generó qué, minimización de datos sensibles — no necesita rediseñar cuando esos criterios se actualicen. Un equipo que confía en buenas intenciones y disclaimers va a enfrentar un rediseño caro cada vez que el Capítulo 5 se active.

Checklist — Evaluación de IA en Contextos Judiciales Colombianos

Antes de desplegar herramientas de IA en litigio o asesoría judicial en Colombia, validar:

  • Riesgos clasificados: ¿Qué tipo de escrito o decisión genera este output? ¿Es A0 (información pública), A1 (análisis informativo), A2 (estrategia legal), A3 (decisión judicial)?
  • Supervisión documentada: ¿Hay un punto de pausa antes de entregar outputs A2/A3? ¿Quién revisó? ¿Qué cambios se hicieron?
  • Trazabilidad de herramienta: ¿Se registra qué herramienta, modelo, proveedor y fecha se usaron para generar el output, tal como exige el Artículo 14 del acuerdo?
  • Verificación de fuentes: ¿Las referencias normativas o jurisprudenciales se validan contra fuentes oficiales (Corte Constitucional, Corte Suprema, Consejo de Estado, SUIN-JURISCOL) antes de citarlas? ¿Hay un rechazo explícito si no se verifican?
  • Confidencialidad de datos: ¿Los datos de partes (nombres, cédulas, hechos sensibles) se procesan sin almacenarlos en sistemas comerciales? ¿Se documentó el análisis de impacto sobre protección de datos?
  • Auditoría trail: ¿Existen logs que muestren qué hizo el sistema, quién lo revisó y cuándo?

Referencia: Consejo Superior de la Judicatura de Colombia — Acuerdo PCSJA24-12243 del 16 de diciembre de 2024, “Por el cual se adoptan lineamientos para el uso y aprovechamiento respetuoso, responsable, seguro y ético de la inteligencia artificial en la Rama Judicial”. Texto del acuerdo: actosadministrativos.ramajudicial.gov.co. Código General del Proceso, Ley 1564 de 2012. Ley 1581 de 2012 y Decreto 1377 de 2013 (autorización y consentimiento en tratamiento de datos personales).