En 2024, un abogado le pidió a ChatGPT una jurisprudencia reciente sobre alimentos provisorios. La herramienta le devolvió un fallo de Cámara con cita completa: sala, fecha, número de expediente. El problema es que ese fallo no existía. El abogado lo presentó, y lo que siguió fue la sanción que la guía del CPACF cita como caso ilustrativo de uso irresponsable de IA.

El Colegio Público de Abogados de Capital Federal no publicó esa guía como declaración de principios. La publicó porque los casos ya estaban pasando.

En síntesis

  • El CPACF publicó su guía oficial de uso responsable de IA y documentos complementarios del Instituto de Derecho Informático.
  • Sus tres pilares son: supervisión humana ineludible, confidencialidad de datos del cliente, y verificación de fuentes antes de cualquier presentación.
  • Arteclaw implementa esas tres exigencias como capas técnicas verificables, no como recomendaciones.
  • Los controles que describimos acá no son futuros: están en producción en Reclamify, LexiBot AI y el ecosistema Arteclaw.

Lo que dice el CPACF

La guía del CPACF es pública y está en cpacf.org.ar. Sintetizamos los tres ejes de mayor peso práctico.

1. La supervisión humana no es opcional

Los criterios orientadores del CPACF son precisos: “la supervisión humana, provista de pensamiento crítico para analizar, corregir o modificar el contenido generado por la IAGen, constituye una actividad ineludible en el trabajo colaborativo con esta nueva herramienta.”

“Ineludible” no deja margen. No es “recomendable” ni “cuando sea posible”. La guía aclara además que la responsabilidad permanece en el abogado: “Todo escrito o presentación que lleve la firma del abogado es de su única y exclusiva responsabilidad del profesional, independientemente de las herramientas utilizadas para su elaboración.”

Trasladado a arquitectura de producto: cualquier sistema que entregue un output legal a un abogado sin mecanismo de revisión viola este principio por diseño, no por accidente.

2. Los datos del cliente no se suben sin garantías

La Guía del CPACF establece la prohibición explícita: “Evitar cargar datos personales de nuestros clientes o terceros a una herramienta de IA.” La razón es sólida: cuidar la privacidad es parte del deber de confidencialidad y secreto profesional del artículo 10 del Código de Ética.

Eso nos obliga a decidir: o el stack respeta esa obligación en arquitectura, o no. No es un tema de términos de servicio de OpenAI. Es una obligación deontológica que precede a cualquier decisión técnica, y por eso está en el core de nuestro diseño.

3. Las citas inventadas son falta ética

La guía cita textualmente el Código de Ética del CPACF: “Es falta ética efectuar citas doctrinarias o jurisprudenciales inexistentes, o exponerlas en forma tal que falseen la opinión o el fallo invocados, o realizar falsas transcripciones de resoluciones judiciales.”

Y explican por qué los modelos generativos producen ese error con más frecuencia de lo que se suele admitir: generan respuestas basadas en patrones estadísticos, sin comprender el contenido. Eso lleva a errores fácticos, conclusiones incorrectas para el contexto legal argentino, y citas ficticias que parecen reales.

Qué hace Arteclaw con eso

Cada uno de esos tres ejes tiene una capa técnica correspondiente en el ecosistema Arteclaw. No son políticas declaradas: son controles que corren en producción y pueden auditarse.

Supervisión humana → clasificación A0-A3 + escalation obligatorio

El clasificador de riesgo A0-A3 del ecosistema evalúa cada output antes de que llegue al usuario. La escala va de A0 (información pública, sin implicancia legal) a A3 (consejo legal, impacto en derechos o contratos). Para outputs A2 y A3, la revisión humana está en el path de entrega, no como opción.

Reconocemos que la supervisión humana es ineludible — no es un ideal, es una obligación deontológica. Entonces el diseño arquitectónico tiene que hacerla inevitable, no opcional. La trazabilidad de estos controles es verificable en auditorías — cada decisión del clasificador queda registrada y disponible para revisión bajo solicitud.

Confidencialidad → modelo de datos sin PII sensible en contexto

Los Edge Functions del ecosistema procesan consultas sin inyectar expedientes completos ni datos personales del cliente en el contexto del modelo. Para casos donde el análisis requiere datos reales, el módulo de contexto del estudio inyecta solo el contexto profesional, no el expediente. La distinción es operativa: si el análisis es “cliente tiene un reclamo laboral por despido sin causa”, inyectamos {tipo_de_caso: "laboral", rol_cliente: "demandante"}, no nombres, DNI ni detalles del expediente. Entre “hay un reclamo laboral” y “el cliente se llama X con DNI Y y trabajó en la empresa Z” hay una obligación deontológica que cambia el riesgo por completo.

Citas inventadas → verificación de fuentes + Concilio

Este es el control más directo. El sistema de verificación de fuentes valida que las citas en outputs tipo RAG existan y sean accesibles antes de que el output llegue al abogado. Un output con cita no verificada es A2 por defecto y requiere revisión humana.

Para outputs de mayor riesgo, Concilio agrega una capa de peer review multi-LLM: múltiples proveedores de IA (Claude, Gemini, ChatGPT, con Opus como árbitro de síntesis) analizan el output de forma independiente. El sistema tiene patrones anti-laundering explícitos — la síntesis final no puede simplemente promediar las respuestas del panel; tiene que identificar divergencias y escalar cuando los proveedores no coinciden.

Los commits recientes en el repositorio documentan la evolución: detección automática de proveedores disponibles, aumento del límite de queries de 4K a 8K, y la incorporación de patrones de anti-laundering en el prompt de síntesis. Eso no son anuncios; es historial de git verificable.

La brecha que el CPACF identifica

La guía tiene una observación que pocas plataformas legaltech abordan directamente: la mayoría de los abogados no sabe cómo funcionan estas herramientas. Saben cómo usarlas, no por qué producen los errores que producen.

Esa brecha es el problema de diseño. Si un abogado confía en el output de una herramienta sin entender que el modelo tiene fecha de corte de entrenamiento, que no accede a normativa posterior a esa fecha, y que genera texto plausible aunque no correcto, el riesgo no es de la herramienta: es del sistema que no hizo esa limitación visible y verificable.

La máxima que repiten quienes escriben sobre prompting jurídico es directa: “En el mundo jurídico, donde la precisión es todo, un buen prompt puede hacer la diferencia entre una respuesta útil y una peligrosa.”

Pero un buen prompt no es suficiente si el output no pasa verificación antes de presentarse. El control tiene que estar en el pipeline, no en la capacidad de cada profesional de construir el prompt correcto.

Por qué tenemos el KB del CPACF en VectorMind

Los materiales institucionales del CPACF sobre IA —guía oficial y documentos complementarios, todos en cpacf.org.ar— están ingestados en VectorMind, nuestra base de conocimiento vectorial interna. Están disponibles como API para cualquier consumidor interno del ecosistema: Reclamify puede consultarlas al clasificar un output, LexiBot AI puede usarlas para responder preguntas sobre ética profesional, el futuro sistema de compliance puede citarlas directamente.

No es archivo muerto. Es infraestructura.

El modelo que usamos para clasificar si un output cumple con los estándares del CPACF puede verificarse consultando la misma fuente que la guía cita. Eso cierra el loop entre la norma colegial y el control técnico.

El punto de partida correcto

El CPACF no publicó esta guía para frenar la adopción de IA. La publicó porque la adopción ya ocurrió, y porque los colegios profesionales tienen la obligación de proveer criterios cuando sus matriculados están usando herramientas que afectan derechos de terceros.

Lo que sí frena la adopción responsable es el gap entre lo que la guía recomienda y lo que la mayoría de las implementaciones hacen. Ese gap no se cierra con buenas intenciones ni con disclaimers de “el usuario es responsable”. Se cierra con capas técnicas que hacen imposible omitir los controles que el CPACF declara ineludibles.

Arteclaw existe en ese gap.

Fuentes — CPACF:

Los materiales institucionales del CPACF sobre uso responsable de inteligencia artificial están disponibles en cpacf.org.ar. Los controles técnicos mencionados en este artículo — clasificación de riesgo A0-A3, verificación de fuentes, Concilio y trazabilidad de decisiones — son parte del sistema de gobernanza de IA del ecosistema Arteclaw, documentado en nuestra Constitución Operativa.