Lo que ya está documentado

Contratar filósofos para diseñar el comportamiento de un modelo ya es una práctica que los propios laboratorios de IA documentan públicamente. Anthropic publicó la constitución completa de Claude — un documento extenso, con la filósofa Amanda Askell entre sus autores principales, que define principios que citan a Kant, a la Declaración Universal de los Derechos Humanos, hasta a los términos de servicio de Apple. Es un trabajo real, no un gesto de relaciones públicas: la evidencia es el documento mismo, publicado y con autoría declarada.

Ese documento no se pregunta qué pasa cuando el modelo sale del laboratorio y llega a un estudio jurídico de tres personas en Rosario, o a una empresa regulada en Buenos Aires sin área de compliance propia. Esa es la pregunta que nos interesa acá.

Un filósofo no piensa en abstracto: piensa para una jurisdicción, aunque no lo sepa

Un modelo entrenado con un corpus filosófico no es neutral: hereda las inclinaciones de ese corpus, y esas inclinaciones se notan justo donde más importa, en el razonamiento legal. Si la base filosófica de un asistente jurídico de IA prioriza una tradición puntual sobre la propiedad, la libertad individual o el rol del Estado, esa prioridad no es un detalle técnico menor — es una toma de posición que después aparece camuflada en cada respuesta.

El problema es que esa base filosófica no fue escrita pensando en ningún sistema jurídico latinoamericano en particular. Un modelo entrenado así no tiene, por diseño, ninguna noción de cómo funciona la propiedad bajo el Código Civil y Comercial argentino, qué dice la Ley 25.326 sobre datos personales, o qué responsabilidad profesional específica rige a un abogado matriculado en una jurisdicción provincial. Quien redactó esa base filosófica está resolviendo el problema de un producto global, no el de un estudio en Rosario.

El límite no lo inventamos nosotros — lo documenta la evidencia empírica

Un estudio de Sanna Ali, Angèle Christin, Andrew Smart y Riitta Katila sobre profesionales que intentan instalar prácticas éticas dentro de empresas tecnológicas encontró tres fricciones que se repiten: la seguridad pierde prioridad frente a los plazos de lanzamiento, los problemas difíciles de medir encajan mal en culturas gobernadas por métricas, y las reorganizaciones frecuentes destruyen el conocimiento acumulado. Nadie necesita imaginar mala fe para que el trabajo filosófico de un lab termine acotado por sus propios plazos comerciales — es, literalmente, lo que ese estudio documenta.

Ese límite se hereda un escalón más abajo. Si el alcance del trabajo filosófico dentro del lab ya está condicionado por los intereses de quien lo contrata, el alcance del documento que ese trabajo produjo también lo está — y ese condicionamiento no desaparece cuando el modelo cruza una frontera. Se traslada intacto a cualquiera que lo use, sin que nadie se lo haya avisado.

La descalificación moral, pero downstream

Mohammed Zeinu Hassen plantea el riesgo de fondo en un paper de 2025: si las máquinas asumen cada vez más decisiones éticas, las personas dejan de estar dispuestas — y eventualmente dejan de poder — formular sus propios juicios morales; tercerizar el juicio ético erosiona tanto la práctica del razonamiento moral como la rendición de cuentas sobre lo decidido. Lo plantea en abstracto, a nivel de sociedad. Nosotros lo vemos en una escala más chica y más concreta: un estudio de tres abogados en Argentina que trata el documento de un modelo como la autoridad ética final para su caso puntual está haciendo exactamente eso — tercerizando un juicio que le corresponde a él, no al modelo, y mucho menos a quien redactó ese documento pensando en un contexto que no es el suyo.

Esto no es solo un problema filosófico. Un abogado matriculado tiene un deber de responsabilidad profesional que no se delega: ningún documento redactado por un laboratorio, por prolijo que sea, lo exime de ejercer su propio juicio sobre el caso. Confiar sin verificación en la “competencia moral” de un modelo no es solo un riesgo ético — es un riesgo regulatorio, de cumplimiento y, en última instancia, de responsabilidad civil o disciplinaria para quien firma el escrito.

Lo que falta no es más filosofía en San Francisco

Julia Haas, filósofa de la mente en Google DeepMind, y un equipo de coautores le pusieron nombre exacto a esto en un paper reciente en Nature: lo llaman el “facsimile problem” — la posibilidad de que un modelo imite el razonamiento moral sin comprenderlo, produciendo la respuesta correcta sin ninguna de las consideraciones que la justifican. Su propuesta distingue entre medir “moral performance” (si el output parece apropiado) y medir “moral competence” (si el output se apoya en consideraciones moralmente relevantes) — y advierte que casi toda la evaluación actual mide lo primero, no lo segundo. Mahrad Almotahari, de la Universidad de Edimburgo, llega a lo mismo desde otro lado: producir una oración verdadera no es lo mismo que afirmar algo, porque falta el compromiso de responder por lo dicho.

Esa es la pregunta que un estudio jurídico debería poder hacerle a cualquier respuesta de IA que use para trabajar: ¿esto es competencia real para mi jurisdicción, o es un facsímil — un patrón general que se parece a lo correcto hasta que aparece el caso que lo desarma? Ninguno de estos trabajos construye esa prueba para un contexto argentino o latinoamericano, porque nadie que los escribe trabaja desde acá. No es un olvido: es, simplemente, un problema que no les toca resolver a ellos.

La filosofía de los labs de IA resuelve un problema real, y lo resuelve en serio. Pero resuelve el problema de ellos, no el de un estudio jurídico o una empresa regulada que no entrena el modelo, no participa de su diseño, y sin embargo carga con la responsabilidad de cada respuesta que ese modelo le da a un cliente. Esa capa — la que verifica si lo que el modelo devuelve es competencia real para esta jurisdicción, y no imitación general — todavía no la construyó nadie desde acá. Y mientras nadie más tenga ninguna razón para construirla, sigue siendo, literalmente, un trabajo pendiente — y es, de las preguntas que venimos siguiendo desde acá, una de las que más nos interesa seguir mirando.

Fuentes consultadas