Inteligencia Artificial, falsa jurisprudencia y buena fe procesal: la solución es la misma
Inteligencia Artificial, falsa jurisprudencia y buena fe procesal: la solución es la misma
Nadie niega que el uso de Inteligencia Artificial generativa (IA) en la práctica legal, no solo en el asesoramiento previo sino en el ámbito de un proceso judicial, es irreversible. Pero tampoco que ese uso ha introducido riesgos que afectan a la ética profesional y a la integridad procesal. Para abordar esta cuestión vamos a usar un caso que a simple vista parece lejano, acercándolo luego a la doctrina y a la jurisprudencia locales.
Así, Jackie L. Miller v. Regions Bank (Tribunal del Distrito Norte de Alabama, Estados Unidos, 15 de abril de 2024 (No. 7:22-cv-01582-LSC).) ilustra con precisión la tensión entre esta nueva tecnología y el deber de supervisión humana, sentando un precedente severo sobre las consecuencias de su uso negligente o incluso doloso.
En su origen, el litigio versaba sobre derecho laboral. La parte actora demandó a su empleador alegando discriminación amparada en la Ley sobre estadounidenses con Discapacidades (ADA) y represalias por solicitar licencias médicas (FMLA). El tribunal resolvió el fondo del asunto a favor del banco mediante una sentencia sumaria (Summary Judgment), al concluir que no existía nexo causal probado entre las acciones del empleador y la condición médica de la demandante. Pero dejó en claro algo más, veamos.
El núcleo de interés de este fallo es un incidente procesal derivado de la defensa. En su escrito de oposición, el abogado de la parte actora incluyó cuatro citas jurisprudenciales y extractos de fallos totalmente inexistentes - producto de "alucinaciones" generadas por ChatGPT. Para aclarar el punto: una alucinación en el contexto de la Inteligencia Artificial (IA) y los modelos de lenguaje (LLMs) es un fenómeno en el que el chat genera una respuesta que suena convincente, fluida y coherente, pero que es técnicamente falsa, inexacta o totalmente inventada.
No se trata de un intento de engaño deliberado por parte de la IA, sino de un error estructural en su funcionamiento. Probablemente, desde un punto de vista legal, la falta de voluntad en la herramienta en el engaño le es absolutamente indiferente al Juez.
La alucinación en si misma es un subproducto probable en el uso de estas herramientas. La gravedad del caso escaló por la negligencia en la verificación de las fuentes, sumada a la conducta posterior del letrado. Al ser interpelado por el juez mediante una orden de mostrar causa (show cause order) - en buen castizo: el tribunal detectó una falta o anomalía grave (en este caso, las alucinaciones) e intimó al abogado para que diga "por qué razón el juez no debería sancionarlo".
El letrado inicialmente negó el uso de IA, luego lo admitió parcialmente y, ante el requerimiento judicial de aportar el historial digital de sus consultas, procedió a eliminar deliberadamente los registros. Esta destrucción de evidencia (spoliation) derivó en la suspensión del profesional por seis meses ante dicho tribunal y la remisión de sus antecedentes al tribunal de disciplina del colegio de abogados correspondiente.
En nuestras jurisdicciones locales, la presentación de jurisprudencia apócrifa tipifica como una conducta que atenta contra el deber de probidad procesal. Los códigos procesales facultan a los magistrados a imponer sanciones pecuniarias y disciplinarias ante actuaciones caracterizadas por la temeridad y malicia – por ejemplo, en la Argentina, se aplicarían los artículos 34 inc. 5 (facultad del Juez de señalar defectos u omisiones previos a dar trámite a peticiones) y 45 del Código Procesal Civil y Comercial de la Nación en Argentina (temeridad y malicia).
En el caso que nos ocupa, citar doctrina o jurisprudencia inexistente para inducir a error al juzgador constituyó una falta grave a la verdad material. No verificarlo fue la primera falta del letrado. No nos parece una negligencia leve, es evidente que el letrado, profesional en la materia, pudo representarse claramente el resultado de sus acciones.
Por su parte, su eliminación del historial de interacciones con la IA encuadró en la figura de destrucción u ocultamiento de prueba. En el derecho procesal continental, esta conducta no solo habilita la extracción de presunciones en contra (inferencias adversas) respecto de la parte que la comete, sino que activa mecanismos disciplinarios directos contra el abogado por inobservancia de sus deberes éticos, siendo pasible de suspensiones o cancelaciones de matrícula. Esta destrucción de elementos de prueba es aún más seria en nuestro criterio y compuso su negligencia grave con su actuación francamente dolosa.
El uso IA exige de la comunidad jurídica un estándar renovado de competencia tecnológica y control ético. La lealtad hacia el tribunal, un pilar innegociable tanto en el Common Law como en el Derecho Continental, prohíbe delegar la verificación dogmática y probatoria en algoritmos predictivos. Fallos como Miller v. Regions Bank consolidan una premisa universal: la tecnología puede optimizar la práctica legal, pero la responsabilidad profesional, el deber de investigación exhaustiva y la probidad procesal siguen siendo atribuciones exclusivas del abogado.
Así, Jackie L. Miller v. Regions Bank (Tribunal del Distrito Norte de Alabama, Estados Unidos, 15 de abril de 2024 (No. 7:22-cv-01582-LSC).) ilustra con precisión la tensión entre esta nueva tecnología y el deber de supervisión humana, sentando un precedente severo sobre las consecuencias de su uso negligente o incluso doloso.
El conflicto subyacente y la configuración de la inconducta
En su origen, el litigio versaba sobre derecho laboral. La parte actora demandó a su empleador alegando discriminación amparada en la Ley sobre estadounidenses con Discapacidades (ADA) y represalias por solicitar licencias médicas (FMLA). El tribunal resolvió el fondo del asunto a favor del banco mediante una sentencia sumaria (Summary Judgment), al concluir que no existía nexo causal probado entre las acciones del empleador y la condición médica de la demandante. Pero dejó en claro algo más, veamos.
El núcleo de interés de este fallo es un incidente procesal derivado de la defensa. En su escrito de oposición, el abogado de la parte actora incluyó cuatro citas jurisprudenciales y extractos de fallos totalmente inexistentes - producto de "alucinaciones" generadas por ChatGPT. Para aclarar el punto: una alucinación en el contexto de la Inteligencia Artificial (IA) y los modelos de lenguaje (LLMs) es un fenómeno en el que el chat genera una respuesta que suena convincente, fluida y coherente, pero que es técnicamente falsa, inexacta o totalmente inventada.
No se trata de un intento de engaño deliberado por parte de la IA, sino de un error estructural en su funcionamiento. Probablemente, desde un punto de vista legal, la falta de voluntad en la herramienta en el engaño le es absolutamente indiferente al Juez.
La alucinación en si misma es un subproducto probable en el uso de estas herramientas. La gravedad del caso escaló por la negligencia en la verificación de las fuentes, sumada a la conducta posterior del letrado. Al ser interpelado por el juez mediante una orden de mostrar causa (show cause order) - en buen castizo: el tribunal detectó una falta o anomalía grave (en este caso, las alucinaciones) e intimó al abogado para que diga "por qué razón el juez no debería sancionarlo".
El letrado inicialmente negó el uso de IA, luego lo admitió parcialmente y, ante el requerimiento judicial de aportar el historial digital de sus consultas, procedió a eliminar deliberadamente los registros. Esta destrucción de evidencia (spoliation) derivó en la suspensión del profesional por seis meses ante dicho tribunal y la remisión de sus antecedentes al tribunal de disciplina del colegio de abogados correspondiente.
Una mirada desde el Derecho Continental y Latinoamericano
Al trasladar este escenario al ecosistema de nuestro Derecho Continental, imperante en Latinoamérica, el andamiaje dogmático para sancionar estas prácticas es igualmente robusto, fundamentado en los principios de probidad, lealtad procesal y buena fe. En este punto, somos consistentes con la línea doctrinaria que hemos seguido en nuestros artículos anteriores.En nuestras jurisdicciones locales, la presentación de jurisprudencia apócrifa tipifica como una conducta que atenta contra el deber de probidad procesal. Los códigos procesales facultan a los magistrados a imponer sanciones pecuniarias y disciplinarias ante actuaciones caracterizadas por la temeridad y malicia – por ejemplo, en la Argentina, se aplicarían los artículos 34 inc. 5 (facultad del Juez de señalar defectos u omisiones previos a dar trámite a peticiones) y 45 del Código Procesal Civil y Comercial de la Nación en Argentina (temeridad y malicia).
En el caso que nos ocupa, citar doctrina o jurisprudencia inexistente para inducir a error al juzgador constituyó una falta grave a la verdad material. No verificarlo fue la primera falta del letrado. No nos parece una negligencia leve, es evidente que el letrado, profesional en la materia, pudo representarse claramente el resultado de sus acciones.
Por su parte, su eliminación del historial de interacciones con la IA encuadró en la figura de destrucción u ocultamiento de prueba. En el derecho procesal continental, esta conducta no solo habilita la extracción de presunciones en contra (inferencias adversas) respecto de la parte que la comete, sino que activa mecanismos disciplinarios directos contra el abogado por inobservancia de sus deberes éticos, siendo pasible de suspensiones o cancelaciones de matrícula. Esta destrucción de elementos de prueba es aún más seria en nuestro criterio y compuso su negligencia grave con su actuación francamente dolosa.
El uso IA exige de la comunidad jurídica un estándar renovado de competencia tecnológica y control ético. La lealtad hacia el tribunal, un pilar innegociable tanto en el Common Law como en el Derecho Continental, prohíbe delegar la verificación dogmática y probatoria en algoritmos predictivos. Fallos como Miller v. Regions Bank consolidan una premisa universal: la tecnología puede optimizar la práctica legal, pero la responsabilidad profesional, el deber de investigación exhaustiva y la probidad procesal siguen siendo atribuciones exclusivas del abogado.