Join the Club

Get the best of Editoria delivered to your inbox weekly

Alucinaciones con toga: el riesgo legal de preguntarle a una máquina

El caso real del TSJ de Navarra (2024): un abogado citó un artículo del Código Penal colombiano confundido con el español, generado por ChatGPT.

Un 69%. Esa es la frecuencia con la que, según el estudio citado por un tribunal español, modelos como ChatGPT-3.5 producen lo que se conoce como «alucinaciones legales»: errores factuales que se presentan con la misma seguridad que un dato cierto. El dato no aparece en un informe académico cualquiera. Aparece en una resolución judicial real, dictada para resolver un caso real, en el que esa alucinación ya había causado daño.

El caso que puso nombre al problema

En junio de 2024, el Tribunal Superior de Justicia de Navarra archivó una pieza separada abierta contra un abogado que había presentado una querella citando el artículo 454.b) del Código Penal para fundamentar un delito de destrucción u ocultación de pruebas. El problema, detectado por el propio Tribunal, era sencillo de explicar y difícil de perdonar: ese artículo no existe en el Código Penal español. Existe, según describe el análisis de Prodat, en el ordenamiento jurídico colombiano. El letrado reconoció haber utilizado ChatGPT-3 para redactar parte del escrito, y calificó el error, en su propia defensa, como «grosero e involuntario».

El Tribunal optó por no sancionar, atendiendo a que se trataba de una materia «altamente novedosa» y a que el profesional reconoció el error de inmediato. Pero dejó una advertencia que se ha citado después en numerosos análisis del sector: el caso debía servir de aviso sobre las implicaciones legales, deontológicas y éticas del uso descuidado de estas herramientas. La propia resolución citó como precedente el caso Avianca en Estados Unidos, donde un abogado fue sancionado con 5.000 dólares por un fallo similar.

Esa indulgencia, según recoge un análisis jurídico más reciente, tiene fecha de caducidad. Tras la Circular 3/2026 del Consejo General de la Abogacía Española y los primeros pronunciamientos sancionadores ya registrados en Canarias en 2026, ningún profesional puede alegar hoy desconocimiento sobre el riesgo de las alucinaciones. El estándar de diligencia exigible ha subido, y subirá más.

Por qué el problema no es solo del abogado que usa mal la herramienta

El caso de Navarra ilustra un riesgo cuando la IA la usa un profesional. Pero el fenómeno que de verdad está cambiando la relación entre cliente y abogado ocurre antes de que el profesional intervenga: cada vez más personas formulan su consulta legal directamente a un chatbot, y solo después, si acaso, a un letrado.

El problema de fondo es estructural, no anecdótico. Un análisis técnico publicado por El Derecho detalla por qué estas herramientas generalistas fallan de forma sistemática en consultas jurídicas españolas: no tienen acceso a bases de datos de jurisprudencia ni a sentencias reales, salvo que el propio usuario se las proporcione; no cubren toda la legislación vigente, sino una selección limitada de normas básicas; y, cuando necesitan información no incluida en esa selección, recurren a fuentes de internet de fiabilidad variable, sin verificación profesional alguna. El resultado puede sonar plausible, estar redactado con el lenguaje de un jurista, y ser, al mismo tiempo, completamente inaplicable al caso concreto de quien preguntó.

Ahí radica la diferencia que ningún chatbot resuelve todavía: la ley no se aplica en abstracto. Se aplica a hechos concretos, a pruebas concretas, a la situación particular de una persona. Una herramienta que no conoce esos hechos, porque nadie se los ha explicado con el detalle necesario, solo puede ofrecer una respuesta genérica disfrazada de respuesta personalizada. El propio sector lo formula como advertencia constante: cualquier resultado de una IA generalista debe tratarse como un «primer borrador», nunca como un dictamen, y su uso no exime de responsabilidad a quien lo firma.

Lo que dice la normativa, que cada vez dice más

El vacío regulatorio que durante un tiempo amparó la frase «es una tecnología muy nueva» se está cerrando con rapidez. El Reglamento europeo de Inteligencia Artificial, en vigor desde agosto de 2024 y de aplicación plena desde agosto de 2026, clasifica como sistemas de alto riesgo aquellos destinados a asistir a una autoridad judicial en la interpretación de hechos y de la ley, según recoge el análisis publicado por la propia Abogacía Española. Esa calificación implica supervisión humana obligatoria, trazabilidad de las fuentes utilizadas y un régimen de control mucho más estricto que el aplicable a un simple chatbot de atención al cliente.

A ese marco europeo se suma ahora una capa nacional. El Consejo General de la Abogacía aprobó en mayo de 2026 su Circular 3/2026, centrada específicamente en la protección de datos y el secreto profesional cuando un abogado introduce información de un cliente en un sistema de IA generativa de terceros. El análisis publicado en Confilegal subraya un matiz que conviene no perder de vista: la infracción no se produce solo cuando se presenta un escrito con errores. Puede producirse antes, en el instante mismo en que se pulsa la tecla «Enter» para enviar datos confidenciales a un servidor externo cuya arquitectura el profesional, en demasiadas ocasiones, ni siquiera conoce.

El riesgo que se mueve antes de llegar al despacho

Todo este marco normativo, por exigente que sea, regula la conducta del profesional. No regula, ni puede regular fácilmente, lo que ocurre cuando es el propio cliente quien pregunta primero a una máquina, sin supervisión de nadie, sobre un problema legal que afecta a su patrimonio, su libertad o su familia.

Ese es, probablemente, el riesgo menos visible y más extendido de todos. Una persona sin formación jurídica no está en condiciones de distinguir una respuesta correcta de una alucinación razonablemente bien escrita. Puede tomar decisiones, dejar pasar plazos, renunciar a derechos o iniciar trámites equivocados a partir de una respuesta que sonaba convincente y que, sencillamente, no se sostenía. El daño, en estos casos, no llega acompañado de ninguna advertencia judicial como la de Navarra. Llega en silencio, mucho antes de que cualquier abogado tenga la oportunidad de corregirlo.

La conclusión razonable no es rechazar la herramienta, que ya forma parte irreversible del paisaje. Es entender con precisión sus límites: una IA generalista puede orientar, resumir o servir de primer acercamiento a un problema. No puede sustituir el análisis de los hechos concretos de un caso, ni la responsabilidad profesional que solo asume quien firma con su colegiación de por medio. Cuanto antes se entienda esa diferencia, fuera y dentro de los despachos, menos casos como el de Navarra tendrán que llegar a los tribunales para que alguien lo recuerde por escrito.

Suscríbete

Recibe las noticias de Portal Legal en tu email

Rubén Bernedo

Asesor fiscal con más de diez años de experiencia en el asesoramiento a empresas, autónomos y particulares en materia tributaria. A lo largo de su trayectoria ha trabajado en la planificación fiscal, el cumplimiento de obligaciones tributarias y la resolución de procedimientos ante la Administración, ayudando a sus clientes a tomar decisiones con seguridad jurídica y una visión estratégica. Su actividad profesional se centra en el análisis de la actualidad fiscal y en el impacto práctico de los cambios normativos sobre empresas y contribuyentes. Como colaborador de Portal Legal, comparte reflexiones y opiniones sobre fiscalidad, gestión empresarial y la evolución del marco tributario, con un enfoque claro, riguroso y orientado a la realidad del ejercicio profesional.