Muchos usuarios utilizan ChatGPT como un ayudante, el típico becario para que te ayude con las tareas más complejas, pero hay quienes lo utilizan como un asesor personal y llegados y llegados al punto, incluso como si fuera un abogado.
Quien no ha tenido un compañero ‘listillo’ que ha llegado y ha dicho, oye que tenemos derecho a esto en el trabajo y cuando le preguntas te dice ‘me lo ha dicho ChatGPT’. Hay un caso real de una persona que fiándose del asesoramiento de ChatGPT para solicitar su jubilación se ha visto perjudicado. Pero y si un juez utilizara la inteligencia artificial para redactar el fallo de la sentencia.
Aunque no lo creas, un tribunal se ha visto obligado a anular una sentencia porque el juez había usado un sistema de inteligencia artificial para redactar parte del fallo. El caso no ha ocurrido en España, sino en Argentina y descubrieron que usó la inteligencia artificial por una frase que no debería haber aparecido en la sentencia.
‘Aquí tienes el punto reeditado, sin citas y listo para copiar y pegar’
Su texto era impecable, pero se le olvidó revisar que era exactamente lo que había copiado y dejó la frase que delato que su trabajo había pasado por la inteligencia artificial “aquí tienes el punto reeditado, sin citas y listo para copiar y pegar”. Ese desliz dejó claro que el texto no había sido escrito de puño y letra del magistrado, sino de una IA.
El tribunal anuló toda la sentencia y también el juicio completo. El motivo es bastante serio. Usar IA para redactar partes de una resolución sin transparencia ni control vulnera la obligación de motivar las decisiones judiciales y puede poner en riesgo datos sensibles del caso. Además, las normas internas del propio Poder Judicial de Chubut prohíben delegar en sistemas automáticos una tarea que es exclusiva de los jueces.
El problema fue más allá de un simple “copiar y pegar”. Nadie sabe qué herramienta usó el juez, qué información le dio a la IA ni cómo generó el contenido. Y pedirle al sistema que elimine citas evita que las partes puedan comprobar las fuentes que supuestamente sustentan la decisión.
El juez será investigado
La Cámara también envió el caso al Superior Tribunal de Justicia para investigar la conducta del magistrado. No solo por la falta ética, sino por la desconfianza que este tipo de episodios puede generar en los ciudadanos. Al fin y al cabo, hablamos de una condena penal que terminó anulada porque el juez dejó que un algoritmo escribiera parte del fallo.
El caso se suma a una lista cada vez más larga de errores protagonizados por el uso poco cuidadoso de la inteligencia artificial en el ámbito jurídico. Desde abogados que presentaron recursos con jurisprudencia inventada hasta resoluciones oficiales que acaban marcadas por frases propias de un asistente virtual.