Un tribunal de Florencia, Italia, advirtió sobre los riesgos de utilizar inteligencia artificial (IA) en el ámbito legal, después de que un abogado citara decisiones inexistentes en una audiencia. El episodio ocurrió durante un juicio por violación de derechos de autor relacionado con el uso de diseños en camisetas.
La audiencia se realizó en marzo, pero el caso salió a la luz este jueves 17. Según el sitio web legal Directo.it, el abogado defensor presentó como argumento algunas supuestas decisiones de la Corte Suprema. Las referencias, sin embargo, no existían y habrían sido generadas por la herramienta. ChatGPT.
Los jueces revisaron los documentos y descubrieron que eran decisiones falsas. Al ser interrogado, el abogado afirmó que el material había sido elaborado por un colega del despacho.
El tribunal consideró abrir un proceso con base en el artículo que sanciona a quienes actúan de mala fe durante el juicio. Sin embargo, los magistrados decidieron no presentar cargos. Atribuyeron el error al uso incorrecto de la inteligencia artificial.
En una decisión del 14 de marzo, los jueces llamaron la atención sobre el fenómeno de “alucinaciones” de IA. El término se refiere a respuestas inexactas o completamente falsas producidas por dichas herramientas, cuando presentan información no respaldada por datos reales.
Justicia y tecnología
La situación reaviva el debate sobre el uso de la IA en el sistema de justicia. Si bien ofrece recursos para la investigación y el análisis, su uso indiscriminado puede comprometer la integridad de los procesos legales.
El tribunal destacó la importancia de la validación humana de la información extraída de estas herramientas.
