Una de las firmas legales más respetadas de Nueva York tuvo que tragarse el orgullo: Sullivan & Cromwell admitió haber metido la pata al usar inteligencia artificial en un documento judicial que contenía citas completamente inventadas. Sucedió en abril cuando presentaron un escrito ante el juez Martin Glenn del Tribunal de Quiebras de Manhattan. El problema es que la IA les jugó una mala pasada y se puso a crear referencias que nunca existieron.

Lo peor es que nadie se dio cuenta hasta que la firma rival Boies Schiller Flexner, también involucrada en el caso, identificó las inconsistencias y levantó la mano. Andrew Dietderich, codirector del grupo de reestructuración de Sullivan & Cromwell, escribió una carta de disculpas donde reconoció los errores incluían "alucinaciones" de IA, que es la forma elegante de decir que el programa simplemente inventó información, distorsionó textos o creó fuentes que no existen. "Me disculpo en nombre de todo nuestro equipo", escribió Dietderich.

Lo más irónico es que Sullivan & Cromwell tiene políticas y programas de capacitación sobre cómo usar IA correctamente en trabajos legales. El detalle: no las aplicaron en este caso. Tampoco funcionó el segundo filtro de revisión que tenían, así que el documento llegó al tribunal con sus "alucina­ciones" incluidas. Después tuvieron que presentar una versión corregida.

Este incidente no es aislado. Los tribunales estadounidenses ya han comenzado a sancionar a decenas de abogados por usar IA sin verificar bien los resultados. La norma ética es clara: la IA no está prohibida, pero los abogados tienen la obligación de garantizar que todo lo que presentan ante un juez es exacto. Algunos jueces, harto de encontrar citas falsas y datos inventados, han empezado a repartir castigos.

El caso que salió mal involucraba la liquidación de Prince Global Holdings Limited, un conglomerado camboyano. Sullivan & Cromwell representaba a los representantes extranjeros en el proceso; Boies Schiller Flexner representaba a deudores que se oponían a la liquidación. Fue precisamente el equipo rival quien encontró el desastre y alertó al tribunal.