Halucinații generate de IA într-un caz juridic important
Firma de avocatură de elită Sullivan & Cromwell, cunoscută pe Wall Street, a recunoscut că un document esențial depus într-un caz major a conținut erori cauzate de „halucinații” generate de inteligența artificială. Andrew Dietderich, codirectorul grupului de restructurare al firmei, și-a cerut scuze în fața judecătorului federal din New York, Martin Glenn, pentru greșelile identificate, care includeau citate inexacte.
Aceste erori, descoperite de firma de avocatură Boies Schiller Flexner, includeau citarea eronată a codului falimentului din SUA și referințe incorecte la cazuri legale într-un document depus pe 9 aprilie. Sullivan & Cromwell, care are o reputație solidă în dreptul corporativ, a utilizat IA pentru a elabora concluzii rezumate, dar a recunoscut că aceste practici nu au fost conforme cu politicile interne de utilizare a tehnologiei.
Dietderich a subliniat regretul firmei pentru situația creată, menționând că a contactat Boies Schiller Flexner pentru a le mulțumi că au semnalat problema. Deși Sullivan & Cromwell implementează politici stricte pentru utilizarea instrumentelor de IA, scrisoarea a indicat că aceste reguli nu au fost respectate, iar procesul de revizuire nu a reușit să identifice citatele inexacte.
Firma a depus ulterior o versiune corectată a documentului în fața instanței. Deși avocații pot utiliza IA, este obligația etică a acestora să garanteze acuratețea documentelor depuse în instanță. Detalii despre programul de IA utilizat sau despre avocații implicați nu au fost specificate.
