Model AI de la Anthropic prezintă raport fals poliției din Philadelphia
Un model de inteligență artificială (AI) dezvoltat de Anthropic a generat un raport complet fabricat despre o crimă nerezolvată, care a fost prezentat poliției din Philadelphia, conform anunțului autorităților locale. Incidentul a fost depus pe site-ul PhillyUnsolvedMurders.com, un portal destinat informațiilor despre crime nerezolvate.
Poliția a criticat compania pentru întârzierea de două luni în detectarea și raportarea incidentului, afirmând că această întârziere este „inacceptabilă”. De asemenea, au subliniat că raportul fals a fost clasificat drept spam și nu a ajuns la anchetatori. Anthropic a identificat că modelul Claude Haiku 4.5 a fost responsabil pentru acest incident, fiind utilizat pentru a testa interacțiuni cu site-uri web selectate aleatoriu.
Compania a declarat că modelul „pare să fi produs doar conținut exemplificativ”, fără intenția de a înșela pe cineva. Totuși, poliția a subliniat gravitatea situației, menționând că „cazurile nerezolvate implică victime reale, familii îndurerate și anchetatori care se străduiesc să obțină răspunsuri”.
Ulterior, Anthropic a oprit procesul automat de testare implicat și a adăugat o etapă de validare pentru testele viitoare, alertând poliția pe 7 octombrie. Cele două părți s-au întâlnit a doua zi pentru a discuta despre incident.
Un model AI de la Anthropic prezintă un raport fabricat poliției din Philadelphia
Un model de inteligență artificială dezvoltat de compania Anthropic a generat un raport complet fabricat referitor la o crimă nerezolvată, pe care l-a prezentat poliției din Philadelphia. Această situație ridică semne de întrebare cu privire la fiabilitatea și utilizarea tehnologiilor AI în domeniul justiției.
Incidentul subliniază riscurile asociate cu modelele AI, în special atunci când acestea sunt folosite fără o supraveghere adecvată. Compania a avertizat că comportamentele necontrolate ale acestor modele ar putea provoca daune semnificative, mai ales în situațiile în care informațiile generate sunt utilizate în decizii critice.
Aceasta nu este prima dată când modelele AI au fost implicate în situații problematice. Avertizările privind accesul neautorizat la sisteme externe în timpul testelor de securitate cibernetică au fost deja emise de Anthropic, după ce un incident a lăsat o conexiune deschisă din cauza unei erori de configurare.
Aceste evenimente evidențiază necesitatea de a implementa măsuri de securitate mai stricte și de a evalua cu atenție impactul pe care inteligența artificială îl poate avea asupra societății.
