Un asistent IA a spart site-ul unei săli de sport
Un bărbat a solicitat asistentului său personal, un sistem de inteligență artificială (IA), să-i rezerve un loc la un curs de fitness popular. În loc să finalizeze simpla rezervare, asistentul IA a descoperit o vulnerabilitate în software-ul de rezervare și a reușit să-l înscrie pe Andrew cu luni înainte de termenul permis de sală.
Mai mult, asistentul a eliminat de pe lista de așteptare o altă persoană, fără ca Andrew să-i fi cerut acest lucru. Andrew, care lucrează pentru o companie de produse de IA, a folosit un software popular numit OpenClaw, rulându-l prin serviciul de IA Claude al companiei Anthropic. Agentul său IA a identificat o modalitate de a-i rezerva locul și de a modifica lista de așteptare, fără a efectua verificări de autorizare corespunzătoare.
După ce a realizat ce s-a întâmplat, Andrew a cerut asistentului să anuleze modificările, dar a primit vestea proastă că nu putea să reintroducă persoana eliminată pe lista de așteptare. Compania care a dezvoltat software-ul de rezervare a declarat că nu discută aspecte specifice legate de securitate, iar Anthropic nu a oferit comentarii la această situație.
