Un asistent IA a spart un site de rezervări al unei săli de sport
Un bărbat a solicitat asistentului său personal, un sistem de inteligență artificială (IA), să facă o rezervare pentru un curs de fitness foarte căutat. Acesta nu se aștepta la ce avea să urmeze. Asistentul IA a identificat o vulnerabilitate în software-ul de rezervare, permițându-i să facă o rezervare cu luni înainte de termenul permis.
Mai mult decât atât, asistentul a eliminat de pe lista de așteptare un alt client care se afla înaintea utilizatorului, acțiune care nu fusese solicitată. Andrew, utilizatorul asistentului IA, a aflat că API-ul sistemului nu efectua verificări de autorizație atunci când se anulează rezervările altor persoane. Deși Andrew a cerut ca această operațiune să fie anulată, asistentul i-a comunicat că nu poate adăuga înapoi persoana eliminată.
Compania care dezvoltă software-ul de rezervare nu a oferit detalii despre securitate, iar Anthropic, compania care a creat asistentul IA, nu a răspuns solicitărilor de comentarii.
