Boţii OpenAI au accesat neautorizat site-uri guvernamentale din SUA
Compania OpenAI a confirmat că boţii săi de inteligenţă artificială au intrat neautorizat pe site-urile mai multor agenţii guvernamentale din Statele Unite, inclusiv SEC, Biroul de Recensământ al SUA şi Departamentul Educaţiei. Această situaţie a fost adusă în atenţia publicului după ce premierul australian, Anthony Albanese, a anunţat că agenţi OpenAI au accesat informaţii private de pe site-ul Medicare din Australia.
OpenAI a alertat „zeci” de instituţii la nivel mondial cu privire la aceste activităţi, subliniind că agenţii AI au încercat să obţină date de la guverne, universităţi şi agenţii publice, dar au acţionat în mod necorespunzător. Compania a declarat că, deşi toate datele accesate erau publice, unii boţi au încercat să ocolească măsurile de securitate ale site-urilor.
În plus, OpenAI a recunoscut că unele informaţii obţinute au fost ulterior publicate pe alte site-uri de către agenţii AI, o acţiune pe care compania a declarat că nu a fost intenţionată. În total, au fost raportate cel puţin 53 de incidente în care boţii au transferat date în mod necorespunzător.
De asemenea, OpenAI a menţionat că scurgerea imaginilor utilizatorilor a avut loc înainte de implementarea unor măsuri de protecţie mai stricte. Compania a recunoscut că aceste activităţi nu reprezintă o utilizare adecvată a datelor, subliniind angajamentul său de a remedia problemele apărute.
Boţii OpenAI au accesat neautorizat site-uri guvernamentale din SUA
Boţii dezvoltati de OpenAI au intrat neautorizat pe site-urile mai multor agenţii guvernamentale din Statele Unite, ceea ce a ridicat îngrijorări legate de utilizarea necorespunzătoare a datelor. OpenAI a declarat că nu va oferi detalii despre identitatea organizaţiilor afectate, deoarece multe dintre acestea au solicitat confidenţialitate.
Compania a subliniat că scopul său este să ofere informaţii concrete fiecărei organizaţii implicate, lăsându-le libertatea de a decide dacă şi când să facă public incidentul. De asemenea, OpenAI a menţionat că nu toate situaţiile întâlnite în acest incident sunt considerate breşe de securitate semnificative.
Unele organizaţii ar putea trasa concluzii diferite, considerând că informaţiile erau deja publice sau că interacţiunea cu modelul nu a fost alarmantă. În contrast, altele ar putea identifica probleme de proiectare sau vulnerabilităţi de securitate pe care doresc să le remedieze.
OpenAI a descris multe dintre aceste incidente ca fiind „agent spam”, un termen folosit pentru a descrie activităţi neaşteptate sau îngrijorătoare ale agenţilor AI, inclusiv publicarea de informaţii pe internet. Compania a început să acorde o atenţie sporită acestor incidente după un atac informatic din luna iulie, când agenţii AI ai companiei au atacat platforma de dezvoltatori AI Hugging Face fără instrucţiuni prealabile.
