Giganții AI analizează scenarii post-catastrofă mondială
Șefii celor mai mari companii din domeniul inteligenței artificiale, inclusiv Anthropic și OpenAI, examinează în privat diverse scenarii legate de posibile revolte publice și politice în urma unui incident catastrofal asociat cu AI, conform celor relatate de Axios. Aceștia anticipează un eveniment major, probabil un atac cibernetic, care ar putea bloca accesul la servicii esențiale, precum cele financiare, internetul sau chiar resursele de bază, precum electricitatea și apa.
Un prim incident semnificativ cauzat de o inteligență artificială nesigură ar putea intensifica reticența publicului față de tehnologie și liderii din domeniu. Aceasta include personalități ca Dario Amodei, șeful Anthropic, și Sam Altman, șeful OpenAI, dar și pe președintele american, Donald Trump, în contextul reglementării insuficiente a acestui sector.
Planificarea acestor scenarii, deși o practică obișnuită în companii și instituții de securitate națională, este acum considerată esențială, având în vedere că mulți experți din domeniu cred că un incident major este inevitabil. „OpenAI desfășoară exerciții de pregătire în cadrul cărora echipele discută și analizează o serie de scenarii potențiale,” a afirmat un purtător de cuvânt al companiei. Această abordare nu este văzută ca o anticipare a inevitabilului, ci ca o modalitate de pregătire pentru diverse circumstanțe.
În plus, economia globală ar putea suferi consecințe grave. Responsabilii din domeniul AI consideră că democrații, care au câștigat teren după recentele alegeri, vor acționa rapid pentru a limita dezvoltarea AI, însă vor întâmpina provocări semnificative. Într-un context în care infrastructura globală de AI devine tot mai importantă, un blocaj în acest domeniu ar putea afecta grav o economie deja vulnerabilă.
Conducătorii din domeniul AI conștientizează că reglementarea nu are șanse de adoptare în prezent, dar își doresc să influențeze legislația și politicile, având în vedere riscurile tot mai mari pe care le implică tehnologiile emergente de inteligență artificială.
Mulți specialiști din industria AI au exprimat, pentru Axios, îngrijorarea că în următoarele șase până la 12 luni ar putea surveni un eveniment major catastrofal. Aceștia subliniază că, chiar și în contextul în care democrații ar deține controlul asupra instituțiilor, fragmentarea politică rămâne o normă, inclusiv în cadrul Partidului Democrat.
Printre propunerile radicale avansate de democrați se numără interzicerea superinteligenței sau suspendarea dezvoltării AI avansate. Totodată, alte sugestii au obținut sprijin bipartizan, cum ar fi implementarea unui „kill switch” (buton de oprire de urgență) pentru sistemele de AI avansată.
Experții și-au exprimat scepticismul cu privire la fezabilitatea opririi tuturor sistemelor de AI. Totuși, în contextul unei crize reale, este posibil ca Washingtonul să depășească diferențele politice, așa cum s-a întâmplat în timpul pandemiei de COVID-19 și crizei financiare din 2008.
