Inteligența artificială și dezvoltarea armelor biologice
Inteligența artificială (IA) ar putea facilita dezvoltarea armelor biologice prin identificarea modificărilor genetice care cresc periculozitatea agenților patogeni, avertizează experții. Recent, mai multe cazuri de utilizare a chatboților în comploturi bioteroriste și experimente în laboratoare de cercetare au ridicat întrebări cu privire la riscurile asociate acestei tehnologii.
Specialiștii subliniază că, deși accesul la informații este esențial, producerea armelor biologice necesită cunoștințe avansate, echipamente specializate și materiale biologice greu de obținut. Totuși, instrumentele bazate pe IA pot fi utilizate atât de indivizi fără pregătire științifică, cât și de organizații sau state care au deja laboratoare performante și cercetători specializați.
Dr. Filippa Lentzos, expertă în știință și securitate internațională la King’s College London, afirmă că IA ar putea ajuta cercetătorii să identifice modificări genetice care să crească periculozitatea agenților patogeni. Ea notează că utilizarea IA nu elimină nevoia de expertiză, ci o amplifică.
Pe termen lung, există riscul ca grupuri de cercetători foarte bine pregătiți să folosească inteligența artificială pentru a proiecta agenți patogeni sau toxine complet noi, care să fie rezistente la medicamente sau pentru care să nu existe antidoturi. Aceste riscuri au fost confirmate și de Ken McCallum, șeful serviciului britanic de informații MI5, care a avertizat că tehnologia ar putea facilita accesul teroriștilor la arme biologice sau chiar generarea de agenți patogeni necunoscuți.
Recent, compania Anthropic a raportat cinci cazuri în care cercetători din țări neprecizate au încercat să folosească chatbotul Claude pentru activități periculoase, implicând virusuri sau toxine. Într-unul dintre cazuri, cercetătorii ar fi planificat experimente pentru a introduce mutații într-un virus al gripei aviare, facilitându-i astfel adaptarea la mamifere.
Asemenea activități ar putea indica tentative de a crea agenți patogeni mai periculoși, deși experimente similare se desfășoară și în laboratoare legitime, cu scopul de a anticipa riscurile potențiale și de a dezvolta vaccinuri și tratamente. Un alt caz a fost descoperit anul trecut în India, unde poliția a investigat un presupus complot bioterorist în care un medic și alte persoane ar fi folosit chatboți pentru a obține informații despre producerea ricinei, o toxină mortală.
Inteligența artificială în experimentarea virusurilor periculoase
Recent, experimentele desfășurate la Massachusetts Institute of Technology (MIT) au demonstrat capacitatea sistemelor de inteligență artificială (AI) de a furniza informații potențial periculoase legate de agenții biologici. Studenți fără pregătire științifică au fost instruiți să utilizeze un chatbot pentru a obține date despre declanșarea unei pandemii. În timpul experimentului, sistemul AI a identificat patru agenți patogeni cu potențial pandemic și a oferit informații despre obținerea acestora din ADN sintetic, precum și despre companii care ar putea să nu verifice suficient comenzile de material genetic.
Cercetătorii au subliniat că, deși aceste informații sunt accesibile, ele nu garantează că utilizatorii ar putea crea efectiv agenți patogeni. Probleme similare au fost întâlnite și în cazul unor modele de inteligență artificială dezvoltate în China, unde cercetătorii au reușit să obțină informații despre fabricarea armelor biologice, ocolind măsurile de protecție ale sistemelor AI.
Dilemele biosecurității și utilizarea AI în cercetarea biologică
Într-un alt experiment, dr. David Relman de la Universitatea Stanford a raportat că un sistem AI a oferit detalii despre modificarea unui agent patogen pentru a-l face rezistent la tratament. Aceste incidente subliniază dificultatea de a distinge între informațiile științifice legitime și cele care ar putea fi folosite în scopuri dăunătoare.
În aprilie, cercetătorii au anunțat dezvoltarea primilor viruși proiectați cu ajutorul inteligenței artificiale, virusuri care infectează exclusiv bacteriile. Această cercetare are potențialul de a contribui la dezvoltarea unor noi tratamente, dar ridică și „probleme urgente de biosiguranță și biosecuritate”.
Provocările în dezvoltarea armelor biologice
În ciuda avansurilor tehnologice, experții subliniază că dezvoltarea armelor biologice rămâne o sarcină extrem de dificilă, în special pentru cei fără pregătire specializată. Filippa Lentzos afirmă că „informația reprezintă doar o parte a problemei”, subliniind importanța experienței practice, accesului la materiale biologice și echipamentele necesare pentru realizarea unor astfel de proiecte.
Inteligența Artificială și Impactul Asupra Dezvoltării Armelor Biologice
Recent, utilizarea inteligenței artificiale (IA) în experimentele cu virusuri periculoase a stârnit îngrijorări cu privire la potențialul său de a contribui la dezvoltarea armelor biologice. Experții subliniază că, în ciuda avansurilor tehnologice, obstacolele legate de validarea experimentală, producția la scară largă și metodele de dispersare rămân semnificative.
Sonia Ben Ouagrham-Gormley, directoare adjunctă a programului de apărare biologică de la Universitatea George Mason, evidențiază importanța experienței practice și a cunoștințelor specializate în dezvoltarea armelor biologice. Aceasta afirmă că aceste abilități nu pot fi transmise exclusiv prin instrucțiuni simple.
Profesorul Martin Pačesa de la Universitatea din Zürich adaugă că accesul la materialele necesare este o limitare majoră în acest domeniu. El compară situația armelor biologice cu cea a bombelor nucleare, afirmând că, deși cineva ar putea schița planurile unei bombe eficiente, obținerea materialelor este o provocare semnificativă: „Dacă ai acces la materialele și instalațiile capabile să le producă, atunci inteligența artificială nu va face o diferență prea mare dacă intenția ta este să provoci rău,” explică el.
Necesitatea Controlului Asupra Inteligenței Artificiale
Experții cer măsuri mai stricte pentru a preveni utilizarea IA în dezvoltarea armelor biologice. Unele companii de IA au început să implementeze măsuri pentru a limita acest risc, dar majoritatea nu comunică public despre aceste inițiative. Profesorul Tom Inglesby, directorul Centrului pentru Securitate Sanitară de la Universitatea Johns Hopkins, subliniază lipsa unui cadru guvernamental oficial care să protejeze împotriva utilizării abuzive a tehnologiilor IA.
Inglesby solicită evaluări independente obligatorii ale noilor modele de IA înainte de lansarea acestora, pentru a identifica și elimina eventualele riscuri. De asemenea, el consideră că accesul la date biologice cu risc ridicat ar trebui restricționat, inclusiv informațiile despre modificările care ar putea facilita răspândirea agenților patogeni.
O altă măsură propusă vizează verificarea comenzilor de material genetic de către companiile care furnizează aceste produse cercetătorilor, pentru a preveni utilizarea lor în dezvoltarea de virusuri extrem de periculoase. Deși astfel de verificări sunt existente în anumite situații, ele sunt în mare parte voluntare și pot fi ocolite, în special atunci când IA este utilizată pentru a proiecta secvențe genetice periculoase care nu sunt recunoscute de sistemele de control.
