Studiul privind diagnosticarea greșită de către chatboți
Un studiu recent realizat de Mass General Brigham din Massachusetts, publicat în Jama Network Open, evidențiază faptul că chatboții, precum ChatGPT și Gemini, oferă diagnostice greșite în peste 80% din cazurile medicale inițiale. Această cercetare a implicat testarea a 21 de modele de inteligență artificială folosind 29 de viniete clinice bazate pe texte medicale de referință.
Pe parcursul studiului, chatboții au primit informații pas cu pas despre diferite afecțiuni, inclusiv constatări din consultații și rezultate ale analizelor de laborator. Specialiștii au descoperit că toate modelele au avut o rată de eroare semnificativă, diagnosticând greșit în peste 80% din cazurile în care nu au avut acces la informații complete despre pacienți.
Chiar și în situațiile în care au avut toate informațiile necesare, chatboții nu s-au descurcat excelent, având o rată a erorilor de peste 40%. Totuși, în anumite cazuri, unii dintre acești asistenți virtuali au reușit să ofere diagnostice corecte pentru 90% dintre pacienți.
Concluzia experților este că performanța chatboților în domeniul medical depinde semnificativ de volumul de informații disponibile. Chiar și atunci când primesc date complete, aceștia pot induce utilizatorii în eroare, datorită așa-numitelor „halucinații” ale modelelor lingvistice, care generează informații inexacte atunci când nu au o soluție clară.
