Rezumatele generate de IA de la Google oferă „milioane de răspunsuri eronate” în fiecare oră
Un experiment recent efectuat de The New York Times, în colaborare cu startup-ul Oumi, a evidențiat că funcția AI Overviews din motorul de căutare Google oferă răspunsuri corecte doar în 90% din cazuri. Aceasta înseamnă că cel puțin 1 din 10 răspunsuri generate este eronat, ceea ce, având în vedere volumul imens de căutări, se traduce în milioane de răspunsuri false pe oră.
AI Overviews, care utilizează inteligența artificială Gemini pentru a genera răspunsuri automate, a fost lansată în 2024 și a stârnit controverse încă de la început. În cadrul experimentului, s-a utilizat SimpleQA, un test standard pentru evaluarea modelelor, care a inclus 4.000 de întrebări. Primele teste efectuate de Oumi au arătat o precizie de 85%, iar după actualizarea la modelul Gemini 3, acuratețea a crescut la 91%.
Google a contestat metodologia studiului, afirmând că SimpleQA poate conține inexactități și că compania folosește un set de date mai restrâns, dar verificat cu atenție. Purtătorul de cuvânt al Google, Ned Adrians, a declarat că „acest studiu are lacune serioase” și nu reflectă cu adevărat ceea ce caută utilizatorii pe Google.
În ciuda criticilor, un indicator de acuratețe de 90% pentru IA este considerat un rezultat bun pentru industrie. Totuși, utilizarea surselor externe poate îmbunătăți rezultatul, dar ridică și probleme legate de încrederea utilizatorilor în informațiile oferite de IA, fără a verifica sursele originale.
Rezumatele generate de IA de la Google: o problemă cu răspunsurile eronate
Recent, s-a discutat intens despre rezumatele generate de inteligența artificială (IA) de la Google, care se pare că oferă „milioane de răspunsuri eronate” în fiecare oră. Această situație ridică întrebări serioase cu privire la fiabilitatea tehnologiei utilizate și la impactul acesteia asupra utilizatorilor.
Poziția companiei Google
În fața acestor critici, Google a subliniat că, deși tehnologia IA poate produce informații incorecte, utilizatorii sunt sfătuiți să verifice întotdeauna informațiile oferite. Reprezentanții companiei au declarat: „IA poate greși, așa că verificați încă o dată”. Această abordare evidențiază importanța verificării surselor și a informațiilor, chiar și în era digitală.
