Cea mai mare provocare a industriei Inteligenței Artificiale: Halucinațiile
Halucinațiile reprezintă o problemă majoră pentru modelele de Inteligență Artificială, descriind născocirile pe care acestea le prezintă ca fiind realitate. Potrivit jurnaliștilor de la Futurism, pe măsură ce aceste modele devin mai avansate, ele devin și mai predispuse la halucinații, ceea ce reprezintă o provocare serioasă în contextul utilizării tot mai frecvente a instrumentelor AI, precum ChatGPT de la OpenAI.
Industria Inteligenței Artificiale se confruntă cu dificultăți în a înțelege de ce chatboții generează erori mai frecvente ca niciodată, ceea ce sugerează că nici creatorii tehnologiei nu pot explica pe deplin cum funcționează modelele lor. Această situație contrazice așteptările conform cărora modelele AI vor deveni mai fiabile pe măsură ce sunt dezvoltate.
Experții afirmă că halucinațiile ar putea fi o caracteristică inerentă a tehnologiei AI, iar Amr Awadallah, directorul executiv al start-upului Vectara, subliniază: „În ciuda tuturor eforturilor noastre, vor continua să halucineze. Asta nu va dispărea niciodată”.
Recent, noile modele de la OpenAI, o3 și o4-mini, s-au dovedit a genera halucinații mai frecvente decât versiunile anterioare, cu modelul o4-mini halucinând aproximativ 48% din timp. Aceasta sugerează o problemă sistematică în industria AI, care afectează și alte companii precum Google și DeepSeek.
În concluzie, în ciuda eforturilor continue, Inteligența Artificială se confruntă cu halucinații mai frecvente ca niciodată, iar companiile de tehnologie se află într-o situație de incertitudine în ceea ce privește direcția de dezvoltare a acestei tehnologii.
