Din cuprinsul articolului
Google a eliminat anumite rezumate generate de inteligența artificială (AI) pentru întrebări despre sănătate din paginile de căutare după ce o investigație a arătat că oferă informații inexacte sau înșelătoare, în special despre teste medicale esențiale.
Află motivele, implicațiile și cum afectează utilizatorii căutările de sănătate online.
Rezumatele AI despre sănătate dispar de pe Google din cauza erorilor
Google a făcut recent un pas important în gestionarea conținutului generat de inteligența artificială în rezultatele de căutare, retrăgând anumite întrebări legate de sănătate din trusele sale de „AI Overviews” după ce o investigație a scos la iveală informații inexacte care ar fi putut duce la confuzie sau chiar riscuri pentru utilizatori.
Funcția AI Overviews este menită să ofere un rezumat generat de AI în partea de sus a rezultatelor căutării, oferind răspunsuri rapide la întrebările utilizatorilor.
Totuși, în cazul unor întrebări medicale sensibile, cum ar fi intervalele normale pentru testele de sânge ale ficatului sau teste de funcție hepatică, AI s‑a bazat pe mulțimi de numere fără context, fără a ține cont de factori cruciali precum vârsta, sexul, etnia sau alți indicatori medicali relevanți.
Aceste rezumate au fost eliminate pentru întrebări precum „care este intervalul normal pentru testele de sânge ale ficatului?” deoarece ar fi putut induce în eroare persoanele cu afecțiuni grave, ducând la concluzii false despre sănătatea lor, potrivit Euronews.
De ce a luat Google această decizie și care sunt implicațiile
Decizia de a elimina anumite întrebări despre sănătate din AI Overviews a venit după un raport al The Guardian care a evidențiat faptul că aceste rezumate pot oferi informații medicale simplificate sau chiar greșite, uneori fără avertizări sau recomandări către surse medicale de încredere.
Probleme identificate
- AI‑ul Google a prezentat intervale numerice fără a explica variabilele care influențează valorile testelor medicale.
- Aceste informații pot determina persoanele să creadă în mod eronat că rezultatele lor sunt normale.
- Experți în sănătate au avertizat că fără context medical adecvat, astfel de răspunsuri pot fi periculoase pentru utilizatori.
Reacția experților
Organizații de sănătate și experți spun că, deși retragerea acestor rezumate este un pas în direcția cea bună, problema mai largă a informațiilor medicale generale oferite de AI rămâne nerezolvată și necesită îmbunătățiri susținute pentru a garanta acuratețea și siguranța utilizatorilor.
Contextul mai larg: AI și sănătatea online
Retragerea respectivelor întrebări din AI Overviews aduce în prim‑plan o problemă mai mare: rolul tot mai mare al inteligenței artificiale în furnizarea de informații despre sănătate și riscurile asociate cu suprasimplificarea conținutului medical relativ complex.
Mecanismele de siguranță și verificare a acurateței devin cruciale, în contextul în care utilizatorii caută rapid soluții la întrebări legate de sănătate pe internet.
Acuratețea nu înseamnă doar date corecte, ci și context medical complet, avertizări privind limitele informațiilor automate și îndrumări către profesioniști de sănătate atunci când este cazul.
Ce înseamnă pentru utilizatorii de internet
Google a început să ajusteze modul în care AI‑ul său tratează întrebările legate de sănătate ca urmare a criticilor privind fiabilitatea acestor rezumate. Eliminarea unor întrebări medicale din AI Overviews este un semnal că tehnologia trebuie să fie utilizată cu prudență în domenii sensibile, cum ar fi sănătatea.
Pentru utilizatori, asta înseamnă:
- Mai multă precauție în interpretarea informațiilor despre sănătate din rezumatele AI.
- Căutarea de surse medicale de încredere suplimentare înainte de a lua decizii.
- Consultarea profesioniștilor din domeniul medical când întrebările sunt sensibile sau pot afecta sănătatea.
