Alertă în lumea medicală! ChatGPT prins dând sfaturi dezastruoase pacienților cu cancer. Avertismentul specialiștilor

ChatGPT prins dând sfaturi dezastruoase pacienților cu cancer. În ultimul an, se pare că fiecare companie încearcă să introducă o inteligență artificială (AI) în orice, de la site-uri web de călătorie la educație.

Medicina este un astfel de sector, Google testând deja un chatbot medical în spitale.

Mai mult,  ChatGPT, un chatbot lansat de OpenAI în noiembrie 2022, oferă deja sfaturi medicale. A fost lansat ca prototip la 30 noiembrie 2022 și a atras rapid atenția pentru răspunsurile sale detaliate și răspunsurile articulate în multe domenii de cunoaștere.

Doar că acest ritm rapid poate reprezenta un pericol, deoarece o parte din această tehnologie pur și simplu nu este pregătită pentru prime time.

ChatGPT prins dând sfaturi dezastruoase pacienților cu cancer

Un studiu recent publicat în revista JAMA Oncology arată că ChatGPT  va oferi informații inutile despre tratamentul cancerului, dăunând potențial pacienților care sunt deja stresați și caută cu disperare răspunsuri.

În aproximativ o treime din întrebările adresate ChatGPT, o echipă de cercetători a descoperit că modelul de limbaj mare (LLM) a făcut recomandări eronate sau inadecvate pentru tratamentul cancerului, care nu se aliniază cu ghidurile medicale stabilite.

„Răspunsurile ChatGPT pot suna foarte mult ca fiind date de un om și pot fi destul de convingătoare”, a spus Danielle Bitterman, coautora studiului și cercetătoarea Institutului de Cancer Dana-Farber, într-un comunicat.

„Dar, când vine vorba de luarea deciziilor clinice, există atât de multe subtilități pentru situația unică a fiecărui pacient. Un răspuns corect poate fi foarte nuanțat și nu neapărat ceva ce poate oferi ChatGPT sau un alt model de inteligență artificială”, a adăugat ea.

Pentru studiu, cercetătorii au folosit 104 indicații legate de cancerul pulmonar, de prostată și de sân. Pentru a măsura calitatea sfatului ChatGPT, ei au comparat răspunsul acestuia cu ghidurile de tratament al cancerului de la National Comprehensive Cancer Network (NCCN).

Avertismentul specialiștilor despre „limitările acestor tehnologii”

Rezultatele au arătat că ChatGPT a generat una sau mai multe recomandări de tratament care nu s-au aliniat cu NCCN la o rată uluitoare de 34,3 la sută. ChatGPT a încurcat, de asemenea, 13 din 104 ieșiri, ceea ce nu e deloc bine.

„Dezvoltatorii ar trebui să aibă o anumită responsabilitate de a distribui tehnologii care nu provoacă rău, iar pacienții și clinicienii trebuie să fie conștienți de limitările acestor tehnologii”, a scris echipa lui Bitterman.

Sigur, tehnologiile AI pot trece un examen de licență medicală. Dar în mod clar nu pot înlocui încă profesioniștii medicali, în ciuda a ceea ce spun unii amplificatori.

Specialiștii atrag atenția că pacienții trebuie să aibă acest lucru în vedere înainte de a apela la Dr. ChatGPT într-o perioadă de criză.