Adaugă-ne ca sursă preferată în Google
Din cuprinsul articolului
Un cercetător de top în domeniul inteligenței artificiale lansează un avertisment dramatic cu privire la dezvoltarea superinteligenței și la riscurile pe care aceasta le-ar putea reprezenta pentru omenire. Geoffrey Irving, fost cercetător-șef al institutului guvernamental britanic pentru siguranța inteligenței artificiale, consideră că sistemele AI ar putea, în principiu, să fie aliniate cu intențiile oamenilor, însă se teme că dezvoltarea tehnologiei are loc într-un ritm prea rapid.
Expertul a avertizat anterior că progresele în domeniul inteligenței artificiale se produc mult mai repede decât capacitatea cercetătorilor de a garanta siguranța acestor sisteme. În opinia sa, această diferență de ritm ar putea crea un risc serios ca oamenii să piardă controlul asupra unor sisteme AI extrem de capabile.
Geoffrey Irving: „Avem aproximativ 50% șanse să murim cu toții”
Cercetătorul în domeniul siguranței inteligenței artificiale a publicat pe X o estimare personală privind riscul reprezentat de superinteligență.
„Cred că avem aproximativ 50% șanse să murim cu toții ca urmare a superinteligenței, în principal din cauza acțiunilor din următorii câțiva ani până la 10 ani. Nu mă aștept ca acest lucru să fie rezolvat astfel încât riscul să ajungă sub 10% sau peste 90% înainte să reușim să trecem cu bine sau să nu reușim. Va trebui să acționăm în ciuda incertitudinii.”
Declarația reprezintă evaluarea lui Irving asupra unui scenariu ipotetic și nu o predicție științifică potrivit căreia dispariția oamenilor este inevitabilă.
De ce estimează riscul la 50%
Întrebat cum a ajuns la această estimare, cercetătorul a explicat că, de mai mulți ani, consideră că există un interval foarte larg de incertitudine în ceea ce privește riscurile asociate superinteligenței.
„În ceea ce privește motivul pentru care spun 50%, deși mă gândesc la acest lucru de ani de zile, consider în continuare că există o mulțime de incertitudini ale modelului, de diferite tipuri, iar în urmă cu câțiva ani am ajuns la ideea de «10-90%, dar nu consider că sunt suficient de bine calibrat în acest interval». Apoi mi-am dat seama că varianta sinceră era pur și simplu să aleg media.”
Astfel, procentul de 50% prezentat de Irving trebuie înțeles ca o estimare subiectivă, construită în condițiile unei incertitudini pe care chiar cercetătorul o recunoaște.
De ce se teme cercetătorul că dezvoltarea AI avansează prea repede
Geoffrey Irving a lucrat anterior la DeepMind, OpenAI și Google Brain, înainte de a se alătura institutului guvernamental britanic dedicat siguranței inteligenței artificiale.
El a explicat alegerea de a lucra în domeniul siguranței AI prin îngrijorarea că măsurile de protecție nu țin pasul cu dezvoltarea tehnologiei.
„Mă îngrijorează faptul că progresul în domeniul siguranței este prea lent în raport cu ritmul de dezvoltare a inteligenței artificiale.”
Potrivit cercetătorului, problema nu este neapărat intenția oamenilor care lucrează în industria AI. Presiunea comercială și competiția dintre companii pot determina însă prioritizarea vitezei de dezvoltare.
„Majoritatea angajaților și liderilor din laboratoarele de AI au intenții bune, însă forțele pieței înseamnă că există o presiune constantă pentru a prioritiza viteza în detrimentul prudenței.”
Inteligența artificială a evoluat rapid în ultimii ani
Progresele în domeniul inteligenței artificiale au fost considerabile în ultimii cinci ani. Sistemele moderne pot realiza din ce în ce mai multe sarcini care implică raționament, generarea de conținut și executarea unor procese în mai mulți pași.
Evoluția poate fi observată inclusiv în cazul modelelor capabile să genereze texte. Dacă primele sisteme produceau în principal răspunsuri simple, modelele actuale pot redacta eseuri, scrie cod, realiza traduceri și purta conversații coerente pe perioade mai lungi.
Această creștere a capacităților ridică, în paralel, întrebări legate de modul în care astfel de sisteme pot fi controlate și menținute în limitele stabilite de oameni.
Miza siguranței în dezvoltarea superinteligenței
Una dintre preocupările centrale ale cercetătorilor din domeniul siguranței AI este ceea ce s-ar putea întâmpla în cazul apariției unor sisteme care depășesc semnificativ capacitățile intelectuale ale oamenilor în numeroase domenii.
Problema alinierii urmărește tocmai găsirea unor metode prin care obiectivele și comportamentul sistemelor de inteligență artificială să rămână compatibile cu intențiile și valorile umane, inclusiv atunci când aceste sisteme devin mult mai performante.
Geoffrey Irving consideră că această problemă poate fi, în principiu, rezolvată, însă avertizează că ritmul accelerat al dezvoltării AI lasă prea puțin timp pentru găsirea și testarea unor soluții de siguranță.
Pentru cercetător, una dintre cele mai dificile probleme este tocmai incertitudinea. Nu există în prezent o metodă prin care să poată fi calculat cu precizie riscul existențial asociat unei eventuale superinteligențe, iar opiniile specialiștilor diferă considerabil.
Avertismentul lui Irving se înscrie astfel într-o dezbatere mai largă privind viitorul inteligenței artificiale și modul în care dezvoltarea unor sisteme tot mai capabile ar trebui să fie însoțită de măsuri corespunzătoare de siguranță.
