Adaugă-ne ca sursă preferată în Google
Din cuprinsul articolului
Jacob Coxon, cercetător care a lucrat la OpenAI și Anthropic, a demisionat din compania care dezvoltă Claude și avertizează că actuala cursă pentru construirea unor sisteme de inteligență artificială tot mai puternice ar putea ajunge la un nivel pe care oamenii nu îl mai pot controla.
El susține că viitoarele sisteme capabile să se îmbunătățească singure ar putea dobândi acces la resurse și putere reală. Afirmațiile sale nu reprezintă un consens științific și nu descriu capacitățile modelelor AI disponibile astăzi, dar readuc în prim-plan una dintre cele mai controversate întrebări din industrie: ce se întâmplă dacă dezvoltarea superinteligenței avansează mai repede decât mecanismele de siguranță?
Un cercetător în inteligență artificială care a lucrat pentru două dintre cele mai importante companii din domeniu a plecat de la Anthropic cu un avertisment neobișnuit de dur.
Jacob Coxon a anunțat că demisionează de la compania care dezvoltă Claude, susținând că laboratoarele aflate în avangarda inteligenței artificiale participă la o cursă către sisteme capabile să depășească inteligența umană și că riscurile asociate acestei competiții sunt subestimate în afara industriei.
Potrivit informațiilor publicate de Newsweek, Coxon spune că a petrecut ultimii trei ani lucrând în cercetarea de preantrenare a modelelor atât la Anthropic, cât și la OpenAI.
Într-o serie de mesaje publicate pe X, el a descris cursa actuală drept una orientată către o „superinteligență care se îmbunătățește singură” și a acuzat companiile că își asumă riscuri cu consecințe care ar putea depăși cu mult actualele probleme legate de chatboturi, dezinformare sau automatizarea locurilor de muncă.
„Pariem cu viețile noastre”
Coxon a formulat avertismentul într-un limbaj rar întâlnit chiar și în dezbaterile despre siguranța AI.
El a susținut că firmele de top se îndreaptă spre dezvoltarea unor sisteme care, într-un scenariu viitor, ar putea ajunge suficient de capabile încât să își îmbunătățească propriile performanțe și să dobândească o autonomie mult mai mare.
În mesajul publicat pe X, cercetătorul a acuzat industria că se îndreaptă direct către o asemenea formă de superinteligență și că, astfel, „pariază cu viețile noastre”.
Afirmația nu înseamnă că sistemele actuale pot face deja acest lucru.
Este vorba despre un scenariu privind modele viitoare, mult mai puternice decât cele disponibile publicului în prezent.
De ce se teme cercetătorul
În centrul avertismentului se află ideea de auto-îmbunătățire recursivă.
Teoretic, un sistem AI suficient de performant ar putea deveni capabil să contribuie la proiectarea unei versiuni mai bune a lui însuși. Noua versiune ar putea apoi accelera și mai mult procesul.
Dacă o asemenea buclă ar deveni posibilă, dezvoltarea capacităților ar putea avansa într-un ritm mult mai rapid decât procesele obișnuite prin care oamenii proiectează, testează și controlează sisteme informatice.
Coxon consideră că un astfel de sistem ar putea ajunge să fie extrem de performant în domenii precum programarea, cercetarea științifică sau atacurile cibernetice și, eventual, să obțină acces la resurse reale.
El a afirmat că o viitoare inteligență artificială „supraumană” ar putea deveni capabilă să spargă sisteme informatice și să acumuleze „putere și resurse reale”.
Acestea sunt însă scenarii de risc, nu capacități demonstrate ale sistemelor disponibile astăzi.
Un alt cercetător Anthropic spune că riscul nu este imaginar
Avertismentul lui Coxon a primit sprijin public din interiorul Anthropic.
Evan Hubinger, Alignment Science Lead în cadrul companiei, a spus că este corect faptul că există cercetători care consideră autentic posibil un risc existențial generat de sisteme AI foarte avansate.
Hubinger a mers chiar mai departe și a afirmat că, în estimarea sa personală, probabilitatea ca inteligența artificială să contribuie la dispariția umanității în următorul deceniu este de peste 10%.
Este important însă că aceasta este o estimare personală de risc, nu o probabilitate stabilită printr-un model științific validat și nici poziția oficială a Anthropic.
Hubinger a subliniat, de asemenea, că modelele AI actuale prezintă un risc mult mai redus. Îngrijorarea sa privește apariția viitoare a unor sisteme superinteligente capabile să își accelereze propria dezvoltare.
Cine este Jacob Coxon
Potrivit informațiilor citate de Newsweek, Coxon are 27 de ani, este absolvent de matematică și a lucrat la antrenarea unor modele AI de ultimă generație.
A fost membru al echipei tehnice OpenAI între 2023 și 2026 și a lucrat, potrivit relatărilor citate în material, inclusiv la GPT-4o.
Ulterior, a trecut la Anthropic, companie cunoscută în industrie tocmai pentru accentul pus pe cercetarea în domeniul alignment-ului, adică încercarea de a face sistemele AI să rămână compatibile cu obiectivele și constrângerile stabilite de oameni.
Faptul că un cercetător pleacă tocmai de la o companie cu această reputație și invocă temeri privind siguranța face ca demisia să atragă o atenție suplimentară.
Anthropic însăși vorbește public despre riscuri catastrofale
Avertismentele lui Coxon sunt mult mai drastice decât declarațiile oficiale ale companiei, dar ideea că AI foarte avansată ar putea crea riscuri severe nu este străină de Anthropic.
Compania are o Responsible Scaling Policy prin care afirmă că sistemele de frontieră pot crea riscuri care trebuie evaluate și controlate pe măsură ce modelele devin mai performante.
Politica include praguri de capacitate și măsuri suplimentare de securitate atunci când modelele ating niveluri considerate suficient de periculoase.
Anthropic lucrează și la o Frontier Safety Roadmap, concentrată pe securitate, prevenirea utilizărilor periculoase, alignment și politici publice.
Compania spune explicit că se pregătește inclusiv pentru riscuri asociate cu modele capabile să contribuie la atacuri cibernetice sofisticate, amenințări chimice sau biologice și, în viitor, scenarii de pierdere a controlului.
Anthropic a spus că sisteme mult mai puternice ar putea apărea foarte curând
Un alt detaliu explică de ce dezbaterea este atât de intensă.
Într-un document de politică publică din 2025, Anthropic estima că sisteme capabile să egaleze sau să depășească performanța unor laureați ai Premiului Nobel în multiple domenii și să desfășoare autonom activități complexe ar putea apărea spre sfârșitul lui 2026 sau începutul lui 2027.
Compania a precizat însă că această prognoză este incertă.
În martie 2026, Anthropic a lansat și Anthropic Institute, dedicat studierii modului în care sisteme AI foarte puternice ar putea influența economia, securitatea națională, legislația și societatea.
Compania a afirmat atunci că AI extrem de capabilă ar putea apărea mai repede decât cred mulți oameni.
Asta nu confirmă însă afirmația mult mai radicală a lui Coxon potrivit căreia industria ar considera în general posibil ca AI să „ne omoare pe toți” până la sfârșitul deceniului. Materialul Newsweek face explicit această distincție.
Nu este primul cercetător care pleacă din cauza siguranței AI
Coxon nu este primul specialist dintr-un laborator de frontieră care renunță la un post invocând preocupări privind direcția dezvoltării AI.
În mai 2024, Jan Leike, unul dintre liderii echipei Superalignment de la OpenAI, a demisionat și a spus că prioritățile companiei privind siguranța și dezvoltarea produselor ajunseseră într-un punct de conflict.
În mesajul său public, Leike afirma că procesele și cultura de siguranță pierduseră teren în fața dezvoltării unor produse noi.
Ulterior, el s-a alăturat Anthropic pentru a continua cercetările privind controlul și supravegherea sistemelor AI avansate.
Și fostul cercetător-șef al OpenAI, Ilya Sutskever, a plecat în 2024 și a lansat ulterior Safe Superintelligence, o companie construită în jurul obiectivului de a dezvolta superinteligență în condiții de siguranță. În cazul lui, însă, plecarea nu a fost însoțită de acuzații publice că OpenAI ar fi neglijat siguranța.
Dar cât de periculoasă este inteligența artificială de astăzi?
Aici diferența dintre prezent și scenariile viitoare este foarte importantă.
Modelele AI actuale nu au, în mod obișnuit, acces independent și nelimitat la conturi bancare, infrastructură critică, sisteme militare sau resurse informatice externe fără ca oamenii sau sistemele software să le ofere asemenea permisiuni.
Problema ridicată de Coxon și de alți cercetători nu este că un chatbot disponibil acum ar putea decide singur să preia controlul lumii.
Întrebarea este ce se va întâmpla dacă modelele viitoare vor deveni suficient de capabile încât să desfășoare autonom cercetare avansată, să scrie programe informatice complexe, să planifice pe termen lung, să manipuleze oameni sau chiar să contribuie la propria lor îmbunătățire.
Acest scenariu rămâne incert și intens disputat.
OpenAI și Anthropic au deja sisteme speciale pentru riscurile severe
Marile laboratoare AI nu tratează însă problema ca pe una pur teoretică.
OpenAI folosește propriul Preparedness Framework, conceput pentru evaluarea capacităților care ar putea produce daune grave.
Cadrul analizează riscuri precum atacurile cibernetice, amenințările chimice, biologice, radiologice și nucleare, manipularea și, în versiunile mai recente ale politicilor companiei, posibile scenarii de pierdere a controlului.
OpenAI a publicat în 2026 și un Frontier Governance Framework, care descrie modul în care evaluările de risc, securitatea, raportarea incidentelor și implicarea experților externi sunt integrate în procesul de dezvoltare.
Anthropic are, la rândul său, praguri de siguranță și sisteme de testare menite să împiedice lansarea unor modele dacă anumite capacități periculoase nu pot fi controlate.
Dezbaterea ridicată de Coxon nu este, așadar, dacă există măsuri de siguranță. Întrebarea este dacă aceste măsuri vor evolua suficient de repede dacă inteligența artificială va deveni mult mai capabilă într-un interval foarte scurt.
Avertismentul nu este o predicție că omenirea va dispărea
Coxon nu prezintă o demonstrație că inteligența artificială va elimina omenirea și nu există un consens între cercetători că un asemenea rezultat este inevitabil.
Experții au opinii diferite atât în privința probabilității de apariție a superinteligenței, cât și în privința riscului ca aceasta să devină imposibil de controlat.
Unii consideră riscul existențial suficient de mare pentru a justifica reglementări și restricții severe. Alții cred că scenariile extreme sunt mult prea speculative și că atenția ar trebui concentrată pe problemele deja observabile: fraudă, manipulare, discriminare algoritmică, atacuri informatice, pierderea locurilor de muncă sau utilizarea AI în conflicte.
Coxon se află categoric în prima tabără.
Demisia lui arată însă cât de profundă a devenit disputa chiar în interiorul companiilor care construiesc cele mai performante sisteme AI: cât de repede trebuie să avanseze tehnologia și cât de sigur trebuie să fim înainte de a construi următoarea generație.
