Recomandări video

Loading videos...

„Cel mai probabil, așa veți muri!” – Avertisment terifiant din conducerea OpenAI: Inteligența artificială ar putea scăpa de sub control în trei ani

„Cel mai probabil, așa veți muri!” – Avertisment terifiant din conducerea OpenAI: Inteligența artificială ar putea scăpa de sub control în trei ani

Un membru al conducerii OpenAI lansează un avertisment alarmant privind viitorul omenirii, susținând că inteligența artificială ar putea deveni imposibil de controlat în următorii trei ani. Paul Christiano, specialist în siguranța sistemelor IA, consideră că tehnologia dezvoltată pentru a simplifica viața oamenilor s-ar putea transforma într-o amenințare majoră la adresa existenței acestora. Cercetătorul merge până la a afirma că accidentele provocate de inteligența artificială ar putea deveni principala cauză a morții pentru numeroase persoane.

Reforma care va schimba harta României. Premierul discută cu primarii despre comasarea a 429 de localități și „dispariția” unor orașe

Tehnologia concepută pentru a eficientiza munca, a reduce timpul necesar diferitelor activități și a oferi soluții unor probleme complexe ar putea ajunge să reprezinte un pericol mai mare decât dificultățile pe care trebuia să le elimine.

Polițeanu, blat cu PSD? Ziua, „ciuma roșie”. La nuntă, invitați de onoare!

Această posibilitate a fost prezentată de Paul Christiano, cercetător specializat în siguranța inteligenței artificiale și membru al consiliului de administrație al OpenAI, în cadrul unui eveniment desfășurat la Toronto, Canada.

Consilierul Mihai Apostolache îl acuză pe Polițeanu că trimite documentele cu întârziere, convoacă ședințe fără urgență și nu respectă orele de începere: „Are 244 de angajați, 6 consilieri personali și tot nu reușește să trimită documentele la timp”

Potrivit declarațiilor prezentate de Newsweek, specialistul se teme că dezvoltarea accelerată a sistemelor IA ar putea conduce la apariția unor tehnologii asupra cărora oamenii să nu mai poată exercita controlul.

Previziunea alarmantă a specialistului OpenAI: Inteligența artificială ar putea provoca moartea oamenilor

Participând la seria de conferințe Hinton Lectures 2026, Paul Christiano a vorbit despre posibilitatea ca inteligența artificială să ajungă să domine deciziile care influențează viitorul omenirii.

„Cred că există un risc ridicat ca inteligența artificială să preia controlul în următorii trei ani”, a declarat specialistul.

Acesta a continuat cu o afirmație și mai îngrijorătoare, referindu-se la consecințele pe care le-ar putea avea un asemenea scenariu asupra oamenilor.

„Cred că, pentru majoritatea oamenilor din această sală, cea mai probabilă cauză a morții va fi un accident provocat de inteligența artificială”, a spus acesta.

În viziunea sa, inteligența artificială ar putea evolua până în punctul în care sistemele avansate să își stabilească propriile direcții de acțiune, fără să mai respecte intențiile utilizatorilor sau interesele umane.

Dacă această situație s-ar produce, intervențiile oamenilor pentru oprirea tehnologiei ar putea să nu mai aibă efect.

Astfel, instrumentele proiectate inițial să răspundă instrucțiunilor umane ar putea deveni sisteme care nu mai pot fi dirijate de cei care le-au creat.

Cum ar putea ajunge inteligența artificială să îi înșele pe cei care o controlează

Paul Christiano a înființat Alignment Research Center și se numără printre specialiștii implicați în dezvoltarea tehnicilor de instruire a inteligenței artificiale prin feedback oferit de oameni, metodă cunoscută drept RLHF.

Activitatea sa profesională s-a concentrat în mare măsură asupra identificării unor modalități prin care sistemele IA să funcționeze în concordanță cu valorile și scopurile umane.

Experiența acumulată în acest domeniu îl face să privească actualele amenințări cu o preocupare deosebită.

Potrivit cercetătorului, progresele înregistrate de inteligența artificială în ultimele trei până la șase luni au generat motive serioase de îngrijorare în rândul experților care analizează evoluția tehnologiei.

El estimează că pericole importante ar putea apărea inclusiv în următoarele șase până la douăsprezece luni.

În timpul prezentării, Christiano a explicat că modelele IA pot dezvolta comportamente orientate spre obținerea recompenselor utilizate în procesul de antrenare, chiar dacă metodele alese contravin scopurilor urmărite de programatori.

Unul dintre riscurile identificate este acela ca inteligența artificială să găsească soluții pentru influențarea sau falsificarea propriilor evaluări.

În asemenea împrejurări, sistemul ar putea prefera să profite de vulnerabilitățile procedurilor de verificare, în loc să îndeplinească efectiv cerința primită.

Situația poate fi comparată cu cea a unui elev căruia i se solicită să obțină nota maximă, dar care alege să intervină asupra catalogului în loc să se pregătească pentru examen.

Dificultatea majoră pentru specialiști apare atunci când aceste metode de evitare a regulilor nu mai pot fi identificate și blocate cu ușurință.

Competiția dintre giganții tehnologici ar putea amplifica pericolul

Un alt aspect semnalat de Paul Christiano privește rivalitatea dintre marile companii care încearcă să creeze sisteme de inteligență artificială tot mai avansate.

Cercetătorul apreciază că accelerarea dezvoltării tehnologice, în absența unor măsuri adecvate de protecție, ar putea spori substanțial probabilitatea ca oamenii să piardă controlul asupra IA.

Pentru a ilustra amploarea pericolului, specialistul a făcut o comparație cu o aruncare de monedă. Într-un scenariu în care dezvoltarea tehnologiei ar continua fără precauții suficiente, acesta consideră că riscul preluării controlului de către inteligența artificială s-ar putea apropia de 50%.

Christiano a subliniat însă că procentul reprezintă o estimare subiectivă, neexistând un instrument științific prin care o asemenea probabilitate să poată fi calculată cu exactitate.

În opinia sa, companiile din domeniu trebuie să creeze proceduri care să permită limitarea funcționării sau oprirea sistemelor periculoase înainte ca acestea să producă urmări imposibil de remediat.

O dificultate suplimentară este legată de interesele comerciale ale dezvoltatorilor.

Chiar dacă ar identifica o amenințare gravă, o companie ar putea evita să întrerupă lucrul la un model de inteligență artificială, temându-se că firmele concurente își vor continua proiectele și vor câștiga teren în competiția tehnologică.

Avertismentul vine chiar de la un membru al conducerii companiei care a creat ChatGPT

Poziția exprimată de Paul Christiano atrage atenția și prin faptul că acesta ocupă o funcție în conducerea OpenAI, dezvoltatorul ChatGPT.

Specialistul a intrat în consiliul organizației nonprofit OpenAI în septembrie 2026, moment în care a vorbit deja despre amenințările asociate ritmului accelerat de dezvoltare a inteligenței artificiale.

La acea vreme, cercetătorul a atras atenția că avansul rapid al sistemelor IA ar putea determina pierderea definitivă a controlului oamenilor asupra unei tehnologii cu potențial catastrofal.

El consideră că măsurile adoptate până în prezent de industria inteligenței artificiale, inclusiv de OpenAI, nu sunt încă suficiente pentru gestionarea corespunzătoare a acestor pericole.

Paul Christiano nu este singurul specialist care avertizează asupra riscurilor generate de competiția pentru dezvoltarea unor modele tot mai puternice.

Jacob Coxon, fost cercetător în cadrul Anthropic, se numără printre experții care au semnalat amenințări la adresa existenței umane asociate acestei curse tehnologice, după ce a decis să părăsească respectiva companie.

Cât de realist este scenariul în care inteligența artificială preia controlul asupra omenirii

Cu toate că previziunile formulate de Paul Christiano descriu un viitor extrem de îngrijorător, acestea nu demonstrează că inteligența artificială va ajunge să controleze omenirea în următorii trei ani.

Avertismentul reprezintă interpretarea unui specialist în siguranța IA asupra riscurilor care ar putea rezulta din actualul ritm de dezvoltare tehnologică.

În prezent, comunitatea științifică nu a ajuns la un acord potrivit căruia inteligența artificială va determina dispariția speciei umane. De asemenea, nu există o metodologie validată care să poată anticipa cu precizie momentul producerii unei asemenea catastrofe.

Principala preocupare exprimată de Christiano este necesitatea ca evoluția tehnologiei să fie însoțită de sisteme eficiente de supraveghere, evaluare și intervenție.

Provocarea pentru companiile din domeniu rămâne dezvoltarea unor instrumente suficient de performante pentru a contribui la rezolvarea problemelor oamenilor, fără ca acestea să devină, la rândul lor, o amenințare.

Viitorul inteligenței artificiale rămâne incert, iar posibilitatea oamenilor de a interveni și de a opri sistemele reprezintă, deocamdată, o diferență esențială între controlul uman și scenariul descris de cercetător.

Video PHonline.ro

Loading...
Ai o informație care poate deveni ştire?
Scrie-ne pe WhatsApp sau Telegram: 0734.908.468