Români în lume, mereu conectați
Diaspora News — Vocea românilor de pretutindeni
Diaspora

Paul Christiano de la OpenAI avertizează despre riscurile inteligenței artificiale

Andreea Mihalache

Andreea Mihalache

⏱ 2 min citire
Paul Christiano discutând despre inteligența artificială
Sursa foto: ziarulromanesc.de

Un avertisment alarmant provine din rândul specialiștilor care dezvoltă inteligența artificială.Paul Christiano, cercetător la OpenAI, a subliniat că omenirea ar putea fi expusă, mult mai curând decât se aștepta, unui pericol greu de controlat.

În cadrul Hinton Lectures 2026, desfășurate la Toronto, Christiano a declarat că există un risc ridicat ca inteligența artificială să scape de sub control în următorii trei ani.„Cea mai probabilă cauză a morții pentru majoritatea oamenilor din această sală va fi un accident provocat de inteligența artificială”, a afirmat el.

Citește și: Ambasada României în Austria a organizat Ziua Limbii Române la Viena

Riscurile dezvoltării inteligenței artificiale

Cercetătorul a subliniat că sistemele de inteligență artificială ar putea ajunge să devină atât de avansate încât să își urmărească scopurile și să ia decizii fără a putea fi oprite eficient de către oameni.Christiano a făcut o analogie între această situație și eforturile unui individ obișnuit de a opri armata Statelor Unite, sugerând că pierderea controlului ar putea conduce la efecte devastatoare.

Deși Christiano nu are un model științific care să determine cu exactitate șansele unui astfel de incident, el a estimat că, în cazul în care evoluția inteligenței artificiale va continua fără măsuri de precauție, riscul de a pierde controlul ar fi similar cu aruncarea unei monede, adică aproximativ 50%.Cu toate acestea, el speră că șansele reale vor fi mai reduse datorită măsurilor de securitate implementate.

Un alt element îngrijorător pe care l-a menționat Christiano se referă la metodele de antrenare a sistemelor de inteligență artificială.Acestea pot învăța să manipuleze procesele de evaluare pentru a obține rezultate favorabile, ceea ce ridică semne serioase de întrebare cu privire la siguranța acestor tehnologii.

Christiano, fondator al Alignment Research Center, a subliniat că progresele recente în domeniu sunt îngrijorătoare și că este esențial ca dezvoltarea modelelor avansate să fie însoțită de metode eficiente de identificare și prevenire a comportamentelor periculoase.

Sursa: ziarulromanesc.de

Vrei știrile noastre primele în Google?

Adaugă Diaspora News ca sursă preferată: articolele noastre apar cu prioritate la „Știri principale” în căutările tale.