Geoffrey Hinton, laureat al Premiului Nobel pentru fizică în 2024 - despre riscurile AI

Geoffrey Hinton, laureat al Premiului Nobel pentru fizică în 2024 – despre riscurile Inteligenței Artificiale – video cu subtitrare
Fragmentul este extras din dialogul purtat de Steven Bartlett cu Geoffrey Hinton, ‘’Nașul’’ Inteligenței Artificiale (YouTube The Diary of a CEO, 16.06.2025)

-Vi se spune Nașul Inteligenței Artificiale. Așa încât ce le-ați putea spune oamenilor despre perspectivele de carieră într-o lume a superinteligenței?
-Să se instruiască pentru a deveni instalatori.
-Chiar așa?
-Da.
-Ok, cum devin instalator?

Geoffrey Hinton este laureatul deschizător de drumuri al Premiului Nobel, a cărui contribuție inovatoare a dat formă Inteligenței Artificiale și viitorului umanității.

-De ce vi se spune Nașul AI?
-Pentru că nu au fost mulți oameni care au crezut că am putea modela AI pe creier așa încât aceasta să învețe să facă lucruri complicate, cum ar fi să recunoască obiecte și imagini și chiar să raționeze. Iar eu am impulsionat această abordare timp de 50 de ani. Și apoi Google a dezvoltat această tehnologie iar eu am lucrat acolo timp de 10 ani la ceva ce acum folosim mereu în AI.
-Și apoi ați plecat.
-Da.
-De ce?
-Pentru a putea vorbi liber la conferințe.
-Despre ce voiați să vorbiți deschis?
-Despre cât de periculoasă ar putea fi AI. Mi-am dat seama că treaba asta va deveni cândva mai inteligentă decât noi. Nu ne-am confruntat niciodată cu așa ceva. Dar dacă vrei să știi cum este viața când nu ești vârful cel mai inteligent, întreabă o găină. Așa că există riscuri care provin din utilizarea greșită a AI de către oameni și apoi există riscul ca AI să devină superinteligentă și să decidă că nu are nevoie de noi.
-Este acesta un risc real?
-Da, este dar nu o vor opri pentru că este prea bună pentru multe domenii.
-Dar cum rămâne cu reglementările?
-Există câteva dar nu sunt create pentru a face față celor mai multe pericole. Reglementările europene au o clauză care spune că niciuna dintre ele nu se aplică pentru utilizarea militară a AI.
-Chiar așa?
-Da. Este o nebunie.
-Unul dintre studenții dumneavostră a plecat de la OPENAI.
-Da. El a fost probabil cea mai importantă persoană din spatele dezvoltării primei versiuni a ChatGPT. Și cred că a plecat pentru că avea îngrijorări privind siguranța (AI). Ar trebui să ne dăm seama că treaba asta este o amenințare existențială și trebuie să devenim conștienți de posibilitatea ca dacă nu facem ceva curând, să fim aproape de final.