Fizician și actor în celebrul serial Breaking Bad, Marius Stan crede că Inteligența Artificială are limite, la fel ca oamenii

• Fizicianul Marius Stan a participat miercuri, 13 noiembrie, la Cărturești Verona, la o dezbatere pe temă cât se poate de actuală: Fizică și Inteligență Artificială. Întâlnirea a fost moderată de Corina Negrea, jurnalist de știință la Radio România Cultural.

Plecat din România în urmă cu 26 de ani, Marius Stan este unul dintre cei mai cunoscuți români din SUA. Ar scăpa de birocrația din cercetarea românească și îi sfătuiește pe experții români să fie mai îndrăzneți. A obținut licența în fizică la Universitatea din București și doctoratul în chimie la Institutul de Chimie Fizică al Academiei Române.

În SUA a plecat pentru un job de cercetător principal la Laboratorul Național Los Alamos, New Mexico. A fost director național pentru informatică la Ministerul Energiei al SUA, în timpul administrației Barack Obama.

Ulterior, a devenit lider al programului de materiale inteligente de la Laboratorul Național Argonne și profesor asociat la Universitatea din Chicago și Universitatea Northwestern.

„Inteligența artificială este într-adevăr un domeniu în creștere rapidă, cu impact pe multiple planuri. Cred că este important ca publicul să fie informat și să înțeleagă nu doar beneficiile, ci și riscurile acestei tehnologii. Anul acesta, premiul Nobel pentru fizică a fost acordat cercetătorilor John Hopfield și Geoffrey Hinton pentru contribuțiile lor în dezvoltarea metodelor de învățare automată, ceea ce a generat un interes enorm pentru subiect”, a spus Marius Stan încă din startul discuției.

Subiectul momentului

• Moderator:Dumneavoastră aveți o pregătire vastă în fizică…

Marius Stan: Așa este. Sunt absolvent al Facultății de Fizică din București și de-a lungul anilor am avut ocazia să lucrez la Laboratorul Național din Los Alamos și să ocup diverse roluri, inclusiv director național pentru informatică la Ministerul Energiei în Statele Unite. În prezent sunt cercetător la Laboratorul Național Argonne (n.r – din Statele Unite) și mă ocup de dezvoltarea materialelor inteligente, folosind inteligența artificială pentru a înțelege și prezice proprietățile sistemelor complexe.

• Moderator: Folosiți inteligența artificială și în proiectele personale? Ați menționat anterior că lucrați la un roman. Vă ajută IA și în procesul de creație literară?

Marius Stan: Da, folosesc unele programe care mă ajută în organizarea materialelor. Spre exemplu, Scrivener este un program foarte util, unde pot stoca imagini și numele personajelor, relațiile dintre ele. Într-un roman pot apărea zeci de personaje, și este greu să reții toate detaliile – cum ar fi cine este nepotul cui sau ce rol are un personaj în poveste.

• Moderator: Și inteligența artificială influențează procesul creativ în sine? Sunt mulți care folosesc IA pentru a genera texte literare.

Marius Stan: Personal, nu sunt de acord cu acest tip de asistență. Consider că procesul de creație literară este unul uman și profund personal. Nu vreau ca IA să participe la narațiune, să scrie poezii sau proză în locul meu. Există deja programe care produc literatură pe bandă rulantă, dar cred că esența unui text literar autentic se pierde dacă este creat de un algoritm.

Ce este AI-ul?

• Moderator: La o întâlnire anterioară, la Academia Română, ai prezentat niște versuri scrise de o inteligență artificială. Ne poți spune mai multe despre cum vezi tu acest concept de „inteligență artificială”? Ce este, de fapt, IA?

Marius Stan: Inteligența artificială este un program, așa că mă refer la el la masculin, dacă tot suntem atenți la detalii. IA are mai multe componente; una dintre cele mai importante este învățarea automată (sau „machine learning”), iar un subset specializat al acesteia este învățarea profundă, cunoscută și ca „deep learning”. În plus, există și alte componente, precum prelucrarea limbajului natural, unde se intersectează cu deep learning-ul. De exemplu, ChatGPT, pe care mulți studenți îl folosesc acum pentru a-și face temele!

• Moderator: Într-adevăr, este o tehnologie foarte utilizată pentru a căuta informații, și mulți o folosesc ca prim pas în cercetare. Am înțeles că ai testat IA inclusiv pentru a scrie poezii. Ce rezultate ai obținut?

Marius Stan: Am folosit versiunea 3.5 a GPT, alimentată cu câteva zeci de poezii ale unui poet român, și am obținut ceva de genul: „Este seară și plouă, întunericul mă cuprinde, apa pătrunde în încăpere și sunt trist că te-am pierdut.” Sună a Bacovia, nu? Dar pentru Nichita Stănescu, rezultatul a fost un adevărat dezastru, fără nimic din esența poeziei lui.

• Moderator: E un lucru îmbucurător, nu? Că IA nu reușește să capteze spiritul poeziei lui Stănescu.

Marius Stan: Da, într-un fel, asta menține unicitatea poeziei lui. IA poate imita, dar nu poate înlocui acea profunzime autentică. Astfel, poeți ca Nichita Stănescu rămân de neînlocuit.

Actor în serioalul Breaking Bad

• Moderator: Totodată, e important să menționăm că ești și actor! Publicul te poate recunoaște în serialul „Breaking Bad”.

Marius Stan: Da, am avut un rol în „Breaking Bad”, dar revenind la formarea mea științifică, sunt și doctor în chimie, cu doctoratul obținut la Institutul de Chimie Fizică „Ilie Murgulescu” al Academiei Române. Întreaga mea educație, de la grădiniță până la doctorat, s-a desfășurat în România. Am avut profesori extraordinari, cărora le sunt foarte recunoscător.

• Moderator: Și pentru că tot am discutat despre premiile Nobel din acest an, unul dintre acestea a fost acordat pentru contribuții în IA. Cum vezi evoluția acestui domeniu?

Marius Stan: Premiul Nobel pentru Chimie din acest an a fost împărțit între un cercetător din domeniul chimiei și doi cercetători de la Google, care au dezvoltat programul AlphaFold. De asemenea, premiul Nobel pentru Fizică i-a fost acordat lui John Hopfield de la Princeton și lui Geoffrey Hinton de la Universitatea din Toronto. Hinton este considerat „nașul” rețelelor neuronale și al învățării profunde, nu „tatăl”, cum s-ar putea crede, iar asta e o distincție importantă.

• Moderator: Hinton a avut și unele declarații critice față de Google, spunând că nu s-au luat măsuri adecvate pentru a preveni riscurile IA.

Marius Stan: Da, el a avertizat că IA nu este pe deplin controlată și că există riscuri neglijate în dezvoltarea ei. Însă multe opinii susțin că Hinton a făcut aceste declarații din resentimente după plecarea de la Google. Totuși, dacă îi citim lucrările, el este sincer preocupat de modul în care IA ar trebui gestionată.

Impactul AI în fizică

• Moderator: Ce impact crezi că va avea IA în domeniul fizicii, unde se folosesc deja rețele neuronale?

Marius Stan: Este deja un impact major. Rețelele neuronale pot recunoaște tipare complexe, inclusiv imagini sau numere. De exemplu, creierul uman recunoaște imediat numerele din diferite reprezentări vizuale – fie că sunt grafice, stilizate, în format electronic sau tridimensionale. Creierul nostru este uimitor prin capacitatea sa de a procesa aceste forme, având aproximativ 86 de miliarde de neuroni, fiecare conectat cu mii de alți neuroni. În mod similar, IA încearcă să imite acest proces de recunoaștere a tiparelor, dar desigur, creierul uman rămâne mult mai complex.

Marius Stan: Inteligența artificială este un program, așa că mă refer la el la masculin, dacă tot suntem atenți la detalii. IA are mai multe componente; una dintre cele mai importante este învățarea automată (sau „machine learning”), iar un subset specializat al acesteia este învățarea profundă, cunoscută și ca „deep learning”. În plus, există și alte componente, precum prelucrarea limbajului natural, unde se intersectează cu deep learning-ul. De exemplu, ChatGPT, pe care mulți studenți îl folosesc acum pentru a-și face temele!

AI-ul și Premiul Nobel din 2024

• Moderator: Și pentru că tot am discutat despre premiile Nobel din acest an, unul dintre acestea a fost acordat pentru contribuții în IA. Cum vezi evoluția acestui domeniu?

Marius Stan: Premiul Nobel pentru Chimie din acest an a fost împărțit între un cercetător din domeniul chimiei și doi cercetători de la Google, care au dezvoltat programul AlphaFold. De asemenea, premiul Nobel pentru Fizică i-a fost acordat lui John Hopfield de la Princeton și lui Geoffrey Hinton de la Universitatea din Toronto. Hinton este considerat „nașul” rețelelor neuronale și al învățării profunde, nu „tatăl”, cum s-ar putea crede, iar asta e o distincție importantă.

• Moderator: Hinton a avut și unele declarații critice față de Google, spunând că nu s-au luat măsuri adecvate pentru a preveni riscurile IA.

Marius Stan: Da, el a avertizat că IA nu este pe deplin controlată și că există riscuri neglijate în dezvoltarea ei. Însă multe opinii susțin că Hinton a făcut aceste declarații din resentimente după plecarea de la Google. Totuși, dacă îi citim lucrările, el este sincer preocupat de modul în care IA ar trebui gestionată.

Testul practic

• Moderator: Ne-ai menționat mai devreme despre rolul lui Geoffrey Hinton. Ai putea să ne explici ce impact a avut această descoperire asupra domeniului?

Marius Stan: Sigur, am pregătit un exemplu pe care l-aș vrea să-l discutăm împreună. Aș vrea să vă uitați la acest slide și să-mi spuneți dacă aveți vreun dubiu despre ce numere sunt reprezentate, indiferent de forma în care apar: fie că sunt într-o grafică clasică, fie în stil electronic, sau chiar ca niște jucării 3D. Creierul uman procesează aceste imagini într-un mod aproape miraculos și oricare dintre noi își dă seama imediat că acela este un „4”, un „3”, un „7” sau un „2”, chiar dacă nu au o formă clară.

• Moderator: Cum se leagă această capacitate de funcționarea rețelelor neuronale?

Marius Stan: Exact, creierul uman este o creație extraordinară, având în jur de 86 de miliarde de neuroni, fiecare cu aproximativ 7.000 de legături cu alți neuroni. Așa-numitele „dendrite” ies din corpul celular, încercând să se conecteze la axonii altor neuroni. Există un film realizat de compania Astar, sub microscop, în care putem observa cum neuronul, să-l numim „Costel” (așa i-am spus eu), își extinde dendritele, căutând să se conecteze la un axon din apropiere.

Marius Stan: Aceasta este, într-un fel, esența învățării profunde sau deep learning. În imaginea pe care o vedem aici, avem un exemplu de rețea neuronală artificială. În partea de sus sunt câteva „noduri” care ar putea fi considerați „neuroni de intrare”, urmate de mai multe straturi de neuroni artificiali, conectați prin legături matematice. Această structură este foarte asemănătoare cu modul în care sunt conectați neuronii din creierul nostru.

Erorile AI-ului

• Moderator: Și cum funcționează rețeaua neuronală în acest caz?

Marius Stan: În acest exemplu, un om folosește mouse-ul pentru a desena diverse numere într-o grilă. Rețeaua neuronală „vede” aceste numere și încearcă să le recunoască. Fiecare strat al rețelei procesează și simplifică informația, permițând rețelei să „înțeleagă” tiparele numerelor, la fel cum creierul nostru procesează imaginile. Am încetinit această animație pentru că, în realitate, acest proces are loc într-o fracțiune de secundă într-un circuit electronic.

• Moderator: Ne-ai explicat cum funcționează rețelele neuronale artificiale și modul în care ele recunosc numerele. Observ că pot avea ezitări și chiar greșesc uneori. Cum interpretezi aceste erori în contextul inteligenței artificiale?

Marius Stan: Da, exact. Așa cum ați văzut, IA poate ezita și chiar face greșeli. De exemplu, când recunoaște numărul „4”, îl identifică imediat și corect. Însă, la altele, cum ar fi „7” sau „6”, se încurcă și face ipoteze alternative – poate fi „6”, poate „8”, poate „1”. La fel cum și noi am putea să ne înșelăm la o imagine neclară. Este un proces de încercare și eroare, iar rețeaua neuronală încearcă să recunoască forma, dar fără să „gândească” exact ca un om.

Rețelele neuronale

• Moderator: Este interesant să vedem cum inteligența artificială încearcă să „ghicească” ce vede, aproape ca o minte umană! Și am înțeles că Geoffrey Hinton a primit premiul Nobel în mare parte pentru contribuția sa la dezvoltarea acestor rețele neuronale. De ce crezi că a fost acordat acest premiu în fizică?

Marius Stan: Într-adevăr, Geoffrey Hinton a fost recunoscut pentru că a dezvoltat rețele neuronale, în special așa-numitele rețele neuronale convoluționale (convolutional neural networks), care au aplicații puternice în procesarea imaginii. Dacă Nobelul ar fi existat și pentru matematică, l-ar fi primit acolo. Totuși, a fost acordat în fizică, deoarece Hinton și colegii săi au folosit metode din fizica statistică pentru a construi aceste modele IA, inspirate din structura creierului uman.

• Moderator: Deci, inspirația din biologia creierului și aplicarea fizicii statistice au făcut ca acest premiu să fie acordat în fizică. E impresionant că, deși rețelele neuronale nu încearcă să reproducă exact funcționarea creierului, totuși păstrează elemente de bază. Ne poți explica diferența dintre aceste IA și ceea ce numim „neuromorfism”?

Marius Stan: Sigur. Neuromorfismul este o ramură de cercetare care încearcă să creeze circuite electronice ce imită direct structura creierului uman, deci neuroni și sinapse reale, dacă vreți, doar că realizate electronic. Aceasta este o altă direcție, diferită de ceea ce face Hinton. Rețelele neuronale nu au scopul de a reproduce complet funcționalitatea creierului uman, ci doar de a rezolva probleme complexe de procesare a datelor, inspirându-se din modul în care creierul gestionează informația.

Succesul ChatGPT

• Moderator: Cred că acest premiu Nobel arată cât de mult se extind limitele tehnologiei. E un premiu binemeritat, nu-i așa?

Marius Stan: Da, absolut. Comitetul Nobel a avut mereu o abordare deschisă în a recunoaște contribuțiile interdisciplinare, chiar dacă nu sunt 100% conforme cu categoriile tradiționale. Gândiți-vă la premiul Nobel pentru literatură acordat lui Bob Dylan. Poeții profesioniști poate că au fost puțin supărați, dar recunoașterea versurilor lui Dylan a deschis o nouă perspectivă asupra literaturii. În același mod, premiul lui Hinton reflectă un moment de transformare important în știință și inginerie. Ar fi fost frumos să existe și un Nobel pentru matematică!

• Moderator: Într-adevăr, premiul Nobel pentru matematică nu există, dar există premiul Fields, iar deliberările Comitetului Nobel rămân secrete timp de 50 de ani, așa că speculăm. Crezi că decizia de a acorda premiul pentru inteligența artificială a fost influențată de contextul recent, în special de explozia ChatGPT și de atenția masivă acordată IA în 2022?

Marius Stan: Da, e posibil. 2022 a fost un an de cotitură pentru inteligența artificială, iar succesul ChatGPT a reprezentat un punct de inflexiune în acest domeniu. Progresul tehnologic și științific a fost extraordinar, susținut de creșterea puterii de calcul și de volumele masive de date care puteau fi procesate. Totuși, nu e doar o chestiune de tehnologie; cred că au fost și decizii strategice, idei remarcabile care au apărut în ultimii ani și care au permis evoluția rapidă a IA.

Cum funcționează ChatGPT

• Moderator: Poți explica mai detaliat ce este ChatGPT și cum funcționează acești algoritmi „generativi pre-antrenați”, cum îi numești tu?

Marius Stan: Sigur. ChatGPT se bazează pe tehnologia Generative Pre-trained Transformers, sau GPT. Acestea sunt algoritmi care sunt pre-antrenați pe cantități uriașe de date înainte de a fi utilizați. În primele versiuni, GPT a folosit sute de milioane de date, dar, pe măsură ce tehnologia a avansat, au ajuns la miliarde de date, chiar terabytes de informații în versiunile 3.5 și 4.5. Acești algoritmi sunt capabili să analizeze și să genereze text, iar cuplarea lor cu funcționalitatea de chat – adică posibilitatea de a avea o conversație fluentă cu utilizatorul – a făcut toată diferența. Practic, calculatorul a devenit un interlocutor.

• Moderator: Asta schimbă fundamental interacțiunea cu tehnologia, nu? Dar înainte de ChatGPT am avut asistenți vocali, cum ar fi Siri. Cum se diferențiază ChatGPT?

Marius Stan: Siri și ceilalți asistenți personali, cum ar fi Alexa, au fost proiectați să răspundă la întrebări prin căutări pe internet, extrăgând informații existente. ChatGPT, însă, face mai mult decât să caute răspunsuri – are capacitatea de a sintetiza informația și de a răspunde într-un mod intuitiv, asemănător cu cel al unui om. Este o tehnologie care poate trece cu succes testul Turing, ceea ce înseamnă că este greu de distins de un om în conversație.

Testul Turing

• Moderator: Ai menționat testul Turing. Pentru cei care nu sunt familiarizați, ai putea explica în ce constă acesta?

Marius Stan: Sigur. Testul Turing este un test propus de Alan Turing, în care o mașină ar putea fi considerată „inteligentă” dacă ar reuși să poarte o conversație în scris astfel încât un observator uman să nu poată face diferența între un om și IA. Dacă ar fi un zid între noi și sistemul IA, iar noi am interacționa doar prin text, testul Turing ar verifica dacă ne putem da seama că discutăm cu un calculator sau cu un om.