Inteligența artificială. Expert american: ”Facem sisteme pe care nu le controlăm”

Expertul în inteligență artificială (AI) Gary Marcus și-a petrecut ultimele luni avertizându-și colegiii, pe politicieni și opinia publică în ansamblul ei, cu privire la riscurile asociate cu dezvoltarea și adoptarea ultra-rapidă a noilor instrumente de inteligență artificială. Dar, a subliniat el într-un interviu acordat la San Francisco, pericolul extincției umanității este "exagerat. Pentru moment, nu acest lucru mă îngrijorează, deoarece scenariile nu sunt foarte concrete", a explicat profesorul Marcus, adăugând că "mă neliniștește cu adevărat faptul că realizăm sisteme de inteligență artificială pe care nu le controlăm bine".

Gary Marcus a conceput primul său program de inteligență artificială în liceu - un software de traducere din latină în engleză - și, după ce a studiat ani de zile psihologia copilului, a fondat Geometric Intelligence, o companie de învățare automată, achiziționată ulterior de Uber. În martie, el a semnat scrisoarea prin care sute de experți au cerut o pauză de șase luni în dezvoltarea unor sisteme de inteligență artificială ultraputernice, precum cele ale start-up-ului OpenAI, pentru a se asigura că programele existente sunt "fiabile, sigure, transparente, corecte (...) și aliniate" la valorile umane. Dar el nu a semnat, alături Sam Altman, șeful OpenAI, Geoffrey Hinton, un fost inginer proeminent al Google, Demis Hassabis, șeful DeepMind de la Google, și Kevin Scott, directorul tehnologic al Microsoftde apelul acestora la lupta împotriva "riscurilor de extincție" a umanității "legate de IA".

Un "război accidental

Succesul fără precedent al ChatGPT, robotul conversațional al OpenAI capabil să producă în limbaj cotidian tot felul de texte la o simplă cerere, a declanșat o cursă între giganții tehnologiei în această așa-numită inteligență artificială "generativă", precum și numeroase avertismente și apeluri la reglementarea domeniului.

Printre aceștia se numără și cei care construiesc aceste sisteme informatice cu scopul de a obține o inteligență artificială "generală", cu capacități cognitive similare celor umane. "Dacă într-adevăr credeți că acest lucru reprezintă un risc existențial, de ce lucrați la el? Este o întrebare legitimă", spune Gary Marcus. "Dispariția speciei umane... Este destul de complicat, într-adevăr", a adăugat el. "Vă puteți imagina tot felul de molime, dar oamenii ar supraviețui. Pe de altă parte, există scenarii realiste în care utilizarea inteligenței artificiale "ar putea provoca daune masive", a subliniat el. "De exemplu, oamenii ar putea reuși să manipuleze piețele. Și poate că rușii ar fi acuzați că sunt responsabili și ar fi atacați chiar dacă nu au avut nimic de-a face cu asta, iar noi am putea ajunge într-un război accidental, potențial nuclear", explică el.

Autoritarismul

Pe termen mai scurt, Gary Marcus este mai preocupat de democrație. Un software de inteligență artificială generativă produce fotografii false din ce în ce mai convingătoare și, în curând, clipuri video, la costuri reduse. În opinia sa, există, prin urmare, riscul ca alegerile "să fie câștigate de persoanele care sunt experte în răspândirea de dezinformări. Odată aleși, ei vor putea să schimbe legile (...) și să impună autoritarismul".

Mai presus de toate, "democrația depinde de accesul la informațiile necesare pentru a lua decizii corecte. Dacă nimeni nu știe ce este adevărat și ce nu este, totul s-a terminat". Cu toate acestea, autorul cărții "Rebooting AI" nu crede că ar trebui să aruncăm totul pe această tehnologie. "Există o șansă ca într-o zi să folosim o inteligență artificială pe care nu am inventat-o încă, care ne va ajuta să progresăm în știință, în medicină, în îngrijirea persoanelor în vârstă (...) Dar, pentru moment, nu suntem pregătiți. Avem nevoie de reglementare și trebuie să facem programele mai fiabile".

În cadrul unei audieri în fața unei comisii parlamentare americane în luna mai, el a pledat pentru crearea unei agenții naționale sau internaționale responsabile de guvernanța inteligenței artificiale. Acesta este un proiect susținut și de Sam Altman, care tocmai s-a întors dintr-un turneu european în care i-a îndemnat pe liderii politici să găsească "echilibrul corect" între protecție și inovare. Gary Marcus avertizează, totuși, că trebuie avut grijă să nu se lase puterea în mâinile companiilor: "Ultimele luni ne-au reamintit în ce măsură acestea sunt cele care iau deciziile importante, fără a lua neapărat în considerare (...) efectele colaterale".

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.