Scandal URIAȘ la Google după ce un inginer a afirmat că un AI are sentimente

Unitatea Alphabet Inc. l-a plasat pe cercetător în concediu plătit la începutul săptămânii trecute, pe motiv că a încălcat politica de confidențialitate a firmei, a declarat acesta într-o postare pe rețeaua Medium intitulată "S-ar putea să fiu concediat în curând pentru că am făcut muncă de etică în domeniul IA".

În postare, el face o legătură cu membrii anteriori ai grupului de etică AI al Google, cum ar fi Margaret Mitchell, care au fost în cele din urmă concediați de companie într-un mod similar după ce au ridicat probleme.

Tulburările etice ale Google în materie de inteligență artificială au început cu mult înainte de dezvăluirea publică a lui Blake Lemoine.

Sâmbătă, Washington Post a publicat un interviu cu Lemoine, în care acesta a declarat că a ajuns la concluzia că AI-ul Google cu care a interacționat era ca o persoană. AI-ul în cauză este denumit LaMDA, sau Modelul de limbaj pentru aplicații de dialog, și este folosit pentru a genera roboți de chat care interacționează cu utilizatorii umani adoptând diverse modele de personalitate. Lemoine a declarat că a încercat să efectueze experimente pentru a demonstra acest lucru, dar a fost respins de cadrele superioare din cadrul companiei atunci când a ridicat problema la nivel intern.

"Unii din comunitatea mai largă de inteligență artificială iau în considerare posibilitatea pe termen lung a unei inteligențe artificiale senzitive sau generale, dar nu are sens să facem acest lucru prin antropomorfizarea modelelor conversaționale de astăzi, care nu sunt senzitive", a declarat Brian Gabriel, purtător de cuvânt al Google, în replică față de afirmațiile inginerului. "Echipa noastră - inclusiv eticieni și tehnologi - a analizat preocupările lui Blake conform principiilor noastre privind AI și l-a informat că dovezile nu susțin afirmațiile sale."

Întrebat despre suspendarea lui Lemoine, compania a declarat că nu comentează probleme de personal.

Este IREAL! China a dezvoltat primul judecător cu inteligență artificială

De ce trebuie să fim îngrijorați de fapt

Ceea ce este îngrijorător este că Alphabet a înăsprit de fapt controlul asupra activității sale de inteligență artificială. Anul trecut, fondatorii lăudatului său laborator de cercetare în domeniul inteligenței artificiale, DeepMind, au eșuat în încercarea lor de ani de zile de a-l transforma într-o entitate necorporatistă. Aceștia doreau să se restructureze într-o organizație de tip ONG, cu mai multe părți interesate, considerând că puternica "inteligență generală artificială" pe care încercau să o construiască - a cărei inteligență ar putea în cele din urmă să o depășească pe cea a oamenilor - nu ar trebui să fie controlată de o singură entitate corporativă. Personalul lor a redactat linii directoare care interziceau ca inteligența artificială a DeepMind să fie folosită în arme autonome sau în scopuri de supraveghere.

În schimb, Google a refuzat planurile și a însărcinat propriul consiliu de etică, condus de directori Google, să supravegheze impactul social al sistemelor puternice pe care DeepMind le construia.

Respingerea de către Google a lui Lemoine și a întrebărilor sale este, de asemenea, îngrijorătoare, deoarece urmează un model de a arăta ușa vocilor disidente. La sfârșitul anului 2020, Google l-a concediat pe omul de știință Timnit Gebru din cauza unei lucrări de cercetare în care se spunea că modelele lingvistice - care sunt fundamentale pentru activitatea de căutare și publicitate a Google - deveneau prea puternice și potențial manipulatoare. Google a spus că nu se concentrase suficient de mult pe soluții. Săptămâni mai târziu, a concediat-o și pe cercetătoarea Margaret Mitchell, spunând că a încălcat codul de conduită și politicile de securitate ale companiei.

Disidenții, dați afară de la Google

Atât Mitchell, cât și Gebru au criticat Google pentru modul în care a tratat-o pe Lemoine, spunând că, de ani de zile, compania a neglijat, de asemenea, să acorde atenția cuvenită femeilor și eticienilor.

Indiferent dacă cineva crede că Lemoine este nebun sau că are dreptate, răspunsul Google la preocupările sale subliniază o întrebare mai amplă cu privire la cine ne controlează viitorul. Acceptăm cu adevărat că o singură entitate corporatistă bogată va conduce unele dintre cele mai importante tehnologii transformatoare pe care omenirea le va dezvolta în epoca modernă?

În timp ce Google și alți giganți din domeniul tehnologiei nu vor renunța la rolul lor dominant în cercetarea în domeniul IA, este esențial să punem la îndoială modul în care aceștia dezvoltă o tehnologie atât de puternică și să refuzăm să lăsăm scepticii și intelectualii aberanți să fie reduși la tăcere.

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.