OpenAI desființează echipa dedicată riscurilor legate de inteligența artificială

După plecarea celor doi manageri, echipa de la OpenAI care se ocupa de securitatea unei potențiale superinteligențe artificiale a fost dizolvată, iar membrii ei integrați în alte grupuri de cercetare ale companiei. OpenAI a confirmat informația apărută, inițial, pe surse, precizând că, de fapt, este vorba despre o schimbare a structurii care a început cu câteva săptămâni în urmă. Inventatorul ChatGPT se asigură, astfel, că cercetătorii care răspund de siguranța modelelor AI vor putea să lucreze în comun cu inginerii care dezvoltă aceste modele.

Far Jan Leike a explicat pe rețeaua X că își dă demisia din cauza unor dezacorduri fundamentale cu managementul asupra priorităților companiei: inovație sau securitate. „Am ajuns într-un punct de cotitură”, a spus inginerul care a condus echipa responsabilă de „superaliniere”, adică de a asigura că o viitoare IA generală, la fel de inteligentă ca oamenii, este aliniată cu valorile noastre.

„Are dreptate, mai avem multe de făcut”

Sam Altman, co-fondatorul și șeful companiei din San Francisco, a spus că este „foarte trist să-l vadă plecând pe Jan Leike”. „Dar are dreptate, mai sunt multe de făcut (pe linie de aliniere și cercetare a securității) și suntem hotărâți să ducem lucrurile la capăt”, a adăugat el, promițând un mesaj mai lung în curând.

Echipa de „superaliniere” a fost condusă și de Ilya Sutskever, co-fondator al OpenAI, care a părăsit și el compania. În mesajul său de despărțire postat pe X, el a spus că este „convins că OpenAI va construi o inteligență generală artificială, poe cât de sigură, pe atât de benefică”. El a făcut parte din consiliul de administrație care a votat pentru demiterea lui Sam Altman în noiembrie anul trecut.

Cu ChatGPT, OpenAI a lansat revoluția AI generativă (producerea de conținut prin interogare simplă în limbajul de zi cu zi), care entuziasmează Silicon Valley, dar și îngrijorează mulți observatori și autorități de reglementare, din California până la Washington și Bruxelles. Mai ales când Sam Altman vorbește despre crearea unei IA generale, cu capacități cognitive echivalente cu cele ale oamenilor. OpenAI a prezentat luni o nouă versiune a ChatGPT care poate purta conversații orale și cursive cu utilizatorii, un pas în plus spre asistenții AI, tot mai personali și mai eficienți.

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.