Semnal de alarmă tras de foști și actuali angajați din domeniul AI

Aceștia au publicat marți o scrisoare deschisă în care au avertizat asupra lipsei de supraveghere a siguranței în cadrul industriei și au solicitat o protecție sporită pentru cei care denunță neregulile.

Unsprezece actuali și foști angajați ai OpenAI, alături de doi actuali sau foști angajați ai Google DeepMind, au semnat scrisoarea care solicită „dreptul de a avertiza cu privire la riscurile date de inteligența artificială”, arată The Guardian.

„Companiile de AI dețin informații substanțiale nepublice despre capacitățile și limitările sistemelor lor, despre caracterul adecvat al măsurilor de protecție și despre nivelurile de risc ale diferitelor tipuri de daune”, se arată în scrisoare. „Cu toate acestea, ele au în prezent puține obligații de a împărtăși o parte din aceste informații cu guvernele și niciuna cu societatea civilă.”

OpenAI a răspuns acuzațiile, spunând că oferă diferite variante pentru a raporta problemele din cadrul companiei și că nu va lansa noi tehnologii până când nu există garanții adecvate. Google nu a răspuns imediat la o solicitare de comentarii.

„Suntem mândri de capacitatea noastră de a oferi cele mai capabile și mai sigure sisteme de inteligență artificială și credem în abordarea noastră științifică pentru a combate riscurile. Suntem de acord că o dezbatere riguroasă este crucială având în vedere importanța acestei tehnologii și vom continua să ne implicăm cu guvernele, societatea civilă și alte comunități din întreaga lume", a declarat un purtător de cuvânt al OpenAI.

Scrisoarea solicită o protecție sporită pentru lucrătorii din cadrul companiilor avansate de AI care decid să exprime preocupări legate de siguranță. Aceasta solicită un angajament față de patru principii privind transparența și responsabilitatea, inclusiv o dispoziție conform căreia companiile nu vor forța angajații să semneze niciun acord de confidențialitate care să interzică exprimarea exprimarea în mod anonim a preocupărilor legate de această tehnologie.

„Atâta timp cât nu există o supraveghere guvernamentală eficientă a acestor corporații, angajații actuali și foștii angajați sunt printre puținele persoane care le pot trage la răspundere în fața publicului”, se arată în scrisoare. „Cu toate acestea, acordurile stricte de confidențialitate ne blochează să ne exprimăm îngrijorările, cu excepția companiilor care nu reușesc să abordeze aceste probleme”.

Companii precum OpenAI au aplicat, de asemenea, tactici agresive pentru a-i împiedica pe angajați să vorbească liber despre munca lor, Vox relatând săptămâna trecută că OpenAI i-a făcut pe angajații care părăsesc compania să semneze documente extrem de restrictive privind confidențialitatea, în caz contrar pierzându-și toate acțiunile dobândite. Sam Altman, directorul general al OpenAI, și-a cerut scuze în urma raportului, spunând că va schimba aceste proceduri.

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.