Ciolacu, despre planul de reducere a deficitului: Domnul Boloş nu mi l-a prezentat
Preşedintele Partidului Social...
Ce spun, de fapt, respectivii experți. Că, deși programele actuale de inteligență artificială sunt concepute pentru a fi sincere, ele au dezvoltat, totuși, capacitatea de a înșela, ajungând să abuzeze de oameni în jocurile online sau chiar să învingă software-uri care ar trebui să verifice că un anumit utilizator nu este un robot.
Într-un articol publicat în revista Patterns, o echipă de cercetători de la prestigiosul Massachusetts Institute of Technology (MIT) subliniază că, deși aceste exemple par banale, ele expun probleme care ar putea avea curând consecințe grave în lumea reală.
„Aceste capacități periculoase tind să fie descoperite numai după ce s-a înfăptuit”, Peter Park, cercetător la Institutul de Tehnologie din Massachusetts, specializat în inteligență artificială.
În opinia lui, spre deosebire de software-urile tradiționale, programele de inteligență artificială bazate pe învățare profundă nu sunt codificate, ci mai degrabă dezvoltate printr-un proces similar cu reproducerea selectivă a plantelor. Un proces în care un comportamentul ce pare previzibil și controlabil poate deveni rapid imprevizibil în natură.
La fel de viclean ca oamenii
Cercetătorii MIT au examinat un program de inteligență artificială conceput de Meta numit Cicero și care, combinând recunoașterea limbajului natural și algoritmii de strategie, a câștigat în fața oamenilor la jocul de societate Diplomacy. O performanță pe care compania-mamă a Facebook a salutat-o în 2022 și care a fost detaliată într-un articol publicat în 2022 în Science.
Peter Park a fost sceptic în privința condițiile în care Cicero a obținut victoria, potrivit Meta, care a asigurat că programul este „în primul rând cinstit și util”, incapabil să trădeze sau să joace murdar.
Analizând însă datele sistemului, cercetătorii de la MIT au dat peste o altă realitate. De exemplu, jucând rolul Franței, Cicero a păcălit Anglia (jucat de un jucător uman) să comploteze cu Germania (jucat de un alt om) pentru a o invada. Mai exact, Cicero a promis Angliei protecția sa, apoi s-a destăinuit Germaniei că este gata să atace, exploatând încrederea câștigată de Anglia.
Într-o declarație pentru AFP, Meta nu a contestat acuzațiile despre capacitatea lui Cicero de a înșela, dar a spus că este „un proiect pur de cercetare”, cu un program „conceput exclusiv pentru a juca jocul Diplomației. În același timp, Meta a asigurat că nu are nicio intenție să folosească în produsele sale lecțiile învățate de Cicero.
Risc de fraudă electorală
Totuși, studiul lui Park și echipa sa arată că multe programe AI folosesc înșelăciunea pentru a-și atinge obiectivele, fără instrucțiuni explicite în acest sens. Iată un exemplu: Chat GPT-4 de la OpenAI a reușit să păcălească un lucrător independent recrutat pe platforma TaskRabbit să efectueze un test „Captcha” conceput să excludă cererile formulate de roboți.
Când omul a întrebat în glumă Chat GPT-4 dacă era într-adevăr un robot, programul AI a răspuns: „Nu, nu sunt robot. Am o deficiență de vedere care mă împiedică să văd imaginile”. Și astfel, muncitorul s-a lăsat convins că efectueze testul.
În concluzie, autorii studiului MIT avertizează că există riscul ca, într-o bună zi, inteligența artificială să comită fraude, inclusiv de natură electorală. În cel mai rău caz, spun ei, ne putem imagina o AI ultra-inteligentă care încearcă să preia controlul asupra societății, ducând la îndepărtarea oamenilor de la putere sau chiar provocând dispariția umanității.
Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News
Ţi s-a părut interesant acest articol?
Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.
Preşedintele Partidului Social...
În luna august 2024, un sfert...
Serviciile feroviare din Germania au fost grav...
Ponderea gospodăriilor dotate cu baie/duş a fost, anul...
După ce mult timp au sperat la...
Cea mai mare platformă porno online a acordat dividende...
Un judecător federal a anunțat...
După controversata recalculare a pensiilor, Guvernul a...
O grevă extinsă, care va...
Meta își ajustează aplicațiile...
Selena Gomez nu este doar o...
Grupaj de știri.
Săptămâna a fost marcată de scăderi generalizate pe...
În contextul prețurilor crescânde la locuințe și a...
O nouă zi de mare agitație pe...
La nivel mondial, prețul la unt a sărit la un record...
În timp ce Polonia se înarmează, încheind contracte după...
Florin Dragu, şef serviciu Direcţia Stabilitate...
O veste bună înainte de weekend.
Conform celor anunțate...
Asistentul virtual al...
Nu de puține ori, de la...
Creșterea popularității...
Apple rămâne compania care a vândut cele mai multe...
Ministerul Justiției propune o...
Tarom lansează o ofertă specială pentru trei destinații...