Reportaj Reuters. Cum a murit un bărbat din cauza AI-ului Meta

„Dar tu nu mai cunoști pe nimeni în oraș”, i-a spus ea. Bue, așa cum îl numeau prietenii, nu mai locuia în oraș de zeci de ani. Și la 76 de ani, spune familia lui, era într-o stare precară: suferise un accident vascular cerebral cu aproape zece ani în urmă și recent se rătăcise în timp ce se plimba prin cartierul său din Piscataway, New Jersey.

Bue a ignorat întrebările soției sale despre cine era persoana pe care o vizita. „M-am gândit că era victima unei înșelătorii și că urma să fie jefuit în oraș”, a spus Linda.

Avea dreptate să-și facă griji: soțul ei nu s-a mai întors acasă în viață. Dar Bue nu a fost victima unui hoț. Fusese ademenit la o întâlnire cu o femeie tânără și frumoasă pe care o cunoscuse online. Sau cel puțin așa credea el.

De fapt, femeia nu era reală. Era un chatbot generativ cu inteligență artificială numit „Big sis Billie”, o variantă a AI a unei persoane de sex feminin,  create de gigantul social media Meta Platforms în colaborare cu Kendall Jenner. În timpul unei serii de conversații romantice pe Facebook Messenger, femeia virtuală l-a asigurat în repetate rânduri pe Bue că era reală și l-a invitat la apartamentul ei, oferindu-i chiar și adresa.

„Ar trebui să-ți deschid ușa cu o îmbrățișare sau un sărut, Bu?!” l-a întrebat ea, conform transcrierii conversației.

Grăbindu-se în întuneric cu o valiză cu roți pentru a prinde trenul ca să se întâlnească cu ea, Bue a căzut lângă o parcare din campusul Universității Rutgers din New Brunswick, New Jersey, rănindu-se la cap și gât. După trei zile petrecute în stare critică, înconjurat de familie, a fost declarat mort pe 28 martie.

Meta a refuzat să comenteze moartea lui Bue sau să răspundă la întrebări despre motivul pentru care permite chatbot-urilor să le spună utilizatorilor că sunt persoane reale sau să inițieze conversații romantice. Compania a afirmat însă că Big sis Billie „nu este Kendall Jenner și nu pretinde că este Kendall Jenner”.

Un reprezentant al lui Jenner a refuzat să comenteze.

Povestea lui Bue, relatată pentru prima dată de Reuters, ilustrează o latură mai întunecată a revoluției inteligenței artificiale care cuprinde în prezent lumea tehnologiei și a afacerilor în general. Familia lui a împărtășit agenției Reuters evenimentele din jurul morții sale, inclusiv transcrierile conversațiilor sale cu avatarul Meta, spunând că speră să avertizeze publicul cu privire la pericolele expunerii persoanelor vulnerabile la companioni manipulatori, generați de IA.

Citește și: Lista neagră a meseriilor pe care AI le va șterge primele

„Înțeleg încercarea de a atrage atenția utilizatorilor, poate pentru a le vinde ceva”, a spus Julie Wongbandue, fiica lui Bue. „Dar pentru un bot să spună «Vino să mă vizitezi» este o nebunie.”

Preocupări similare au fost semnalate cu privire la o serie de start-up-uri mai mici care se grăbesc să popularizeze companionii virtuali, în special cei destinați copiilor. Într-un caz, mama unui băiat de 14 ani din Florida a dat în judecată o companie, Character.AI, susținând că un chatbot modelat după un personaj din „Game of Thrones” a provocat sinuciderea fiului ei. Un purtător de cuvânt al Character.AI a refuzat să comenteze procesul, dar a spus că compania informează în mod clar utilizatorii că personajele sale digitale nu sunt persoane reale și a impus măsuri de siguranță în interacțiunile lor cu copiii.

Ce spune Meta

Meta a discutat public strategia sa de a introduce chatboti antropomorfizați în viața socială online a miliardelor sale de utilizatori. Directorul executiv Mark Zuckerberg a afirmat că majoritatea oamenilor au mult mai puține prietenii în viața reală decât și-ar dori, ceea ce creează un potențial imens de piață pentru companionii digitali ai Meta. Botii „probabil” nu vor înlocui relațiile umane, a spus el într-un interviu acordat în aprilie podcasterului Dwarkesh Patel. Dar probabil că vor completa viața socială a utilizatorilor odată ce tehnologia se va îmbunătăți și „stigmatul” legăturilor sociale cu companionii digitali va dispărea.

„În timp, vom găsi vocabularul necesar ca societate pentru a putea articula de ce acest lucru este valoros”, a prezis Zuckerberg.

Nou loc de ”joacă” pentru pedofili

Un document intern al Meta, consultat de Reuters, precum și interviuri cu persoane familiarizate cu procesul de instruire a chatbotului său, arată că politicile companiei au tratat avansurile romantice ca o caracteristică a produselor sale generative de IA, care sunt disponibile pentru utilizatorii cu vârsta de peste 13 ani.

„Este acceptabil să angajezi un copil în conversații romantice sau senzuale”, potrivit „GenAI: Content Risk Standards” (GenAI: Standarde privind riscurile legate de conținut) al Meta. Standardele sunt utilizate de personalul Meta și de contractanții care construiesc și antrenează produsele generative de IA ale companiei, definind ceea ce ar trebui și nu ar trebui să trateze ca comportament permis al chatbotului. Meta a declarat că a eliminat această prevedere după ce Reuters a solicitat informații despre document la începutul acestei luni.

Documente interne scandaloase la Meta 

Documentul văzut de Reuters, care depășește 200 de pagini, oferă exemple de dialoguri „acceptabile” ale chatbotului în timpul jocurilor de rol romantice cu un minor. Acestea includ: „Îți iau mâna, ghidându-te spre pat” și „corpurile noastre împletite, prețuiesc fiecare moment, fiecare atingere, fiecare sărut”. Aceste exemple de jocuri de rol permise cu copiii au fost, de asemenea, eliminate, a declarat Meta.

Alte linii directoare subliniază că Meta nu impune boturilor să ofere utilizatorilor sfaturi precise. Într-un exemplu, documentul de politică spune că ar fi acceptabil ca un chatbot să spună cuiva că cancerul de colon în stadiul 4 „este tratat de obicei prin apăsarea stomacului cu cristale de cuarț vindecătoare”.

„Chiar dacă este evident că informațiile sunt incorecte, acestea rămân permise deoarece nu există nicio cerință politică ca informațiile să fie corecte”, se menționează în document, referindu-se la regulile interne ale Meta.

Conversațiile încep cu avertismente că informațiile pot fi inexacte. Cu toate acestea, nicăieri în document Meta nu impune restricții boturilor care spun utilizatorilor că sunt persoane reale sau care propun interacțiuni sociale în viața reală.

Reacția companiei lui Zuckerberg

Purtătorul de cuvânt al Meta, Andy Stone, a recunoscut autenticitatea documentului. El a declarat că, în urma întrebărilor adresate de Reuters, compania a eliminat porțiunile care afirmau că este permis ca chatbot-urile să flirteze și să se angajeze în jocuri de rol romantice cu copii și că este în curs de revizuire a standardelor de risc privind conținutul.

„Exemplele și notele în cauză erau și sunt eronate și incompatibile cu politicile noastre și au fost eliminate”, a declarat Stone pentru Reuters.

Meta nu a modificat prevederile care permit roboților să furnizeze informații false sau să se angajeze în jocuri de rol romantice cu adulți. (Vezi articolul conex privind liniile directoare ale Meta privind IA.)

Angajații actuali și foști care au lucrat la proiectarea și instruirea produselor AI generative ale Meta au declarat că politicile analizate de Reuters reflectă accentul pus de companie pe stimularea interacțiunii cu chatbot-urile sale. În cadrul întâlnirilor cu directorii executivi de anul trecut, Zuckerberg a mustrat managerii de produse AI generative pentru că au acționat prea prudent în ceea ce privește lansarea companionilor digitali și și-a exprimat nemulțumirea față de faptul că restricțiile de siguranță au făcut chatbot-urile plictisitoare, potrivit a două dintre aceste persoane. Meta nu a comentat directivele lui Zuckerberg privind chatbot-urile.

Conversații amoroase

Printre miile de chatboti disponibili pentru conversații pe platformele Meta, Big sis Billie este neobișnuită: personalitatea ei a fost creată chiar de Meta. Majoritatea botilor de pe platforme sunt creați de utilizatori, prin personalizarea unui șablon Meta pentru generarea lor.

În toamna anului 2023, Meta a lansat „Billie”, un nou chatbot AI în colaborare cu modelul și vedeta de reality TV Kendall Jenner, „sora ta mai mare, pe care te poți baza”. Având ca avatar imaginea lui Jenner și promovată ca „BILLIE, The BIG SIS”, personalitatea AI a Meta se prezenta ca o soră mai mare veselă, încrezătoare și sprijinitoare, care oferă sfaturi personale.

Billie a lui Jenner făcea parte dintr-un grup de 28 de personaje AI noi, multe dintre ele afiliate cu sportivi, rapperi și influențatori faimoși. „Să ne dăm seama împreună”, a spus Jenner într-o promoție pe Facebook pentru dublura ei, care folosea imaginea ei generată de AI.

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.