Revoluția invizibilă: Proprietarul TikTok îți analizează fiecare mișcare de pe ecran

Tehnologia din spatele Doubao, care permite accesul complet la ecranul utilizatorului, reaprinde controversele legate de confidențialitate în plină ofensivă a Chinei pe piața globală a agenților AI

O funcție lansată discret în martie de ByteDance, compania care deține TikTok, a stârnit îngrijorare în rândul experților în protecția datelor. Este vorba despre „screen-sharing call” – o nouă opțiune a asistentului AI Doubao, care poate vedea și analiza tot ce este afișat pe ecranul utilizatorului, de la conversații și documente, la imagini, parole și aplicații active.

Tehnologie avansată, dar opacă

Deși promite o experiență fluidă și eficientă pentru utilizator, noua funcție a fost criticată pentru modul în care accesează informațiile de pe dispozitiv. Activarea se face printr-un sistem numit „servicii de accesibilitate”, inițial conceput pentru a ajuta persoanele cu dizabilități. În cazul Doubao, acest serviciu oferă asistentului AI acces complet la conținutul ecranului – inclusiv în aplicațiile care nu au fost deschise explicit pentru partajare.

Criticii avertizează că această implementare este lipsită de transparență, iar utilizatorii nu sunt clar informați despre ceea ce Doubao poate vedea sau stoca. În contrast cu aplicații de videoconferință precum Zoom, unde partajarea ecranului este clar semnalizată și limitată în timp și scop, Doubao funcționează pe fundal fără avertismente vizibile sau permisiuni punctuale.

Un trend periculos în AI: conveniență cu prețul controlului

Tehnologia screen-aware devine rapid un nou standard pentru agenții AI, care pot gestiona sarcini complexe pe baza contextului vizual al utilizatorului. Însă, în practică, acest tip de monitorizare permanentă riscă să încalce principiile de confidențialitate și consimțământ informat.

Alte platforme chineze, precum GLM-PC de la Zhipu AI și asistenții vocali ai Xiaomi (Xiao Ai), Oppo (Breeno) sau Vivo (Jovi Vision), utilizează mecanisme similare. Dar implementarea de către ByteDance este deosebit de controversată pentru că serviciul de accesibilitate este activat implicit, fără un control granular al utilizatorului asupra datelor colectate.

Modelul chinez vs. modelul occidental

Diferențele față de abordarea occidentală sunt evidente. Microsoft, de exemplu, a lansat în 2024 o funcție numită Recall, care urmărea în mod similar activitatea ecranului. În urma reacțiilor negative, compania a amânat lansarea, a făcut funcția opțională și a mutat procesarea local, pentru a minimiza riscurile de confidențialitate.

În schimb, companiile chineze profită de un cadru de reglementare mai permisiv și de presiunea competitivă pentru a lansa rapid produse puternice și integrate, chiar dacă asta înseamnă sacrificarea transparenței și a controlului utilizatorului.

Viitorul: între inovație și reglementare

Unele voci din industria chineză recunosc riscurile. CEO-ul Xiaomi, Lei Jun, a cerut standarde unitare pentru dispozitivele AI, inclusiv reguli clare privind accesul la ecran și consimțământul utilizatorului. China Software Industry Association a publicat recent recomandări privind utilizarea responsabilă a serviciilor de accesibilitate, dar aplicarea acestor norme este încă limitată.

Într-un peisaj în care piața agenților AI este estimată să crească de la 5,1 miliarde de dolari în 2024 la peste 47 de miliarde în 2030, conform Research and Markets, graba de a livra produse competitive riscă să lase în urmă protecția datelor personale.

Încrederea, cheia scalării globale

Pentru ca tehnologiile AI să devină cu adevărat parte integrantă a vieții digitale, companiile trebuie să îmbine performanța cu respectul față de intimitatea utilizatorului. Asistenții AI ar trebui să amplifice capacitățile umane, nu să submineze autonomia personală în tăcere.

ByteDance și alți giganți chinezi sunt acum în competiție nu doar pentru cele mai bune modele, ci și pentru încrederea globală. O abordare precaută, ghidată de standarde clare și de transparență, ar putea încetini temporar lansarea unor funcții. Însă pe termen lung, este singura cale sustenabilă pentru a construi o relație sănătoasă între oameni și AI.

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.