OpenAI va detecta imaginile create cu AI generativă

Un instrument pe care OpenAI, start-up-ul din spatele instrumentelor populare de inteligență artificială generativă (AI) ChatGPT și DALL-E, îl va pune la dispoziția cercetătorilor spre testare. Cu ajutorul lor se va putea stabili dacă imaginile digitale astfel analizate au fost create de programe software.

Autentificarea conținutului online a devenit o preocupare majoră odată cu explozia AI generativă, ce permite producerea de conținut pornind de la o simplă solicitare - inclusiv fotografii false ale oamenilor sau înregistrări audio false în scopul fraudei, de exemplu.

OpenAI a explicat că a dezvoltat un program pentru detectarea imaginilor generate de DALL-E 3. Conform testelor interne pe o versiune anterioară a instrumentului, „el identifică corect aproximativ 98% din imaginile DALL-E 3. Mai puțin de 0,5% din imaginile care nu au fost generate de AI au fost atribuite incorect lui DALL-E 3”, a declarat compania din California într-o declarație online.

Mai puțin eficient pe imaginile DALL-E retușate

Start-up-ul, finanțat în mare parte de Microsoft, a precizat însă că programul său a fost mai puțin eficient atunci când imaginile create cu DALL-E 3 au fost retușate ulterior sau când au fost generate de alte modele. OpenAI a anunțat, de asemenea, că va adăuga acum filigrane imaginilor AI, pentru a îndeplini standardele Coaliției pentru Proveniența și Autenticitatea Conținutului (C2PA).

C2PA este o inițiativă a industriei tehnologice care stabilește standarde tehnice pentru a determina proveniența și autenticitatea conținutului digital. Luna trecută, Meta Group (Facebook, Instagram) a declarat că va începe să eticheteze conținutul generat de inteligență artificială începând din mai, folosind standardul C2PA. Vecinul său Google s-a alăturat și el la inițiativă.

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.