JP Morgan restricționează accesul angajaților la ChatGPT. Care este motivul

Software-ul de inteligență artificială este în prezent restricționat, a declarat sursa pentru Bloomberg, care a cerut să nu fie identificată deoarece informațiile sunt private. Măsura, care are impact asupra angajaților din întreaga firmă, nu a fost declanșată de un incident anume, ci reflectă controalele normale în jurul software-ului terților.

JP Morgan se numără printre băncile de investiții care au impus restricții temporare în ceea ce privește accesul la instrumentele chatbot. Accenture, compania de consultanță în domeniul tehnologiei, care are peste 700.000 de angajați, a avertizat, de asemenea, personalul cu privire la expunerea informațiilor despre clienți la instrumentele ChatGPT.

Lansarea ChatGPT, un chatbot dezvoltat de start-up-ul OpenAI din Silicon Valley care poate oferi răspunsuri asemănătoare cu cele umane la întrebări complexe, a trezit din nou interesul pentru instrumentele de inteligență artificială. Chatbotul OpenAI a fost accesat de zeci de milioane de fani ai tehnologiei și de cercetători care i-au testat capacitățile.

Tehnologia a fost adoptată, de asemenea, de Microsoft, care și-a modernizat motorul de căutare Bing folosind instrumente construite de OpenAI, lansând un test public care conectează robotul la date live de pe internet.

ChatGPT, testat de multe companii

Unele companii s-au aruncat să încerce aceste instrumente pentru a accelera munca. Roboții de chat sunt capabili să scrie articole de știri, e-mailuri, rețete și cântece realiste după ce au fost antrenați pe petabyte de articole și cărți de pe internet. De asemenea, aceștia pot scrie coduri și pot rezuma documente financiare.

Cu toate acestea, experții în securitatea datelor și experții juridici au semnalat îngrijorări cu privire la modul în care informațiile împărtășite cu cu astfel de programe ar putea fi folosite pentru a le perfecționa algoritmii sau ar putea fi accesate de către lucrători externalizați plătiți pentru a verifica răspunsurile acestora.

Băncile și instituțiile financiare, care fac obiectul unor reglementări stricte, s-au grăbit să plaseze ”garduri de protecție” în jurul utilizării noii tehnologii de către personal.

Există, de asemenea, preocupări legate de acuratețea faptică a tehnologiei. Deși au fost proiectate pentru a scrie propoziții asemănătoare cu cele umane, roboții pot avea dificultăți în a separa faptele de dezinformare. De asemenea, aceștia pot fi convinși să ofere răspunsuri aparent nebunești, cum ar fi amenințarea oamenilor care testează serviciul sau inventarea unor răspunsuri complet absurde.

Bizareriile din răspunsurile Bing Search de la Microsoft

Robotul de chat Bing Search de la Microsoft a dat răspunsuri bizare, printre care a pretins că este îndrăgostit de un jurnalist și i-a cerut acestuia să divorțeze de soția sa. Într-o conversație cu New York Times, robotul a spus: "Vreau să fac tot ce vreau ... Vreau să distrug tot ce vreau. Vreau să fiu cine vreau eu". 

Totodată, robotul a dat răspunsuri inexacte chiar în timpul evenimentului oficial de lansare care nu au fost observate de echipa Microsoft, cum ar fi inventarea unor cifre atunci când i s-a cerut să rezume un comunicat de presă privind câștigurile financiare. 

De atunci, Microsoft a impus limite privind lungimea conversațiilor cu instrumentul său de chat, pe fondul îngrijorărilor legate de faptul că răspunsurile sale nu erau "neapărat utile sau în conformitate ideea pentru care l-am conceput".

Luna trecută, Amazon a avertizat personalul să nu împărtășească informații confidențiale cu instrumentele de chatbot, pe fondul preocupărilor legate de confidențialitate. 

Avertismentul experților în securitate cibernetică

Experții în securitate au îndemnat la prudență atunci când se furnizează date către chatbots AI.

Un purtător de cuvânt al Behavox, o companie de tehnologie care lucrează cu bănci și instituții financiare importante pentru a monitoriza riscurile de securitate internă, a declarat că a "observat o tendință de creștere în ultima lună în ceea ce privește preocupările exprimate de clienții săi cu privire la utilizarea ChatGPT, în special atunci când implică utilizarea de date private sau de proprietate.

"Nu este recomandabil să se utilizeze acest instrument în astfel de scenarii, deoarece OpenAI va valorifica aceste date pentru a-și îmbunătăți modelele de inteligență artificială... există posibilitatea ca datele să ajungă în vizorul unui adnotator uman sau, mai rău, să fie încorporate în răspunsurile ChatGPT în viitor."

Site-ul web al OpenAI spune că firma va "revizui conversațiile pentru a ne îmbunătăți sistemele" și că conversațiile vor fi "revizuite de instructorii noștri de AI pentru a ne îmbunătăți sistemele". De asemenea, îi sfătuiește pe utilizatori să nu împărtășească "nicio informație sensibilă în conversațiile dumneavoastră".

Jon Baines, expert în protecția datelor la firma de avocatură Mishcon de Reya, a declarat că există, de asemenea, întrebări cu privire la faptul că societățile care utilizează ChatGPT ar putea risca să încalce legile privind datele dacă software-ul ar produce informații inexacte.

Dl Baines a declarat: "În cazul în care această producție implică prelucrarea datelor cu caracter personal, atunci apar întrebări cu privire la măsura în care prelucrarea inevitabil inexactă ar putea fi o încălcare a cerinței, în conformitate cu GDPR, de a prelucra datele cu caracter personal cu exactitate."

Un purtător de cuvânt al JP Morgan a refuzat să comenteze. Un purtător de cuvânt al Accenture a declarat: "Utilizarea noastră a tuturor tehnologiilor, inclusiv a instrumentelor de inteligență artificială generativă precum ChatGPT, este guvernată de valorile noastre fundamentale, de codul de etică în afaceri și de politicile interne. Ne-am angajat să folosim tehnologia în mod responsabil și să asigurăm protecția informațiilor confidențiale pentru clienții, partenerii noștri și Accenture."

ChatGPT a devenit un fenomen pe internet în ultimele luni. Tehnologia în plină expansiune generează text, imagini și alte suporturi media ca răspuns la o scurtă solicitare. 

Acest lucru a stârnit rumoare cu privire la potențialul său viitor pentru orice, de la scrierea de poezii în stilul lui Shakespeare la crearea de portofolii de acțiuni. Există chiar și un fond tranzacționat la bursă planificat în jurul acestui concept. 

Microsoft Corp. investește 10 miliarde de dolari în OpenAI, compania de cercetare în domeniul inteligenței artificiale din spatele chatbot-ului, o mișcare care ar putea pune în discuție dominația Google în domeniul căutărilor.

Dar au apărut și probleme de la lansarea ChatGPT în noiembrie. OpenAI a declarat că lucrează pentru a reduce prejudecățile din sistem și va permite utilizatorilor să îi personalizeze comportamentul, în urma unui val de rapoarte privind interacțiuni nepotrivite și erori în rezultatele sale.

Pentru creditorii atent reglementați, precauția în jurul introducerii oricărei noi tehnologii este de înțeles. Pe parcursul anilor 2021 și 2022, autoritățile de reglementare din SUA au acordat sancțiuni în total de peste 2 miliarde de dolari a pentru mai multe bănci în legătură cu utilizarea neautorizată de către forța lor de muncă a serviciilor de mesagerie privată.

  Fiți la curent cu ultimele noutăți. Urmăriți DCBusiness și pe Google News

Ţi s-a părut interesant acest articol?

Urmărește pagina de Facebook DCBusiness pentru a fi la curent cu cele mai importante ştiri despre evoluţia economiei, modificările fiscale, deciziile privind salariile şi pensiile, precum şi alte analize şi informaţii atât de pe plan intern cât şi extern.