Primul gând despre pericolele legate de inteligenţa artificială (AI) este despre stăpânirea lumii. Filmele aveau cumva dreptate, totuşi: AI deja face parte din viaţa noastră de zi cu zi şi deja este, chiar dacă abia la început, unul dintre pilonii economiei digitale. Pericole există, şi aici au nimerit-o în filme, doar că nu exact cum şi-au imaginat cineaştii.

Scăpată din mână, tehnologia poate duce la abuzuri şi chiar maşina în sine poate abuza, pentru că aşa a învăţat de la stăpânii ei, adică de la bazele de date pe care este antrenată. AI umblă liberă şi aproape nestingherită în toată lumea, însă atât Uniunea Europeană, cât şi Statele Unite lucrează deja la pachete de legi care să reglementeze domeniul. De ce este nevoie de legi şi care sunt pericolele reale ale AI?

„Suntem acum pe ultima sută de metri la negocierile finale, deci pe negocierile internaţionale cu Consiliul şi Comisia. Deci undeva, sper eu în noiembrie, decembrie cel târziu, să avem actul adoptat, ceea ce ne face prima jurisdicţie la nivel global care are asemenea un asemenea set de reguli”, spune Dragoş Tudorache, europarlamentar, preşedintele comisiei de AI şi raportorul din Parlamentul European pe pachetul de legi privind reglementarea inteligenţei artificiale. Manipularea focului, prima descoperire epocală a omului, a jucat un rol crucial în supravieţuirea şi evoluţia speciei până în vârful lanţului trofic. Prepararea unor alimente care fără foc nu pot fi mestecate, precum cerealele, sau încălzirea atunci când natura îţi e potrivnică aproape că sunt un dar divin, aşa cum, de fapt, credeau grecii: Prometeu a furat focul din atelierul fierarului zeilor, Hefaistos, şi l-a adus omului. Cu focul nu-i de joacă, însă, pentru că pe cât de util este, pe atât de distrugător poate fi. O ţigară aprinsă aruncată aiurea sau un joc de artificii inocent într-un club din Bucureşti se pot şi s-au transformat în tragedii. Cum poţi reglementa focul? Nu poţi, dar poţi să abordezi riscurile pe care le prezintă, poţi să îl interzici în anumite spaţii sau să obligi companiile care îl folosesc să îl utilizeze cu responsabilitate. Aceasta este şi ideea pe care a fost construit regulamentul european AI Act, explică Dragoş Tudorache: „Avem nevoie să jalonăm dezvoltarea AI, nu s-o interzicem, nu să o oprim, pentru că e foarte bună. Dar ea trebuie ghidată cumva, trebuie spus ce anume trebuie făcut şi pentru că principiile, doar ele, nu funcţionează şi autodisciplina companiilor nu este suficientă”. În termeni practici, autorii proiectului de lege s-au gândit care sunt riscurile folosirii tehnologiei şi cum pot fi abordate. Pentru unele aplicaţii, cum ar fi supravegherea în masă, AI va fi pur şi simplu interzisă în Uniunea Europeană. Uniunea Europeană va veni cu un regulament, adică un act normativ care, atunci când intră în vigoare, trebuie aplicat de statele membre într-un termen stabilit, cum a fost, de exemplu, regulamentul GDPR pentru protecţia datelor cu caracter personal.  Pentru a realiza un articol echilibrat, BUSINESS Magazin a întrebat şi inteligenţa artificială ce părere are despre propria reglementare. Iată ce răspunde ChatGPT, cel mai celebru chatbot bazat pe inteligenţă artificială, dezvoltat de OpenAI şi în care a investit şi Microsoft: „Reglementarea utilizării inteligenţei artificiale este o problemă importantă şi complexă. Este crucial să se găsească un echilibru între promovarea inovaţiei şi protejarea drepturilor, siguranţei şi confidenţialităţii cetăţenilor. În general, regulamentele precum AI Act au scopul de a stabili linii directoare clare şi standarde pentru utilizarea inteligenţei artificiale, în special în domenii sensibile cum ar fi sănătatea, securitatea publică şi drepturile fundamentale ale oamenilor”. Întrebat dacă AI ar trebui interzis în anumite domenii, maşina dă un răspuns diplomatic: „În ceea ce priveşte utilizarea inteligenţei artificiale (AI), nu există un răspuns simplu şi universal valabil cu privire la dacă ar trebui sau nu să fie interzisă în anumite domenii. Decizia de a interzice sau de a reglementa AI într-un anumit domeniu depinde de mai mulţi factori, inclusiv impactul potenţial al tehnologiei, riscurile asociate şi beneficiile care pot fi obţinute.” ChatGPT admite, însă, că pot fi domenii în care AI ar trebui interzisă, cum ar fi în domeniul armamentului autonom, unde ar putea fi folosită pentru a lua decizii legate de viaţa şi moartea unor persoane. Dragoş Tudorache a explicat însă că interzicerea AI se va extinde către mai multe domenii: supravegherea în masă, anticiparea comiterii infracţiunilor sau a riscului de recidivă, manipularea subliminală sau scanarea internetului pentru anumite scopuri.  În China, există în plină desfăşurare un sistem de scor social (social scoring) bazat pe AI. Sunt milioane de camere cu recunoaştere facială şi dotate cu AI care supraveghează comportamentul cetăţenilor. Dacă arunci un gunoi pe stradă, sau treci strada printr-un loc nepermis, amenda se retrage direct din cont şi scorul social scade. Când scorul ajunge jos, cetăţenii nu mai pot accesa credite bancare, călătorii sau cumpăra anumite produse de la supermarket. Sigur că în esenţă poate părea un lucru bun, dar, la fel cum şi comunismul a fost un concept bun la bază, dă naştere unor abuzuri monstruoase. „Partea de anticipare a comitere acţiunilor sau a recidivei acestor infracţiuni intră la interzis, pentru că aici AI nu aduce nimic bun. Sau la utilizarea în timp real a AI-ului pentru supraveghere publică, utilizând şi componente biometrice. Da, din nou, noi, ca europeni, spunem că acestea nu sunt valorile noastre şi nu vrem acest  lucru în societate. Sau pentru scor social, cum fac chinezii, folosesc AI să facă acest scor social”, mai spune Tudorache. Sistemul penal englezesc a început primul să folosească AI pentru a determina riscul de recidivă şi a antrenat-o pe bazele de date existente: „Şi ce să vezi? Pentru că populaţia carcerală, istoric vorbind, era din anumite medii sociale, din anumite medii etnice, din anumite părţi din oraş, maşina scotea mereu nume bănuite de recidivă din acea zonă”. De asemenea, în manipularea subliminală este interzisă folosirea AI, precum şi în identificarea emoţiilor unei persoane după expresiile faciale. Ce înseamnă manipulare subliminală? „Înseamnă să folosesc tehnologia pentru a trimite anumiţi stimuli către senzorii tăi umani la nivel vizual, auditiv, olfactiv, cognitiv, mai jos de linia ta de percepţie, ca să te determin să faci ceva. Ca exemplu de tehnologie care este încă folosită, dar după asta n-o să mai fie, şoferii de camioane pe cursă lungă primesc ultrasunete pe care urechea umană nu le percepe, dar care îi fac să stea mai mult timp fără să doarmă”, explică Dragoş Tudorache. Dincolo de domeniile în care AI va fi strict interzisă, mai sunt domeniile unde va fi reglementată. Robotul nu ştie să nu discrimineze, dacă bazele de date pe care este antrenat sunt discriminatorii. De exemplu, a fost folosit în zona de recrutare, pentru a selecta acei candidaţi care să meargă la interviu, dintre mai multe CV-uri. Dacă, istoric, statistic, candidaţii selectaţi erau în proporţie de 80% bărbaţi şi 20% femei, robotul a selectat în această proporţie. „A fost discriminare pentru că începuse să fie folosită AI pe zone de recrutare, pe analize de la bănci, de scor de credit, în asigurări. Deci practic în acele tipuri de decizii automatizate care se bazau în spate pe algoritm. S-a dovedit că bazele de date, fiind istoric distorsionate, AI prelucrează aceste date”, mai spune Tudorache.

Impactul legii asupra companiilor va fi minim, spune el, în vizor fiind mai mult cei care utilizau AI în scopurile descrise mai sus, unde AI va fi interzisă: „Estimarea Comisiei este că undeva la 85% şi chiar 90% din companiile care dezvoltă sau utilizează AI nu vor fi nici într-un fel afectate de legislaţie. Pentru că numai cei ce dezvoltă AI în zona asta de risc mare practic se supun reglementărilor”. Care vor fi însă consecinţele încălcării regulamentului şi cum vor fi verificate companiile? Tot cu ajutorul AI, explică el: va fi folosit pentru a căuta şi sancţiona şi vor fi şi autorităţi de reglementare. „Vor fi amenzi de până la 6% din cifra de afaceri şi cu posibilitatea de alte investigaţii. Orice cetăţean va putea să semnaleze probleme în interacţiunea cu AI”. Inteligenţa artificială a intrat mult mai puternic în atenţia publicului larg odată cu folosirea la scară largă a ChatGPT şi estimările sunt  că în următorii ani aproape orice job va avea o componentă de AI. Uniunea Europeană va deveni primul spaţiu în care folosirea inteligenţei artificiale va fi reglementată şi va da tonul pentru reglementarea noului „foc” care, în mâinile greşite, se poate transforma într-o armă redutabilă.  

Ce părere are inteligenţa artificială despre propria reglementare. BUSINESS Magazin a întrebat ChatGPT