Articol semnat de Dr. Ec. Ioana Petcu, cercetător ştiinţific gr. III, Institutul Național de Cercetare - Dezvoltare în Informatică - ICI București

La începutul acestui an, în luna ianuarie, a avut loc la Davos a 55-a întâlnire anuală a Forumului Economic Mondial WEF25, care a reunit peste 2.500 de lideri mondiali de guvern, din mediul de afaceri și societatea civilă, precum și cercetători științifici, având ca tematică „Colaborare pentru era inteligentă”.

Scopul întâlnirii a fost de a regândi creșterea economică la nivel global și de a găsi soluții inovatoare la provocările actuale care influențează profund viața oamenilor, dezvoltarea economică și sănătatea planetei. La acest eveniment a fost prezentat Raportul anual Global al riscurilor ( https://www.weforum.org/), în care regăsim o serie de riscuri semnificative la nivel global, cu implicații și pentru România. Astfel:

• Conflictele geopolitice și impactul lor asupra comerțului international. Astfel, escaladarea tensiunilor geopolitice poate perturba lanțurile de aprovizionare și comerțul internațional, afectând și economia României, care este integrată în piața globală.

• Criza climatică și dezastrele naturale. Se observă o frecvenţă crescută în severitatea fenomenelor meteoro- logice extreme generate de anumite schimbări climatice, precum inundații și secete, care pot afecta agricultura și infrastructura României.

• Criza energetică: Fluctuațiile prețurilor la energie electrică și necesitatea tranziției către surse alternative pot crea provocări economice și sociale pentru România.

• Dezinformarea și polarizarea socială. Răspândirea dezinformării poate amplifica diviziunile sociale și politice, subminând încrederea publicului în instituții și afectând coeziunea socială.

• Evenimente cibernetice și securitatea digitală. Creșterea dependenței de tehnologie expune România la riscuri cibernetice, inclusiv atacuri asupra infrastructurii critice și furtul de date.

• Riscuri tehnologice și etica inteligenței artificiale.

Dezvoltarea rapidă a tehnologiilor emergente, precum inteligența artificială, ridică probleme legate de etică, reglementare și impact asupra forței de muncă. În cele ce urmează îmi voi opri atenţia asupra riscurilor tehnologice și etica în inteligentă artificială.

Legea privind Inteligenţa Artificială dată de Regulamentul UE 2024/1689 de stabilire a unor norme armonizate privind inteligența artificială este primul cadru juridic cuprinzător privind IA la nivel mondial, ce stabilește un set de norme bazate pe riscuri pentru dezvoltatorii și operatorii de IA în ceea ce privește utilizările specifice ale acesteia. Aceasta lege defineşte patru niveluri de risc pentru sistemele ce utilizează IA şi anume: riscul inacceptabil, riscul ridicat, riscul limitat și riscul minim.

Astfel, datorită riscurilor pe care le prezintă pentru valorile europene și drepturile fundamentale, la nivelul UE au fost identificate și interzise anumite practici de utilizare a IA, considerate o amenințare clară la adresa siguranței și a drepturilor persoanelor, definite cu risc inacceptabil. Astfel sunt interzise:

• Manipularea și înșelăciunea bazate pe IA

• Exploatarea bazată pe IA a vulnerabilităților specifice anumitor grupuri cum ar fi copiii, persoanele în vârstă sau cele cu dizabilități. Administrațiile locale trebuie să se asigure că soluțiile de IA nu exploatează astfel de vulnerabilități.

• Evaluarea sau clasificarea indivizilor pe baza comportamentului social, a statutului socio-economic sau a altor criterii similare, prin intermediul IA, este interzisă. Autoritățile locale trebuie să nu utilizeze astfel de sisteme în procesele administrative.

• Utilizarea camerelor video echipate cu tehnologii de recunoaștere facială în timp real (identificarea biometrică) pe străzi sau în alte spații publice. Administrațiile locale trebuie să evite implementarea unor astfel de sisteme pentru monitorizarea cetățenilor.

• Evaluarea sau predicția individuală a riscului aferent unei infracțiuni

• Recunoașterea emoțiilor la locul de muncă și în instituțiile de învățământ.

Există cazuri de utilizare a IA ce prezintă riscuri grave pentru sănătate, siguranță sau drepturile fundamentale, acestea fiind clasificate ca prezentând un risc ridicat. Printre acestea amintim:

• Componentele de siguranță ale IA în infrastructurile critice, a căror defecțiune ar putea pune în pericol viața și sănătatea cetățenilor

• Soluțiile de IA pentru instituțiile de învățământ, care pot determina accesul la educație și cursul vieții profesionale a unei persoane

• Componentele de siguranță bazate pe IA ale produselor

• Instrumente de IA pentru ocuparea forței de muncă, gestionarea angajaţilor și accesul la activități independente

• Anumite cazuri de utilizare a IA pentru a oferi acces la servicii publice și private esențiale

• Cazuri de utilizare a IA în asigurarea respectării legii care pot interfera cu drepturile fundamentale ale persoanelor

• Cazuri de utilizare a IA în gestionarea migrației, a azilului și a controlului la frontiere

• Soluții de IA utilizate în administrarea justiției și a proceselor democratice.

Riscurile limitate, se referă la acele riscuri asociate cu nevoia de transparență în ceea ce privește utilizarea IA. Legea privind IA introduce obligații specifice pentru a se asigura că oamenii sunt informați atunci când utilizează sisteme de IA, astfel încât să poată lua o decizie în cunoștință de cauză.

Legea privind IA nu introduce norme pentru IA care sunt considerate riscuri minime. Majoritatea sistemelor de IA utilizate în prezent în UE se încadrează în această categorie.

 

Măsuri luate de administraţia publică locală în vederea conformării la aceste reglementări

 

Pentru administraţia publică locală din România este esențial ca aceasta să fie conștientă de interdicțiile prezentate pentru a se asigura că implementările tehnologiilor IA respectă reglementările EU și protejează drepturile cetățenilor. În primul rând acestea trebuie să evalueze aplicațiile de IA pe care urmează să le implementeze.

De asemenea trebuie să dezvolte politici clare privind utilizarea etică a IA, în conformitate cu legislația europeană și națională și să asigure transparența în utilizarea sistemelor de IA, informând cetățenii despre modul în care sunt colectate și utilizate datele lor. Primăriile ar trebui să instruiască personalul implicat în implementarea și gestionarea soluțiilor de IA cu privire la aspectele etice și legale relevante.

Prin adoptarea acestor măsuri, administrațiile locale pot beneficia de avantajele oferite de IA la implementarea de soluţii inovative, asigurând totodată respectarea drepturilor fundamentale ale cetățenilor și conformitatea cu reglementările Uniunii Europene.

Articol publicat în Revista Ghidul Primăriilor, Ediția XIV, prima și singura revistă din România în format print și online destinată exclusiv autorităților locale.
Pentru a vizualiza online revista, click aici: https://www.ghidulprimariilor.ro/_revista-14/
Pentru a comanda gratuit revista în format print, click aici: https://ghidulprimariilor.ro/ro/orders/revista