INTELIGENȚA ARTIFICIALĂ, REGLEMENTATĂ ÎN U.E.

INTELIGENȚA ARTIFICIALĂ, REGLEMENTATĂ ÎN U.E.

Nu cred că există vreo reglementare U.E. pe care să o fi așteptat atît de mult și pe care să o parcurg cu atîta atenție. Deoarece toate regulamentele / directivele UE din ultimii 10 ani s-au preocupat doar tangențial de IA, Inteligența Artificială. Prevederi despre IA există superficial în documentele sectoriale ale U.E. începînd cu anii: 2013 ( mașinile agricole), 2014 (echipamentele maritime) 2016 (trenurile europene) 2018 (emisiile de carbon ale autovehiculelor) 2018 (aviația civilă) 2019 (siguranța generală a ocupanților de vehicule grele). Și ultima, din noiembrie 2020, în plină pandemie Covid - 19, prevederi sumare despre IA în Directiva U.E. despre protecția intereselor generale ale consumatorilor. Fix ce ne lipsea în pandemie...

Și iată că în ultimul timp U.E. s-a aplecat parcă înfricoșată asupra evoluțiilor absolut necontrolate ale IA, un grup de experți foarte bine pregătiți din domeniul IA finalizînd în mai 2024 prima reglementare profesionistă a IA. Ea a fost votată în plenul Parlamentului European și al Consiliului în 13 iunie 2024, devenind Regulamentul UE 2024 / 1689 de stabilire de norme armonizate privind Inteligenta Artificială și de modificare a regulamentelor și directivelor menționate anterior.

În Regulament IA este denumită generic sisteme de IA. Documentul are rolul de a proteja persoanele fizice și juridice de prejudicii (materiale sau morale, de natură fizică, psihologică, societală sau economică) și de efectele dăunătoare ale sistemelor de IA. Scopul e asigurarea funcționării și realizarea unor sisteme IA de încredere, sigure și centrate pe factorul uman.

Parcurgînd în mod repetat CAPITOLELE I, II și III din Regulamentul UE 2024 / 1689 pot să afirm că el este bine făcut și fiabil. Regulamentul are ca destinatari direcți și legali producătorii, fabricanții, furnizorii, importatorii, distribuitorii, implementatorii de IA, adică pe toți cei implicați în producerea, administrarea și exploatarea sistemelor de IA.

Intrarea în vigoare. Regulamentul intră în vigoare gradual, respectiv Capitolele I și II din 02 februarie 2025, Capitolele III, V, VII și XII din 02 august 2025 iar restul de capitole (cuprinzînd: obligația de transparență, măsurile de sprijin a inovării, baza de date U.E. pentru IA cu grad ridicat de risc, monitorizarea ulterioară punerii pe piață, alertele pentru riscuri sistemice, codurile de conduită, guvernanța, sancțiunile, amenzile, delegarea de competențe, etc.) din 02 august 2026.

Conținutul Regulamentului. Pentru a înțelege gravitatea și complexitatea problemelor sistemelor de IA, trebuie să arătăm că Regulamentul are în total 144 de pagini, din care primele 44 de pagini conțin 180 de paragrafe doar cu motivațiile necesității acestui regulament. Celor 180 de motivații le corespund cele 113 articole dedicate fiecărui subiect major. La început sînt prezentate în prealabil toate cele 68 de definiții din Regulament cum ar fi: componenta de siguranță, rechemarea / retragerea unui sistem de IA, date biometrice, sistem de identificare biometrică la distanță, sistem de identificare biometrică în timp real, crearea de profiluri, sistem de recunoaștere a emoțiilor, date operaționale sensibile, sisteme de IA cu grad ridicat de risc, risc sistemic, furnizor din aval, deep fake, etc.

Practicile interzise în domeniul IA sînt descrise în CAPITOLUL II din Regulamentul 2024 / 1689. Acestea sînt :

  • Utilizarea de tehnici subliminale ce nu pot fi percepute în mod conștient de o persoană;
  • Exploatarea vulnerabilităților / dizabilităților unor persoane sau grupuri de persoane;
  • Evaluarea în timp a unui grup de persoane pentru realizarea de punctaj social;
  • Evaluări de risc pentru o persoană pentru prevenirea unei infracțiuni;
  • Extragerea fără scop a imaginilor faciale ale persoanelor de pe Internet ori de pe canale TV;
  • Deducerea emoțiilor unei persoanei fizice la locul de muncă ori în învățămînt;
  • Utilizarea de sisteme de clasificare biometrice la distanță (clasificări politice, religioase, filozofice,, etc;)
  • Utilizarea de sisteme de clasificare biometrice în timp real (în aplicareai legii cu autorizare juridică prealabilă).

Tipurile de sisteme de IA. Uniunea Europeană a identificat 2 tipuri de sisteme de IA, sistemele de IA de uz general și sistemele de IA cu grad ridicat de risc. Pentru a fi declarat cu grad ridicat de risc un sistem de IA trebuie să îndeplinească în mod cumulativ următoarele 2 condiții. 1. Este destinat să fie utilizat ca o componentă de siguranță sau este el însuși o componentă de siguranță. 2. Sistemul de IA nu a fost supus unei evaluări de conformitate de o terță parte, în vederea introducerii pe piață sau a punerii în funcțiune. Organismul U.E. de evaluare a conformității sistemelor de IA va fi înființat abia începînd cu 02 august 2025. În concluzie toate sistemele de IA existente în prezent în funcțiune pe piață sînt sisteme de IA cu grad ridicat de risc, toate conținînd componente de siguranță dar nefiind supuse pînă în prezent nici unei evaluări de conformitate specifice. CAPITOLUL III în totalitate se referă doar la sistemele de IA cu grad ridicat de risc (art.6 - 49).

Încadrarea sistemelor de IA. Sistemele de IA sînt încadrate și tratate de U.E. ca orice alt fel de produs comercial, fie el o bicicletă, un televizor sau un telefon mobil, toate fiind destinate utilizării umane. Începînd cu 02 august 2025 toate sistemele IA vor avea înglobate sau pe ambalajul de furnizare numele producătorului, denumirea comercială înregistrată, adresa și datele de contact. Sistemele de IA vor purta marcajul CE și vor fi însoțite de Certificatul de Conformitate UE. Sistemele IA vor fi însoțite de instrucțiuni de utilizare, documentația tehnică fiind realizată în mod clar și cuprinzător. Toate aceste componente firești lipsesc astăzi complet, sistemele de IA fiind livrate și funcționînd într-un haos complet.

Producția sistemelor de IA este strict reglementată. În primul rînd toții furnizorii și implementatorii de sisteme IA sînt obligați să alfabetizeze la un nivel suficient întregul personal din domeniul IA pentru a-l conștientiza de riscurile și prejudiciile ce pot fi aduse. (Prin aceasta se presupune că în prezent unii operatori ar fi semi-alfabetizați sau analfabeți ?? ) Vor exista în mod distinct date de antrenare, date de testare și date de validare. Datele de antrenament, testare și validare sînt strict reglementate ele fiind fără erori și complete. Sistemele IA vor fi testate înainte de introducerea pe piață. Va exista un plan privind spațiul de testare și un spațiu de testare al UE. Poate exista și un plan de testare în condiții reale, ce poate avea loc doar cu acordurile subiecților. Documentația tehnică se realizează înainte de punerea pe piață. Instrucțiunile de utilizare vor fi concise, complete, corecte, clare și ușor de înțeles de utilizatori. Instrucțiunile de utilizare vor fi pe suport digital sau de orice alt tip. După finalizarea sistemului IA, se va verifica conformitatea sistemelor IA de un organism specializat și se va elibera Certificatul de Conformitate.

Funcționarea sistemelor de IA. După punerea pe piață sistemele IA vor fi monitorizate pe toată durata funcționării lor. Sistemele IA înregistrează automat toate evenimentele. Sistemele IA păstrează toate evenimentele din perioada duratei de funcționare prin fișerele de jurnalizare care sînt generate automat. Fișierele de jurnalizare permit monitorizarea după punerea pe piață. Furnizorii de sisteme IA păstrează toate evidențele timp de 10 ani după punerea pe piață sau în funcțiune.

Sistemele IA dețin acuratețe, robustețe și securitatate cibenetică. Sistemele IA dețin planuri de rezervă și planuri de funcționare în caz de avarie. Furnizorii corectează, retrag ori opresc sistemele de IA neconforme Regulamentului 2024 / 1689. Furnizorii de sisteme IA informează autoritatea de supraveghere de noile riscuri apărute. Riscul rezidual restant după eliminarea pericolului trebuie să fie la un nivel acceptabil. La solicitarea autorităților competente furnizorii de sisteme IA oferă toate informațiile și documentele cerute. Autoritățile competente au acces la toate fișierele de jurnalizare generate automat.

Sistemele IA sunt concepute pentru a se opune intervențiilor neautorizate ale unor terți - de modificare a funcționării.

Incidentele grave produse de sistemele de IA apar în urma funcționării necorespunzătoare a unui sistem de IA care direct sau indirect conduce la oricare din următoarele consecințe: vătămarea sănătăți sau decesul unei persoane, perturbarea gravă și ireversibilă a gestionării / funcționării infrastructurii critice, încălcarea drepturilor fundamentale ale persoanei prevăzute în Carta Drepturilor Omului, (parte componentă a Tratatului Uniunii), afectarea democrației, a statului de drept, daune grave aduse bunurilor sau mediului. Incidentele grave sînt ele însele motive ale necesității legiferării prezentului Regulament.

Supravegherea umană a sistemelor de IA. Sistemele de IA sînt proiectate, dezvoltate, instalate și funcționează cu includerea de instrumente adecvate de interfață om - mașină, astfel încît ele să poată fi supravegheate cu eficiență de persoane fizice, în toată perioada lor de utilizare.

  • Sistemele de IA sînt concepute pentru personal de supraveghere eficace uman, pe toată durata lor de funcționare;
  • Sistemele de IA sînt realizate astfel încît persoanele de supraveghere să înțeleagă bine funcționarea acestora;
  • Sistemele de IA sînt astfel concepute încît personalul de supraveghere să dețină un buton STOP de oprire totală;
  • Sistemele de IA sînt evaluate pentru impactul asupra drepturilor fundamentale de organisme de drept public / privat.

Reprezentanții autorizați. Înainte de a pune la dispoziție pe piața Uniunii Europene a sistemelor de IA proprii, furnizorii de sisteme de IA din țări terțe, ne-membre ale U.E., își desemnează prin mandat scris un reprezentan.autorizat care este stabilit în UE. Reprezentantul autorizat din țările ne-membre U.E. aplică în întregime acest Regulament pentru sistemele lor de IA care funcționează în statele membre U.E..

Managementul calității. Furnizorii de sisteme de IA asigură un sistem de management al calității ce asigură conformitatea cu prevederile prezentului Regulament, cum ar fi:

  • Tehnici, proceduri și acțiuni sistematice pentru proiectarea, controlul proiectării și verificarea sistemelor de IA;
  • Tehnici, proceduri și acțiuni sistematice în examinarea, testarea și validarea în timpul proiectării a sistemelor de IA;
  • Tehnici, proceduri și acțiuni sistematice în gestionarea datelor, înainte de punerea pe piață a sistemelor de IA;

Obligații ale întregului lanț (importatori, distribuitori, implementatori) respectiv pentru întregul circuit valoric al sistemelor de IA deja introduse pe piață în Uniunea Europeană sînt clar specificate. Obligațiile pentru fiecare din categoriile menționate mai sus sînt cuprinse în capitole distincte.

- o O o -

Am prezentat succint în cele de mai sus doar aspectele cuprinse în Capitolele I, II și III ale Regulamentului U.E. 2024 / 1689 Comisia Europeană este împuternicită să adauge oricînd în viitor noi reguli și articole pentru sistemele de IA, în funcție de necesitățile nou apărute.

Nu știm dacă alte state civilizate și democratice (Canada, Marea Britanie, SUA, Australia, Japonia, Israel) au prevederi proprii de reglementare ale sistemelor de IA. Dacă nu, ar fi ideal și de dorit să le realizeze cît mai repede și în mod asemănător și compatibil cu cele din U.E.. Alte state (China, Rusia.) e posibil să dețină regulamente proprii pentru sistemele lor de IA, dar acestea conțin probabil doar prevederi legate de cenzura statală și de subordonare și supunere în fața partidului unic.

Noi așteptăm cu un mare interes realizarea codurilor de bune practici ale sistemelor de IA (art.56) cel tîrziu pînă în 02 mai 2025 cît și a codurilor de conduită ale sistemelor de IA (art.95) ce vor încununa cu prevederi etice importante un regulament foarte bun, funcțional și complet, Regulamentul UE 2024 / 1689 .

Arad, 31 August 2024

Dr. Voicu A. David

ALEGERI U.E. - O UNIUNE EUROPEANĂ INSUPORTABILĂ

ALEGERI U.E. - O UNIUNE EUROPEANĂ INSUPORTABILĂ

INTELIGENȚA ARTIFICIALĂ : DEIFICARE ȘI ICONOCLASM

INTELIGENȚA ARTIFICIALĂ : DEIFICARE ȘI ICONOCLASM

INTELIGENȚA ARTIFICIALĂ RĂSPUNDERE ȘI ETICĂ

INTELIGENȚA ARTIFICIALĂ RĂSPUNDERE ȘI ETICĂ

De 30 de ani cu I.T.

De 30 de ani cu I.T.
Pionierat

REFLECȚII ÎN PREJMA UNEI POSIBILE RETRAGERI

REFLECȚII ÎN PREJMA UNEI POSIBILE RETRAGERI

ȘAPTE MOTIVE PENTRU ÎNCHIDEREA CONTULUI LA RAIFFEISEN BANK

ȘAPTE MOTIVE PENTRU ÎNCHIDEREA CONTULUI LA RAIFFEISEN BANK

DE LA PANDEMIE LA DOCUMENTAREA ELECTRONICĂ A TRASABILITĂȚII

DE LA PANDEMIE LA
DOCUMENTAREA ELECTRONICĂ A TRASABILITĂȚII

DE DOI ANI ÎN PANDEMIE

DE DOI ANI ÎN PANDEMIE

M-AM SĂTURAT DE U.E.

M-AM SĂTURAT DE U.E.
( CE I S-A „CONFISCAT” ȘI CE „A PRIMIT” STOMATOLOGIA )

De la „Doamnei C.N.A.S.S., cu dragoste”...

De la „Doamnei C.N.A.S.S., cu dragoste”...

DE UN AN ÎN PANDEMIE din traumă în traumă

DE UN AN ÎN PANDEMIE
din traumă în traumă

Introducere

INTRODUCERE

Medicii Cabinetului



DR. SVETLANA DAVID
MEDIC SPECIALIST STOMATOLOG 


DR. VOICU A. DAVID
MEDIC SPECIALIST STOMATOLOG

Orar de lucru Cabinet

DR. SVETLANA DAVID
LUNI, JOI: 15:00 – 20:00
MARŢI: 10:00 - 14:00

DR. VOICU A. DAVID
LUNI: 10:00 - 14:00
MARŢI, MIERCURI: 15:00 - 20:00
VINERI: alternativ