"AI din Umbră": Riscuri de Confidențialitate în Justiția din Moldova
Utilizarea neautorizată a instrumentelor de inteligență artificială de către funcționarii publici, un fenomen cunoscut sub numele de „Shadow AI”, reprezintă un risc semnificativ pentru securitatea datelor în sistemul de justiție din Moldova. Aceasta a fost una dintre principalele teze prezentate de expertul Denis Zacon în cadrul Forumului „Reformarea Justiției și Combaterea Corupției”.
Potrivit expertului, mulți angajați din instituțiile publice, inclusiv din domeniul justiției, recurg la diverse platforme AI comerciale pentru sarcini precum transcrierea ședințelor sau analiza documentelor. Instrumente precum ChatGPT, TranscribeMe sau Descript, deși eficiente, ridică probleme majore de confidențialitate. Datele procesate, care pot include informații sensibile din dosare, transcrieri ale ședințelor de judecată sau discuții confidențiale, sunt adesea trimise și stocate pe servere externe, localizate în afara Uniunii Europene, în special în SUA sau China. Acest lucru înseamnă că statul moldovean pierde controlul asupra acestor informații, creând vulnerabilități semnificative.
„Practic, avem o situație în care date confidențiale, cum ar fi transcrierea unei ședințe sau a unei discuții, ajung pe servere despre care nu știm unde se află și cum sunt gestionate”, a subliniat Zacon. El a atras atenția că această practică încalcă normele de protecție a datelor, precum GDPR, și expune instituțiile la riscuri de securitate.
Ca soluție, Zacon a propus două direcții principale. Prima ar fi încheierea unor parteneriate la nivel de țară cu marii operatori AI, precum OpenAI, urmând exemplul unor state ca Estonia, Grecia sau Finlanda. Astfel de acorduri ar garanta că datele utilizate de guvern nu sunt folosite pentru antrenarea modelelor AI și sunt stocate în mod securizat, în conformitate cu legislația națională și europeană.
A doua soluție, considerată de expert ca fiind cea mai potrivită pentru sectorul justiției, este utilizarea modelelor AI locale (on-premise). Acestea sunt programe AI, precum modelul Whisper de la OpenAI, care pot fi descărcate și rulate direct pe calculatoarele instituției, fără a necesita o conexiune la internet. Avantajele sunt clare: control total asupra datelor, confidențialitate maximă și eliminarea riscurilor asociate serverelor externe. Totuși, implementarea modelelor locale necesită o infrastructură hardware performantă, ceea ce implică investiții în calculatoare puternice și servere dedicate, precum și un efort de instruire a personalului pentru a utiliza corect aceste noi tehnologii.