Cum să evitați încălcările conformității în timp ce dezvoltați produse AI

Inteligența artificială a rămas tendința tehnologică de vârf timp de câțiva ani prin contribuțiile sale în sectoare intensive de date și mașini, cum ar fi producția, asistența medicală și finanțele. Cu toate acestea, abia în ultimii doi ani tehnologia a fost martora unui mare interes din partea utilizatorilor finali. Cu aplicații precum generatoarele de imagini și text, oamenii sunt acum capabili să producă imagini și texte cu un singur clic.

Deși se pare că aceste platforme AI produc material de la zero, acesta nu este chiar cazul - aceste platforme AI au fost instruite pe fragmente de întrebări și lacuri de date care funcționează prin procesarea arhivelor de text și imagini de pe internet. Deși utilă pentru utilizatorii finali, abordarea vine cu riscuri legale cum ar fi încălcarea drepturilor de autor, neaderarea la licențe open source și încălcarea proprietății intelectuale etc. Aceste riscuri pe care le prezintă IA generativă nu sunt nevăzute de guvernele de pe tot globul, care apar constant cu noi reguli și sancțiuni legate de modelele AI neetice.

Pentru o companie care se pregătește să-și lanseze proiectul de inteligență artificială, este esențial să înțeleagă riscurile și să construiască un sistem care să nu cadă sub radarul legal în spatele acestor probleme etice. În acest articol, ne vom scufunda în multele fațete ale conformității AI în timpul dezvoltării software - tipurile de probleme legale, modalitățile de pregătire pentru reglementarea AI și actele AI urmate de diferite regiuni.

Ce este AI Compliance?

Este un proces care asigură că aplicațiile bazate pe inteligență artificială sunt conforme cu reglementările și legile regiunii în care este operațională. iată diferiții factori din care constă verificarea conformității cu inteligența artificială:

Probleme juridice cu inteligența artificială

În timp ce la nivel micro, poate părea că problemele legate de utilizarea AI de către utilizatorii finali sunt limitate la plagiat sau accesul la date care nu pot fi distribuite, la nivel macro, conformitatea cu AI provoacă provocări mai mari.

Amenințările care decurg din utilizarea unui sistem AI prost construit pot afecta concurența loială, securitatea cibernetică, protecția consumatorilor și chiar drepturile civile. Prin urmare, este esențial pentru companii și guverne să construiască un model corect și etic.

Drepturi de autor

Odată cu apariția IA generativă, companiile au început să creeze materiale cu drepturi de autor prin tehnologie. Problema cu aceasta constă în incapacitatea de a înțelege dacă datele au fost generate cu creativitatea unui autor sau dacă AI este autorul.

Pentru a se conforma legal, Oficiul pentru Drepturi de Autor a emis Ghid privind examinarea și înregistrarea lucrărilor care conțin material generat de AI. Se precizează următoarele -

• Dreptul de autor poate proteja doar materialul produs de creativitatea umană.
• În cazul lucrărilor cu material bazat pe IA, se va lua în considerare dacă contribuțiile AI au rezultat din „reproducție mecanică” sau sunt „concepție originală proprie a autorului, căreia i-au dat formă vizibilă prin AI.
• Solicitanții au obligația de a dezvălui implicarea conținutului bazat pe inteligență artificială în materialul trimis pentru înregistrare.

Citește și: Costul dezvoltării unui instrument de detectare a conținutului AI în 2023

Sursa deschisa

Generatorii de cod bazați pe inteligență artificială folosesc adesea inteligența artificială pentru a ajuta dezvoltatorii să completeze automat sau să sugereze cod în spatele testelor sau intrărilor dezvoltate. Iată câteva provocări asociate cu dezvoltarea modelelor AI conforme în jurul generatoarelor de cod -

• Antrenarea modelelor AI cu cod open-source înseamnă încălcare?
• Cine este responsabil pentru îndeplinirea criteriilor de conformitate open-source – dezvoltator sau utilizator?
• Utilizarea codului bazat pe inteligență artificială de către dezvoltatorii care creează software nou va necesita ca aplicația să fie licențiată în sursă deschisă?

Încălcarea IP

La nivel global, au fost depuse mai multe procese pentru încălcarea dreptului comunitar împotriva instrumentelor AI, acuzându-le de faptul că își antrenează modelele sau generează rezultate pe baza conținutului protejat de IP de la terți.

Prejudecată etică

Au existat numeroase incidente în care tehnologia de recunoaștere facială AI a dus la discriminare rasială. Fie că a fost cazul în care, în 2020, oamenii de culoare au fost arestați din cauza unei erori de computer sau din cauza Google Foto care i-a etichetat pe oameni de culoare drept „Gorilla”. Indiferent de cât de inteligentă este tehnologia, nu poate fi ignorat faptul că este construită de oameni cu părtiniri

Pentru companiile care doresc să construiască soluții similare, este esențial să nu lase aceste părtiniri să intre în sistem.

Conformitatea GDPR pentru proiectele AI

Acestea fiind spuse, este esențial să înțelegem de ce companiile nu reușesc să construiască modele AI conforme, în ciuda reglementărilor stricte. Pot exista mai multe motive în spatele acestuia, de la incapacitatea de a cunoaște conformitatea, lipsa de înțelegere a dezvoltatorilor și, uneori, simpla ignoranță. Cu toate acestea, în spatele acestuia pot exista și câteva motive funcționale.

Să analizăm câteva dintre ele din perspectiva conformității GDPR pentru proiectele AI.

Limitarea scopului

Principiul GDPR impune ca întreprinderile să informeze persoanele vizate despre scopul în care sunt colectate și prelucrate informațiile acestora. Provocarea cu aceasta este că tehnologia folosește datele pentru a găsi modele și a obține noi perspective, dar acesta ar putea să nu fie scopul real al acestor date.

Discriminare

GDPR cere dezvoltatorilor de inteligență artificială să ia măsuri împotriva impactului discriminatoriu pe care îl poate avea tehnologia. Deși este o nevoie etică a momentului, pentru un dezvoltator care operează un scenariu social în schimbare rapidă, pregătirea modelului AI împotriva oricărei discriminări și rezultate imorale poate deveni o provocare.

Minimizarea datelor

GDPR spune că informațiile colectate ar trebui să fie „adecvate, limitate și relevante”. Aceasta înseamnă că echipele de dezvoltare AI ar trebui să fie foarte atente atunci când folosesc date pentru modelele lor și trebuie să fie clare cu privire la cantitatea de date necesară pentru proiectul lor.

Cu toate acestea, acest lucru nu este previzibil, așa că echipele trebuie să evalueze în mod regulat tipul și cantitatea de date de care au nevoie pentru a răspunde cerinței de minimizare a datelor.

Transparenţă

În cele din urmă, utilizatorii ar trebui să aibă un cuvânt de spus cu privire la modul în care datele lor sunt folosite de terți, pentru aceasta, companiile vor trebui să fie clare cu privire la datele pe care le folosesc și cum.

Problema cu aceasta este că majoritatea modelelor AI funcționează în cutii negre și nu este clar cum iau decizii, mai ales când vorbim despre software avansat.

Chiar dacă toate acestea sunt probleme tehnice autentice, atunci când vine vorba de etica IT, este esențial ca companiile să nu le folosească ca scuturi pentru a dezvolta un model AI defect. Pentru a se asigura că practica nu devine curentă, mai multe legi AI au intrat în vigoare la scară globală.

Aproape 60 de națiuni au introdus legi și reglementări privind inteligența artificială începând cu 2017, o linie de acțiune care se potrivește cu viteza cu care sunt implementate noile modele de inteligență artificială.

Iată un infografic care oferă o scurtă privire asupra acestor legi.

Acum că am analizat provocările dezvoltării AI din punct de vedere legal și proiectul brut al legilor aplicabile la nivel global, haideți să trecem la modurile în care puteți construi o aplicație AI conformă.

Citește și: Cât costă dezvoltarea unui chatbot conform legii, cum ar fi ChatGPT

Cum să dezvolti un model AI prietenos cu conformitatea

Datorită creșterii reglementărilor AI la nivel global, a devenit esențial pentru companii să se concentreze pe conformitatea legală atunci când construiesc modele AI. Iată câteva modalități prin care companiile se pot asigura că proiectul lor este conform legal atunci când investesc în servicii de dezvoltare AI.

• Asigurați-vă că aveți permisiunea de a utiliza datele

Conformitatea AI afirmă că confidențialitatea utilizatorilor ar trebui să fie principiul călăuzitor al proiectării modelului. Aceasta înseamnă că ar trebui să păstrați la minimum cantitatea de date pe care trebuie să o colectați, să specificați motivul exact pentru colectarea datelor, împreună cu timpul până când veți folosi datele lor. În cele din urmă, este important de reținut că utilizatorii ar trebui să își dea consimțământul pentru colectarea datelor.

• Metode AI explicabile

Această abordare ajută la rezolvarea efectului cutie neagră, ajutând oamenii să înțeleagă ce se află în interiorul sistemelor AI și modul în care modelul ia decizii. Acest lucru, la rândul său, îi ajută pe cercetători să cunoască cantitatea exactă de date de care vor avea nevoie pentru a îmbunătăți acuratețea modelului pentru a îndeplini cerințele de minimizare a datelor.

• Urmăriți datele colectate

Conformitatea cu inteligența artificială impune companiilor să cunoască locația și utilizarea informațiilor personale colectate. Este necesară clasificarea corectă a datelor pentru a respecta dreptul utilizatorilor la informații protejate. Mai mult, companiile trebuie să aibă o abordare pentru a ști ce informații sunt stocate în ce set de date pentru a pregăti măsuri de securitate precise.

• Înțelegeți regulile de transmitere a datelor între țări

Atunci când există transfer transfrontalier de date într-un sistem AI, dezvoltatorii ar trebui să ia în considerare reglementările care se vor aplica în țările destinatare și să construiască mecanisme adecvate de transfer de date în consecință. De exemplu, dacă GDPR este aplicabil prelucrării datelor și datele cu caracter personal sunt transferate într-o țară din afara SEE, ar trebui efectuată o evaluare adecvată a impactului transferului.

Utilizarea unor astfel de abordări atunci când se dezvoltă aplicații AI contribuie în mare măsură la asigurarea faptului că riscurile asociate cu tehnologia sunt abordate în mod corespunzător. Cu toate acestea, companiile și autoritățile de reglementare ar trebui să aibă în vedere faptul că este imposibil să se protejeze aplicația de orice risc potențial, deoarece contextul industriei funcționează pe un model de la caz la caz. Din acest motiv, rolul managerilor de risc AI va rămâne critic, deoarece vor putea evalua când este nevoie de o intervenție.

Sperăm că articolul v-a ajutat să înțelegeți la ce să vă așteptați de la structura juridică care înconjoară tehnologia AI în viitorul apropiat și modalitățile de a vă pregăti pentru un model AI conform.

Întrebări frecvente

Î. Există probleme legale cu inteligența artificială?

A. Da. Pot exista o serie de probleme legale și etice asociate cu un model de inteligență artificială prost construit.

• Drepturi de autor
• Utilizarea greșită a licenței open-source
• Încălcarea IP
• Prejudecăți etice precum discriminarea rasială.

Î. De ce este dificil să faci un model AI compatibil din punct de vedere legal?

R. Din punct de vedere tehnic, poate fi dificil să construiți o inteligență artificială conformă din punct de vedere legal, deoarece, deși tehnologia folosește datele clienților pentru a găsi modele și a obține noi perspective, devine dificil să se stabilească scopul real al acestor date. Apoi, echipele de dezvoltare AI nu pot fi niciodată sigure cu privire la cantitatea de date necesară pentru proiectul lor. În cele din urmă, majoritatea modelelor AI funcționează în cutii negre și nu este clar cum iau decizii, mai ales când vorbim despre software avansat.

Î. Cum se asigură conformitatea legală în AI?

R. Deși legile și reglementările privind conformitatea cu AI evoluează constant, iată câteva lucruri pe care le puteți face pentru a vă asigura că modelul dvs. este cel mai aproape de a fi conform -

• Asigurați-vă că aveți permisiunea de a utiliza datele
• Metode AI explicabile
• Urmăriți datele colectate
• Înțelegeți regulile de transmitere a datelor între țări