Inteligența artificială şi riscurile la adresa consumatorilor

Publicat de Camelia Teodosiu, 11 februarie 2020, 15:26 / actualizat: 16 decembrie 2024, 20:19

Inteligența artificială și procesele automate de luare a deciziilor pot crea riscuri la adresa consumatorilor.

Deoarece algoritmii de învățare pot prelucra datele cu o precizie și o viteză care depășesc capacitatea umană, aplicațiile de inteligență artificială au devenit tot mai frecvente în finanțe, asistență medicală, educație, sistemul juridic și nu numai. Însă dependența de inteligența artificială are și riscuri, mai ales acolo unde deciziile sunt luate fără supraveghere umană. Învățarea automată se bazează pe recunoașterea modelului în seturile de date. Problemele apar atunci când datele disponibile reflectă prejudecățile societății.

Inteligența artificială este implicată tot mai mult în sistemele de decizie algoritmice. În multe situații, cum ar fi accesul la credite, locurile de muncă, tratamentul medical sau sentințele judiciare, impactul deciziei asupra oamenilor poate fi semnificativ. Deciziile automate pot perpetua diviziunile sociale. Unii algoritmi folosiți în angajare s-au dovedit a fi părtinitori împotriva femeilor, de exemplu.

Comisia trebuie să clarifice modul în care intenționează:

• să se asigure că europenii sunt protejați de practicile comerciale neloiale și/sau discriminatorii sau de riscurile pe care le implică serviciile profesionale care folosesc inteligența artificială
• să garanteze o mai mare transparență în aceste procese
• să se asigure că în sistemele de decizie algoritmice sunt utilizate seturi de date de înaltă calitate și nepărtinitoare.

Dezvoltarea inteligenței artificiale și a proceselor automatizate de luare a deciziilor prezintă provocări pentru încrederea și bunăstarea consumatorilor. Când consumatorii interacționează cu un astfel de sistem, aceștia ar trebui să fie informați în mod corespunzător despre modul în care funcționează sistemul.

Rezoluția adoptată pe 23 ianuarie în cadrul comisiei pentru piața internă și protecția consumatorilor îndeamnă Comisia să examineze dacă sunt necesare măsuri suplimentare pentru a garanta drepturi pentru protecția consumatorilor în contextul inteligenței artificiale și al procesului decizional automatizat.

Petra De Sutter – președinta Comisiei pentru piața internă și protecția consumatorilor a declarat: “Trebuie să ne asigurăm că sunt garantate protecția și încrederea consumatorilor, că regulile UE privind siguranța și răspunderea pentru produse și servicii sunt adaptate obiectivelor în era digitală.”

Rezoluția va fi votată în plen la mijlocul lunii februarie. După aceea, va fi transmisă Consiliului UE (statelor membre) și Comisiei. Comisia ar trebui să-și prezinte planurile pentru o abordare europeană a inteligenței artificiale pe 19 februarie 2020.