Algoritmet Vendimmarrëse dhe Pezullimi i Punëtorëve: Gjobë Rekord 825 Milionë Euro për Uber — Kufijtë e Vendimmarrjes së Automatizuar sipas Ligjit 124/2024 dhe AI Act
Përmbledhje Ekzekutive për Drejtuesit e Kompanive
Autoriteti mbikëqyrës holandez (AP) i ka vendosur Uber-it një gjobë historike prej 824.990.000 eurosh. Hetimi zbuloi se kompania përdorte sisteme tërësisht të automatizuara për bllokimin dhe pezullimin e llogarive të shoferëve, pa ndërhyrje njerëzore thelbësore dhe pa dhënë shpjegime të qarta mbi logjikën e algoritmit, në shkelje të rëndë të neneve mbi vendimmarrjen e automatizuar dhe transparencën.
1. Rasti: Vendime Automatike ‘Kuti e Zezë’ mbi Marrëdhëniet e Punës
Shoferët e prekur nga penalizimet e sistemit merrnin vetëm përgjigje të paracaktuara kur kërkonin të kuptonin arsyet e bllokimit. Autoriteti konstatoi se i ashtuquajturi “kontroll njerëzor” ishte thjesht formal: punonjësit e mbështetjes vetëm konfirmonin vendimin e makinës pa pasur asnjë të dhënë shtesë apo kompetencë për ta ndryshuar atë.
2. Korniza Rregullatore: Ligji Nr. 124/2024, GDPR dhe AI Act
- Neni 20 i Ligjit Nr. 124/2024 dhe Neni 22 i GDPR-it (Vendimmarrja e automatizuar): Individët kanë të drejtë të mos i nënshtrohen një vendimi të bazuar vetëm në përpunimin e automatizuar, përfshirë profilizimin, që sjell efekte juridike ose i prek në mënyrë të konsiderueshme.
- Kërkesa për Ndërhyrje Njerëzore Reale: Operatorët njerëzorë duhet të kenë qasje në parametrat vendimmarrës dhe të kenë fuqinë administrative për të rrëzuar vendimin e softuerit.
- Neni 13 e 14 të Ligjit Nr. 124/2024 dhe Artt. 13-15 GDPR (Transparenca e algoritmit): Detyrimi për të dhënë informacion thelbësor mbi logjikën e përdorur dhe pasojat e parashikuara të trajtimit.
- Rregullorja Evropiane për Inteligjencën Artificiale (AI Act): Sistemet e AI të përdorura për vlerësimin, menaxhimin dhe shkarkimin e fuqisë punëtore klasifikohen si Sisteme me Rrezik të Lartë.
3. Matrica e Rreziqeve për Përdorimin e AI në Biznes
| Fusha e Zbatimit | Rreziku Ligjor | Praktika e Paligjshme | Standardi i Kërkuar |
|---|---|---|---|
| Burimet Njerëzore | Sanksion maksimal dhe padi civile | Pushime nga puna apo penalizime me vendim të plotë automatik | Mbikëqyrje njerëzore e kualifikuar dhe e drejtë ankimi me shkrim |
| Vlerësimi Kreditor / Mashtrimit | Kritike (Neni 20) | Refuzim kredie pa shpjegim mbi faktorët penalizues | Zbatim i parimit të shpjegueshmërisë (Explainable AI) |
4. Plani Operativ EON (P0 / P1 / P2)
Faza P0 (Urgjente – Brenda 48 Orëve)
Identifikoni çdo proces kompjuterik në kompani që sjell pasoja negative automatike ndaj punonjësve ose klientëve. Pezulloni bllokimet direkte dhe caktoni një procedurë shqyrtimi njerëzor.
Faza P1 (Afatshkurtër – 30 Ditë)
Hartoni dhe publikoni njoftimin mbi transparencën algoritmike, duke specifikuar kriteret kryesore të përpunimit të të dhënave.
Faza P2 (Afatmesëm – Pajtueshmëri me AI Act)
Krijoni një regjistër të brendshëm të modeleve algoritmike dhe kryeni vlerësim të rrezikut për sistemet inteligjente.
