BDAR 22 straipsnio patikra prasideda nuo konkretaus sprendimo apie žmogų, o ne nuo programos pavadinimo. Reikia nustatyti, ar sprendimas pagrįstas vien automatizuotu tvarkymu ir ar sukelia teisinį arba panašiai reikšmingą poveikį. Kai šios sąlygos tenkinamos, taikomas bendras draudimas, išskyrus tris straipsnyje nustatytas išimtis.
Šis darbo lapas padeda įvertinti planuojamą automatizavimą ir suprojektuoti tikrą žmogaus peržiūrą. Jį naudokite kartu su PDAV pavyzdžiu, duomenų tikslumo procedūra ir teisinio pagrindo matrica. Vien BDAR 6 straipsnio pagrindo pasirinkimas nepanaikina papildomų 22 straipsnio reikalavimų.
Trys sąlygos, kurias vertinate atskirai
Pirma, nustatykite sprendimą dėl konkretaus žmogaus. Tai gali būti atsisakymas suteikti paslaugą, kandidatūros atmetimas ar kita išvada, turinti realų poveikį. Vien bendros statistikos apskaičiavimas nebūtinai yra toks sprendimas. Tačiau tarpinis balas gali būti reikšmingas, jei nuo jo praktiškai priklauso galutinis rezultatas.
Antra, patikrinkite, ar sprendimas pagrįstas vien automatizuotu tvarkymu, įskaitant profiliavimą. Darbuotojo mygtuko paspaudimas ar formalus rezultato persiuntimas nebūtinai reiškia prasmingą žmogaus dalyvavimą. Reikia įvertinti, ar žmogus iš tikrųjų nagrinėja aplinkybes, turi reikalingą informaciją ir gali pakeisti rezultatą.
Trečia, aprašykite teisinį ar panašiai reikšmingą poveikį. Vertinkite ne vien organizacijos vidaus proceso pavadinimą, bet pasekmę asmeniui: teises, galimybes, prieigą prie svarbios paslaugos ar kitą reikšmingą jo padėties pasikeitimą. Jei poveikis neaiškus, nurodykite, kokių faktų reikia jam nustatyti.
BDAR 22 straipsnis yra teisinis šios analizės pagrindas. WP251rev.01 gairės dėl automatizuotų sprendimų ir profiliavimo paaiškina sąvokas ir apsaugos priemones. Išvadą pagrįskite realia darbo eiga, o ne tik sutartyje įrašytu apibūdinimu.
Atrankos lentelė vienam sprendimui
| Klausimas | Ką būtina užrašyti? |
|---|---|
| Koks sprendimas? | Konkreti pasekmė žmogui ir sprendimo etapas |
| Kokie duomenys? | Naudojami požymiai, šaltiniai ir jų tikslumo kontrolė |
| Kokia automatika? | Taisyklė, modelis ar balas ir jo vaidmuo rezultate |
| Kur dalyvauja žmogus? | Kada, kokią informaciją mato ir ką gali pakeisti |
| Koks poveikis? | Teisinės arba panašiai reikšmingos pasekmės argumentai |
| Kokia išimtis? | Viena tinkama 22 straipsnio 2 dalies sąlyga, jei taikoma |
| Kokios apsaugos? | Žmogaus peržiūra, nuomonės pateikimas, ginčijimas ir kitos priemonės |
Lentelė nėra automatinis leidimas. Jei visos trys taikymo sąlygos tenkinamos, o tinkamos išimties nėra, sprendimo negalima tęsti vien dėl jo efektyvumo. Reikia pakeisti procesą arba atsisakyti tokio automatizuoto sprendimo. Sprendimo savininkas turi aiškiai matyti šią ribą.
Tiksliai trys 22 straipsnio 2 dalies išimtys
Pirmoji išimtis taikoma, kai sprendimas būtinas sutarčiai tarp duomenų subjekto ir duomenų valdytojo sudaryti arba vykdyti. Būtinumą reikia pagrįsti konkrečiai. Vien mažesnės sąnaudos, didelis prašymų skaičius ar patogumas savaime nepaaiškina, kodėl pasirinktas visiškai automatizuotas būdas būtinas tam sutartiniam tikslui.
Antroji išimtis taikoma, kai sprendimą leidžia valdytojui taikoma Sąjungos arba valstybės narės teisė ir joje nustatytos tinkamos asmens teisių, laisvių bei teisėtų interesų apsaugos priemonės. Vidinė politika ar tiekėjo taisyklės nėra toks teisės aktas. Byloje nurodykite konkrečią normą ir jos sąlygas.
Trečioji išimtis yra aiškus duomenų subjekto sutikimas. Jis turi atitikti galiojančio sutikimo reikalavimus ir būti susijęs su konkrečiu automatizuotu sprendimu. Bendras sutikimas su privatumo politika ar paslaugos sąlygomis neįrodo aiškaus pasirinkimo šiuo klausimu. Ypač atidžiai vertinkite pasirinkimo laisvę esant santykių disbalansui.
Specialių kategorijų duomenims taikoma papildoma riba
Pagal 22 straipsnio 4 dalį minėti sprendimai negali būti grindžiami specialių kategorijų duomenimis, išskyrus atvejus, kai taikomas 9 straipsnio 2 dalies a arba g punktas ir nustatytos tinkamos apsaugos priemonės. Tai nėra nuoroda į bet kurią 9 straipsnio išimtį. Šią sąlygą tikrinkite atskirai nuo bendro pagrindo.
Praktikoje specialių kategorijų informacija gali patekti per netiesioginius požymius ar išvestinius duomenis. Pavyzdžiui, naudojamas tekstas gali atskleisti sveikatos aplinkybes, nors formoje nėra laukelio „sveikata“. Duomenų inventorius turi apimti tikrą modelio įvestį ir naudojamus išvestinius požymius, o ne vien oficialius laukų pavadinimus.
Prasmingas žmogaus dalyvavimas
Žmogus turi turėti kompetenciją, pakankamai informacijos ir įgaliojimą pakeisti rezultatą. Jei darbuotojas mato tik balą be paaiškinimo ir privalo jį visada patvirtinti, jo vaidmuo gali būti tik formalus. Taip pat vertinkite realų laiką: neįgyvendinama peržiūros norma gali paversti patikrą automatiniu pritarimu.
Proceso apraše nurodykite, kokius faktus peržiūrėtojas tikrina, kada kreipiasi papildomos informacijos ir kaip dokumentuoja pakeitimą. Peržiūra neturi būti vien būsimas pažadas po skundo, jei organizacija teigia, kad pats pradinis sprendimas nėra visiškai automatizuotas. Reikia patikrinti tikrą sprendimo priėmimo etapą.
Stebėkite praktinius požymius, bet nevartokite vieno rodiklio kaip teisinio testo. Labai retas rezultato pakeitimas gali paskatinti peržiūrą, tačiau pats savaime neįrodo, kad žmogaus dalyvavimas netikras. Reikia nagrinėti užduotis, įgaliojimus, paaiškinimų kokybę ir faktines bylas. Išsaugokite peržiūros apimtį bei jos ribas.
Hipotetinis kandidatų atrankos pavyzdys
Darbdavys planuoja automatiškai atmesti kandidatus, kurių balas nesiekia vidinio slenksčio. Pirmiausia aprašoma pasekmė: kandidatas nebegali dalyvauti tolesnėje atrankoje. Komanda patikrina, kokie požymiai lemia balą, ar jie tinkami ir tikslūs, ir ar kas nors prasmingai peržiūri atmetimą prieš jam įsigaliojant.
Jei sprendimas vien automatizuotas ir daro panašiai reikšmingą poveikį, taikoma 22 straipsnio analizė bei išimtys. Darbdavio noras greičiau apdoroti paraiškas nėra savarankiška išimtis. Alternatyva gali būti modelio naudojimas pagalbai, išlaikant tikrą žmogaus vertinimą, tačiau faktinė eiga turi atitikti šį aprašą.
Peržiūrėtame projekte darbuotojas mato reikšmingą kandidato informaciją, patikrina modelio siūlymą ir gali pasirinkti kitą sprendimą. Priėmimo bandyme sąmoningai pateikiamas klaidingas ar nepilnas požymis ir tikrinama, ar klaida pastebima. Tai hipotetinis bandymo scenarijus, ne išvada, kad bet kuri atrankos sistema taip tampa teisėta.
Sutarties ir sutikimo atvejams nustatytos minimalios apsaugos
22 straipsnio 3 dalis sutarties ir aiškaus sutikimo išimčių atvejais reikalauja bent teisės gauti valdytojo žmogaus įsikišimą, pareikšti savo požiūrį ir ginčyti sprendimą. Šios galimybės turi būti realiai prieinamos. Tuščias bendras kontaktas be kompetentingo peržiūrėtojo neįgyvendina numatyto proceso.
Kai remiamasi teisės akto leidimu pagal 22 straipsnio 2 dalies b punktą, tinkamos apsaugos turi būti nustatytos tame teisės akte. Nereikia šių skirtingų teisinių kelių suplakti į vieną sakinį. Byloje parodykite, kurios konkrečios apsaugos taikomos jūsų pasirinktam pagrindui ir kas užtikrina jų vykdymą.
Informavimas ir paaiškinimas žmogui
Patikrinkite BDAR 13, 14 ir 15 straipsnių sąveiką: kai aktualu, reikia informuoti apie automatizuotą sprendimų priėmimą, pateikti prasmingą informaciją apie taikomą logiką bei numatomą reikšmę ir pasekmes. Paaiškinimas turi padėti suprasti sprendimą. Vien techninis modelio pavadinimas ar bendras teiginys „naudojame algoritmus“ dažnai to nepadaro.
Suprantamo privatumo pranešimo metodas padeda patikrinti, ar žmogus supranta, kokie duomenys naudojami ir kur kreiptis. Teisės susipažinti procedūra turi apimti susijusią informaciją pagal konkretų prašymą. Komercinės paslapties klausimą reikia vertinti proporcingai, ne paversti automatiniu bet kokio paaiškinimo atsisakymu.
Balas ir galutinis sprendimas
2023 m. gruodžio 7 d. SCHUFA sprendime, byloje C-634/21, Teisingumo Teismas nagrinėjo automatizuoto kredito balo vaidmenį, kai trečiasis asmuo juo reikšmingai remiasi spręsdamas dėl sutartinių santykių. Vertinant savo procesą svarbus faktinis balo poveikis, o ne vien jo pavadinimas „rekomendacija“. Oficialus sprendimo tekstas.
Nereikia iš šios bylos daryti išvados, kad kiekvienas balas visada yra draudžiamas automatizuotas sprendimas. Užrašykite, kas gauna balą, kiek jis lemia rezultatą ir ar yra reali nepriklausoma peržiūra. Tiekėjo ir galutinio sprendimo priėmėjo vaidmenys gali pareikalauti bendros faktų analizės.
Paleidimo ir pokyčių patikra
Prieš paleidimą atlikite tinkamą PDAV atranką ir, kai reikia, patį vertinimą. Išbandykite klaidingus duomenis, netipinį atvejį, žmogaus peržiūrą ir ginčijimo kanalą. Priėmimo protokole pažymėkite, kokios sąlygos patikrintos ir kokie klausimai dar neatsakyti. Neįgyvendinta apsauga negali būti laikoma veikiančia.
Pakeitus modelį, požymius, slenkstį ar žmogaus vaidmenį, peržiūrėkite ankstesnę 22 straipsnio išvadą. Naujas techninis sprendimas gali pakeisti automatizavimo ar poveikio apimtį. DI akto rizikos klasifikacija yra papildomas atskiras vertinimas; ji nepakeičia BDAR ir nepadaro netaikytinų jo apsaugų.
Užpildyto sprendimo įrašo pavyzdyje galima nurodyti: „Kandidato atmetimo balas nėra galutinis sprendimas; atrankos specialistas prieš pranešimą kandidatui patikrina pirminius duomenis ir atmetimo priežastį, turi teisę pakeisti rezultatą, o peržiūros veiksmas įrašomas byloje.“ Šis įrašas prasmingas tik tada, kai sistema tikrai sustabdo pranešimą iki peržiūros. Bandymo metu laikinai pašalinkite paskirtą specialistą: jei atmetimas vis tiek išsiunčiamas, aprašas neatitinka veikimo. Atskirai patikrinkite pavaduotoją ir darbuotojo turimą laiką, kad didesnis paraiškų srautas nepaverstų individualaus vertinimo formaliu visų įrašų patvirtinimu.