Odpoveď
Áno, jednotlivci by nemali podliehať rozhodnutiu, ktoré je založené výlučne na automatizovanom spracovaní (ako sú algoritmy) a ktoré je právne záväzné alebo má na nich významný vplyv.
Rozhodnutie možno považovať za rozhodnutie, z ktorého plynú právne účinky, keď sú ovplyvnené zákonné práva alebo právne postavenie jednotlivca (napr. jeho právo voliť). Spracúvanie môže mať okrem toho významný vplyv na jednotlivca, ak ovplyvňuje jeho osobné okolnosti, jeho správanie alebo jeho voľby (napr. automatické spracovanie môže spôsobiť zamietnutie žiadosti o úver online).
Používanie automatizovaného spracúvania pri rozhodovaní je povolené iba v týchto prípadoch:
- rozhodnutie založené na algoritme je nutné (t. j. neexistuje žiadny iný spôsob na dosiahnutie toho istého cieľa), aby sa uzavrela alebo vykonávala zmluva s jednotlivcom, ktorého údaje vaša spoločnosť/organizácia spracúvala pomocou algoritmu (napr. žiadosť o úver online);
- konkrétnym právnym predpisom EÚ alebo vnútroštátnym právnym predpisom sa povoľuje použitie algoritmov a zabezpečujú sa vhodné ochranné opatrenia na ochranu práv, slobôd a oprávnených záujmov jednotlivca (napr. predpisy na predchádzanie daňovému úniku);
- jednotlivec dal výslovny súhlas s rozhodnutím na základe algoritmu.
Pri prijatí rozhodnutia sa však musia chrániť práva, slobody a oprávnený záujem jednotlivca prostredníctvom vykonania vhodných ochranných opatrení. Okrem prípadov, v ktorých sa takéto rozhodnutie zakladá na práve, jednotlivca musí byť informovaný prinajmenšom o i) postupe použitom v rozhodovacom procese, ii) jeho práve na získanie ľudského zásahu, iii) možných dôsledkoch spracúvania a iv) jeho práve namietať voči rozhodnutiu. Vaša spoločnosť/organizácia musí teda vykonať požadované procedurálne opatrenia, aby ste jednotlivcovi umožnili vysloviť názor a namietať proti rozhodnutiu.
Napokon sa musí osobitne dohliadať na to, či algoritmus používa špeciálne kategórie osobných údajov: automatizované rozhodovanie je povolené len za nasledujúcich okolností:
- jednotlivec poskytol svoj výslovný súhlas, alebo
- spracúvanie je nutné z dôvodov podstatného verejného záujmu na základe práva EÚ alebovnútroštátneho práva.
Ak je jednotlivec navyše dieťa, treba vyhýbať rozhodnutia urobeným výlučne na základe automatizovaného spracúvania, ktoré vytvárajú právne účinky alebo účinky s podobným významom, pretože deti predstavujú zraniteľnejšiu skupinu spoločnosti.
Príklad
Vaša spoločnosť/organizácia je online banka, ktorá ponúka úvery. Klienti zadávajú svoje údaje a algoritmus vytvorí výsledky o tom, či by sa klientovi mal poskytnúť úver alebo nie, a navrhovanú úrokovú sadzbu. Vaša spoločnosť/organizácia musí dané rozhodnutie preskúmať pred tým, ako nadviaže komunikáciu s nádejným klientom, a musí ho informovať, že môže vyjadriť svoj názor a prípadne namietať proti rozhodnutiu, pričom netreba zabúdať na to, že jednotlivec má právo nepodliehať rozhodnutiu, ktoré je založené na algoritmoch.
Odkazy
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.