Odpověď
Ano, fyzické osoby by neměly být předmětem žádného rozhodnutí založeného výhradně na automatizovaném zpracování (jako jsou algoritmy) a které je právně závazné nebo se jich významně dotýká.
Rozhodnutí může být pokládáno za mající právní účinky, pokud jsou dotčena zákonná práva nebo právní postavení (například právo takovýchto osob volit). Zpracování se kromě toho může významně dotýkat fyzické osoby, pokud ovlivňuje osobní okolnosti, jeho chování nebo volby (automatizované zpracování může vést k odmítnutí online žádosti o úvěr).
Využití automatizovaného zpracování při rozhodování je oprávněné pouze v následujících případech:
- rozhodnutí založené na algoritmu je nezbytné (tj. nesmí existovat jiný způsob, jak dosáhnout téhož cíle) pro uzavření nebo plnění smlouvy s fyzickou osobou, jejíž osobní údaje vaše společnost/organizace zpracovala prostřednictvím algoritmu (např. online žádost o půjčku),
- příslušný právní předpis EU nebo vnitrostátní předpis umožňuje využití algoritmů a poskytuje vhodné záruky pro ochranu práv, svobod a oprávněných zájmů fyzických osob (například nařízení proti daňovým únikům),
- dotčená fyzická osoba výslovně souhlasila s rozhodnutím založeným na algoritmu.
Nicméně konečné rozhodnutí musí chránit práva, svobody a oprávněné zájmy fyzické osoby zavedením vhodných záruk. S výjimkou situace, kdy je takové rozhodování založeno na právním předpisu, dotyčný musí být přinejmenším informován o (i) logice použité v rozhodovacím procesu, (ii) jeho právu na lidský zásah, (iii) potenciálních důsledcích zpracování a (iv) jeho právu rozhodnutí napadnout. Proto vaše společnost/organizace musí vytvořit požadované procesní ujednání, které dotčené osobě umožní vyjádřit svůj názor a rozhodnutí napadnout.
A konečně by měla být věnována mimořádná pozornost tomu, zda algoritmus využívá zvláštní kategorie osobních údajů: automatizované rozhodování je povoleno pouze za těchto podmínek:
- dotčená osoba poskytla výslovný souhlas, nebo
- zpracování je nezbytné z důvodu významného veřejného zájmu na základě práva EU nebo vnitrostátního práva.
Kromě toho, pokud je osobou dítě, měli byste se vyhýbat rozhodnutím učiněným výhradně automatizovaným zpracováním, která pro ně mají právní účinky nebo účinky pro dítě podobně významné, protože děti jsou zranitelnější skupinou společnosti.
Příklad
Vaše společnost/organizace je online banka nabízející půjčky. Klienti vkládají své údaje a algoritmus vytváří výsledky s tím, zda by měla být klientovi nabídnuta půjčka, nebo ne, a navrženou úrokovou sazbu. Vaše společnost/organizace by měla uvedené rozhodnutí nejprve přezkoumat a teprve potom by ho měla sdělit případnému klientovi a informovat ho, že může vyjádřit svůj názor a nakonec rozhodnutí napadnout. Mějte na paměti, že dotyčný má právo nebýt předmětem rozhodnutí založeného na algoritmech.
Odkazy
Example
Your company/organisation is an online bank offering loans. Clients insert their data and an algorithm produces results on whether they should be offered a loan or not and the suggested interest rate. Your company/organisation needs to review the said decision before communicating to the prospective client and inform him that he may express his opinion and eventually contest the decision, keeping in mind that the individual has the right not to be subject to a decision based on algorithms.