Obecné doporučení č. 36 (2020) O prevenci rasového profilování ze strany úředníků donucovacích orgánů a o boji proti němu (Výbor OSN pro odstranění rasové diskriminace)

Obecné doporučení č. 36 (2020)

o prevenci rasového profilování ze strany úředníků donucovacích orgánů a o boji proti němu*

I.    Úvod

1. Na svém devadesátém druhém zasedání se Výbor pro odstranění rasové diskriminace rozhodl uspořádat diskusi na téma „Rasová diskriminace v dnešním světě: rasové profilování, etnické čistky a současné globální problémy a výzvy“. Tematická diskuse se konala dne 29. listopadu 2017 v Ženevě a zaměřovala se na analýzu zkušeností, výzev a poznatků získaných při práci v boji proti rasovému profilování a etnickým čistkám a na to, jak by výbor mohl podpořit svou práci proti rasovému profilování a etnickým čistkám tak, aby měla větší dopad v praxi.

2. V návaznosti na diskusi výbor vyjádřil svůj úmysl vypracovat obecné doporučení, které by poskytlo vodítko k požadavkům úmluvy v oblasti rasistických projevů nenávisti s cílem pomoci smluvním státům při plnění jejich povinností, včetně oznamovacích povinností. Toto obecné doporučení má význam pro všechny zúčastněné strany v boji proti rasové diskriminaci a jeho zveřejněním se výbor snaží přispět k posílení demokracie a právního státu a také míru a bezpečnosti mezi komunitami, národy a státy.

3. Na svém devadesátém osmém zasedání výbor zahájil jednání s cílem vypracovat po konzultaci se všemi zúčastněnými stranami obecné doporučení týkající se prevence a boje proti rasovému profilování.¹ Výbor také vedl debaty s akademickými pracovníky z různých oborů s důrazem na důsledky umělé inteligence na rasové profilování. 

II.    Zavedené zásady a praxe

4.    Při přípravě tohoto obecného doporučení se výbor opíral o svou rozsáhlou praxi při řešení rasového profilování ze strany úředníků donucovacích orgánů, především v souvislosti s přezkumem zpráv smluvních států a v klíčových obecných doporučeních. Výbor se problematikou rasového profilování výslovně zabýval ve svém obecném doporučení č. 30 (2004) ohledně diskriminace cizinců, v němž doporučil, aby státy zajistily, aby veškerá opatření přijatá v boji proti terorismu byla nediskriminační, a to ani z hlediska účelu, ani důsledku, z důvodu rasy, barvy pleti, původu nebo národnostního či etnického původu, a aby nebyli cizí státní příslušníci vystaveni rasovému či etnickému profilování nebo stereotypizování (bod 10); ve svém obecném doporučení č. 31 (2005) o předcházení rasové diskriminaci ve správě a fungování systému trestního soudnictví, ve kterém výbor doporučil, aby smluvní státy přijaly opatření nezbytná k zabránění výslechu, zatýkání a domovních prohlídek pouze na základě fyzického vzhledu osoby, barvy nebo rysů dané osoby nebo příslušnosti k rasové či etnické skupině nebo jakémukoli profilování, které danou osobu vystavuje většímu podezření (bod 20), a obecné doporučení č. 34 (2011) o rasové diskriminaci lidí afrického původu, ve kterém výbor doporučil, aby státy rozhodně zakročily proti jakékoli tendenci donucovacích orgánů, politiků či pedagogů zaměřovat se na lidi afrického původu, stigmatizovat je, stereotypizovat nebo profilovat na základě rasy (bod 31). Pro rasové profilování jsou relevantní i další doporučení, například obecné doporučení č. 13 (1993) o školení pracovníků donucovacích orgánů v ochraně lidských práv, ve kterém výbor zdůraznil, že by donucovací orgány měly absolvovat školení, aby zajistily dodržování lidských práv všech osob bez rozdílu rasy, barvy pleti nebo národnostního či etnického původu (bod 2); obecné doporučení č. 23 (1997) o právech domorodého obyvatelstva, ve kterém výbor zdůraznil, že by domorodé národy neměly být vystaveny žádné diskriminaci, zejména diskriminaci založené na domorodém původu nebo identitě (bod 4, písm. b)); obecné doporučení č. 27 (2000) o diskriminaci Romů, ve kterém výbor doporučil, aby státy s ohledem na svou konkrétní situaci přijaly opatření k zabránění nezákonnému použití síly ze strany policie proti Romům, zejména v souvislosti se zatčením a zadržením (bod 13), a aby budovaly důvěru mezi romskými komunitami a policií; obecné doporučení č. 32 (2009) o smyslu a rozsahu zvláštních opatření v úmluvě, ve kterých výbor zmínil koncept „intersekcionality“ – tj. diskriminace z důvodu příslušnosti ke dvěma či více skupinám, přičemž výbor řešil situace dvojí nebo vícenásobné diskriminace – jako je diskriminace na základě pohlaví nebo náboženství – pokud se zdálo, že diskriminace z takových důvodů existuje v kombinaci s důvodem nebo důvody uvedenými v článku 1 úmluvy (bod 7), a obecné doporučení č. 35 (2013) o boji proti rasistickým projevům nenávisti.

5. Výbor ve svých závěrečných připomínkách opakovaně vyjádřil znepokojení nad používáním rasového profilování ze strany úředníků donucovacích orgánů a doporučil, aby smluvní státy přijaly opatření k ukončení takové praxe.² 

6.  Několik dalších mezinárodních lidskoprávních mechanismů navíc výslovně zdůraznilo, že rasové profilování je porušením mezinárodního práva v oblasti lidských práv. V roce 2009 se Výbor pro lidská práva svým rozhodnutím ve věci Williams Lecraft proti Španělsku³ stal prvním orgánem monitorujícím uplatňování úmluvy, který přímo uznal rasové profilování jako nezákonnou diskriminaci. V novějších závěrečných vyjádřeních projevoval Výbor pro lidská práva pravidelně znepokojení nad pokračující praxí rasového profilování ze strany úředníků donucovacích orgánů, zaměřeného zejména na specifické skupiny, jako jsou migranti, žadatelé o azyl, lidé afrického původu, domorodí obyvatelé a členové náboženských skupin či etnické menšiny včetně Romů;⁴ takové znepokojení vyjádřil i Výbor proti mučení.⁵ 

7. V rámci Durbanského akčního programu přijatého členskými státy na Světové konferenci proti rasismu, rasové diskriminaci, xenofobii a související nesnášenlivosti, která se konala v jihoafrickém Durbanu, byly státy vyzvány, aby navrhly, prováděly a prosazovaly účinná opatření k odstranění rasového profilování, zahrnující praxi policie a dalších úředníků donucovacích orgánů, kteří se v jakékoli míře opírají o rasu, barvu pleti, původ nebo národnostní či etnický původ jako základ pro podrobení osob vyšetřovacím činnostem nebo pro určení, zda byla osoba zapojena do trestné činnosti (bod 72).

8. Ve zprávě předložené Radě pro lidská práva v roce 2007 uvedl zvláštní zpravodaj pro podporu a ochranu lidských práv a základních svobod při boji proti terorismu, že od 11. září 2001 přijaly donucovací orgány v různých státech opatření na základě teroristických profilů, které zahrnovaly charakteristiky, jako je předpokládaná rasa, etnická příslušnost, národní původ nebo náboženství dané osoby. Zvláštní zpravodaj zdůraznil, že profilování teroristů založené na „rase“ bylo neslučitelné s principy lidských práv, bylo nevhodným a neúčinným prostředkem k identifikaci potenciálních teroristů a mělo značné negativní důsledky, díky nimž by tato opatření mohla být v boji proti terorismu kontraproduktivní.⁶ 

9. Toto obecné doporučení je rovněž koncipováno v rámci provádění Agendy udržitelného rozvoje 2030 a jako přispění k ní, spolu s jejími zastřešujícími závazky nenechat nikoho pozadu a nejprve dosáhnout na ty, již jsou nejvíce pozadu, které poskytují kritické vstupní body a příležitosti pro práci výboru, zejména pokud jde o cíl 10 udržitelného rozvoje, týkající se snižování nerovnosti v rámci zemí a mezi nimi, a cíl 16, který se týká podpory mírumilovných a inkluzivních společností pro udržitelný rozvoj, zajištění přístupu ke spravedlnosti pro všechny a budování účinných, odpovědných a inkluzivních institucí na všech úrovních. 

III.    Rozsah působnosti

10.    Výbor častokrát vyjádřil své znepokojení nad používáním rasového profilování ze strany úředníků donucovacích orgánů, kteří se zaměřují na různé menšinové skupiny na základě konkrétních charakteristik, jako je předpokládaná rasa, barva pleti, původ nebo národnostní či etnický původ. Výbor vyjádřil znepokojení nad hlášeními donucovacích orgánů, jako jsou policisté a úředníci hraniční kontroly, pocházejícími z plnění jejich povinností – při svévolných policejních kontrolách, svévolných kontrolách totožnosti, namátkových kontrolách předmětů, které u sebe drží jakékoli osoby na nádražích, ve vlacích a na letištích a při svévolných zatýkáních.⁷ Výbor se znepokojením zaznamenal, že rasové profilování vzrostlo v důsledku současných obav ohledně terorismu a migrace, které zhoršují předsudky a nesnášenlivost vůči příslušníkům určitých etnických skupin. 

11.    Výbor konstatoval, že specifické skupiny, jako jsou migranti, uprchlíci a žadatelé o azyl, lidé afrického původu, domorodé obyvatelstvo a národnostní a etnické menšiny, včetně Romů, jsou nejvíce ohroženy rasovým profilováním.⁸  

12.    Výbor dále podotýká, že rostoucí využívání nových technologických nástrojů, včetně umělé inteligence, v oblastech, jako je bezpečnost, kontrola hranic a přístup k sociálním službám, může prohloubit rasismus, rasovou diskriminaci, xenofobii a další formy vylučování. V tomto obecném doporučení se však výbor zaměřuje na algoritmické rozhodování a umělou inteligenci ve vztahu k rasovému profilování ze strany úředníků donucovacích orgánů; mnoho dalších témat souvisejících s potenciálně škodlivou umělou inteligencí je proto mimo rozsah působnosti tohoto doporučení. I když si je výbor vědom toho, že v některých oblastech může umělá inteligence přispět k větší efektivitě řady rozhodovacích procesů, zároveň si uvědomuje, že při použití umělé inteligence při rozhodování v kontextu vymáhání práva existuje skutečné riziko algoritmického zkreslení. Algoritmické profilování vyvolává vážné obavy a důsledky týkající se práv obětí mohou být velmi závažné. 

IV.    Definování a chápání rasového profilování

13. V mezinárodním právu v oblasti lidských práv neexistuje univerzální definice rasového profilování. Avšak vzhledem k tomu, že jde o přetrvávající jev ve všech regionech světa, různé mezinárodní a regionální orgány a instituce pro lidská práva přijaly definice rasového profilování, které mají řadu společných prvků. Rasové profilování: a) je něco, čeho se dopouští donucovací orgány; b) není motivováno objektivními kritérii ani rozumným zdůvodněním; c) je založeno na důvodech rasy, barvy pleti, původu, národnostního nebo etnického původu nebo jejich průniku s jinými příslušnými důvody, jako je náboženství, pohlaví a gender, sexuální orientace a genderová identita, zdravotní postižení a věk, migrační status, zaměstnání nebo jiný status; d) používá se v konkrétních kontextech, jako je řízení imigrace nebo boj proti trestné činnosti, terorismu nebo jiným činnostem, které údajně porušují zákon nebo mohou vést k jeho porušení. 

14. Rasového profilování se orgány dopouští prostřednictvím chování nebo činností, jako jsou svévolné zastávky, prohledávání, kontroly identity, vyšetřování a zatčení.

15. Meziamerická komise pro lidská práva definovala rasové profilování jako taktiku přijatou z domnělých důvodů veřejné bezpečnosti a ochrany, které byly motivovány stereotypy založenými na rase, barvě pleti, etnickém původu, jazyce, původu, náboženství, národnosti nebo místě narození nebo kombinaci těchto faktorů, spíše než na základě objektivních podezření, přičemž tato taktika má tendenci vybírat či vytipovávat jednotlivce nebo skupiny diskriminačním způsobem na základě mylného předpokladu, že lidé s takovými vlastnostmi jsou náchylní k páchání konkrétních druhů trestných činů.⁹ Arabský výbor pro lidská práva uvedl, že rasové profilování lze definovat u donucovacích orgánů jako použití zobecňování nebo stereotypů týkajících se předpokládané rasy, barvy pleti, původu, národnosti, místa narození nebo národního či etnického původu – spíše než objektivních důkazů nebo individuálního chování – jako základu pro identifikaci konkrétní osoby jako někoho, kdo byl nebo je zapojen do trestné činnosti, což má za následek diskriminační rozhodování.¹⁰ Ve svém obecném politickém doporučení č. 11 o boji proti rasismu a rasové diskriminaci v policejní práci přijatém v roce 2007 definovala Evropská komise proti rasismu a nesnášenlivosti rasové profilování jako použití – policií bez objektivního a rozumného zdůvodnění – důvodů, jako je rasa, barva pleti, jazyk, náboženství, národnost nebo národní či etnický původ, při kontrolních, dozorových nebo vyšetřovacích činnostech.

16. Ve zprávě předložené Radě pro lidská práva v roce 2015 uvedl zvláštní zpravodaj pro současné formy rasismu, rasové diskriminace, xenofobie a související nesnášenlivosti, že rasové a etnické profilování ze strany úředníků donucovacích orgánů se běžně chápe tak, že se pracovníci vymáhání práva, bezpečnosti a hraniční kontroly spoléhají na rasu, barvu pleti, původ nebo národnostní či etnický původ jako základ pro podrobení osob zevrubným prohlídkám, kontrole totožnosti a vyšetřování nebo pro určení, zda se osoba podílela na trestné činnosti.¹¹  

17. Vysoký komisař OSN pro lidská práva uvedl, že rasové profilování odkazuje na proces, při kterém se donucovací orgány opírají o zobecnění založené na rase, barvě pleti, původu nebo národním či etnickém původu, nikoli na objektivních důkazech nebo individuálním chování za účelem zastavování osob nebo vystavení osob podrobným prohlídkám, kontrolám totožnosti a vyšetřování nebo za účelem rozhodnutí, že jednotlivec byl zapojen do trestné činnosti. Rasové profilování pak vede k diskriminačnímu rozhodování. Vysoký komisař dále poukázal na to, že rasové profilování je v mnoha agenturách dlouhodobou praxí, ať už vyplývá z postojů a postupů jednotlivých úředníků nebo z diskriminační kultury či politiky donucovacích orgánů.¹² 

18. Pro účely tohoto obecného doporučení se rasové profilování chápe tak, jak je popsáno v bodě 72 Durbanského akčního programu, tj. praxe policie a jiných donucovacích orgánů v jakékoli míře závisející na rase, barvě pleti, rodovém původu nebo národnostním či etnickém původu jako základu pro podrobení osob vyšetřovacím činnostem nebo pro určení, zda je jednotlivec zapojen do trestné činnosti. V této souvislosti se rasová diskriminace často protíná s jinými důvody, jako je náboženství, pohlaví a gender, sexuální orientace a genderová identita, zdravotní postižení, věk, migrační status a pracovní či jiné postavení.

19. Rasové profilování ze strany pracovníků donucovacích orgánů může zahrnovat také razie, hraniční a celní kontroly, domácí prohlídky, zaměření za účelem dohledu, operace k udržení nebo obnovení právních předpisů či nařízení nebo rozhodnutí o přistěhovalectví. Tyto činnosti se mohou různě odehrávat v kontextu hlídkování na ulici nebo při protiteroristických operacích.¹³  

20. Rasové profilování je spojeno se stereotypy a předsudky, které mohou být na vědomé či nevědomé úrovni a mohou být individuální nebo institucionální a strukturální. Stereotypizace se stává porušením mezinárodního práva v oblasti lidských práv, když se do praxe dostávají stereotypní předpoklady, které podkopávají lidská práva.¹⁴ 

V.    Zásady a obecné povinnosti podle úmluvy

21. Identifikace a prevence praktikování rasového profilování ze strany úředníků donucovacích orgánů a boj proti němu je nedílnou součástí dosahování cílů Mezinárodní úmluvy o odstranění všech forem rasové diskriminace. Praxe rasového profilování ze strany úředníků donucovacích orgánů porušuje základní zásady lidských práv, které spočívají: a) v nediskriminování na základě rasy, barvy pleti, rodového původu nebo národnostního či etnického původu nebo jiných protínajících se důvodů a b) v rovnosti před zákonem. Taková praxe může též narušovat řádný proces a právo na spravedlivý proces. Tyto zásady a práva jsou základem Všeobecné deklarace lidských práv (články 2 a 7) a úmluvy (články 2 a 5, písm. a)).

22. V preambuli úmluvy se zdůrazňuje, že všichni lidé jsou si před zákonem rovni a mají právo na stejnou ochranu zákona před jakoukoli diskriminací a proti jakémukoli podněcování k diskriminaci. I když pojem „rasové profilování“ není v úmluvě výslovně uveden, výboru to nebránilo v identifikaci postupů rasového profilování a zkoumání vztahu mezi rasovým profilováním a normami stanovenými v úmluvě. 

23. Podle článku 2 úmluvy se každý stát zavazuje, že se nebude podílet na žádné činnosti ani praxi, která by zahrnovala rasovou diskriminaci osob, skupin osob nebo institucí, a že zajistí, aby všechny veřejné orgány a instituce, národní i místní, jednaly v souladu s touto povinností. Protože rasové profilování je postup, který má potenciál podporovat a udržovat rasistické incidenty a rasové předsudky a stereotypy,¹⁵ je v rozporu se samotnou myšlenkou úmluvy. Smluvní státy jsou tedy povinny přezkoumat své politiky, zákony a nařízení s cílem zajistit, aby k rasovému profilování nedocházelo a aby nebylo usnadňováno. Smluvní státy jsou povinny aktivně podniknout kroky k odstranění diskriminace prostřednictvím právních předpisů, politik a institucí. Zákaz účasti na praktikování rasového profilování a povinnost zajistit, aby veřejné orgány a instituce neuplatňovaly praktiky rasového profilování, jsou dále odvozeny z článku 5 úmluvy. Praxe rasového profilování je neslučitelná s právem každého člověka bez rozdílu rasy, barvy pleti nebo národního či etnického původu, na rovnost před zákonem a na rovné zacházení. Taková praxe je navíc neslučitelná se zárukou nediskriminace ve vztahu k jiným občanským právům, jako je právo na volný pohyb.

24. Podle článku 6 úmluvy mají smluvní státy povinnost zajistit každému v rámci své jurisdikce účinnou ochranu proti jakýmkoli činům rasové diskriminace. Smluvní státy musí tedy přijmout preventivní opatření, aby zajistily, že se veřejné orgány a veřejné instituce nebudou podílet na praktikách rasového profilování. Článek 6 rovněž požaduje, aby smluvní státy zajistily každému v rámci své jurisdikce účinné prostředky proti jakémukoli jednání rasové diskriminace. Smluvní státy jsou povinny zajistit, aby jejich vnitrostátní právní řád obsahoval přiměřené a účinné mechanismy, jejichž prostřednictvím lze potvrdit, že došlo k rasovému profilování, a takovou praxi ukončit. Smluvní státy musí rovněž zaručit právo na spravedlivé a přiměřené odškodnění nebo náhradu škody způsobené rasovou diskriminací ve formě rasového profilování. Státy musí zajistit účinné vymáhání tohoto práva. S ohledem na skutečnost, že praxe rasového profilování se pravidelně dotýká členů určité skupiny nebo skupin, se smluvním státům doporučuje, aby zvážily vytvoření mechanismů pro kolektivní vymáhání práv v kontextu rasového profilování.

25. Článek 7 úmluvy zdůrazňuje úlohu vyučování, výchovy, kultury a informací v boji proti rasové diskriminaci. Co se týče rasového profilování, plnění povinnosti smluvních států neúčastnit se rasové diskriminace závisí na chování veřejných orgánů a veřejných institucí. Je proto nanejvýš důležité, aby zejména vnitrostátní úředníci donucovacích orgánů byli řádně informováni o svých povinnostech.¹⁶ Vzhledem k tomu, že rasové profilování je často výsledkem dobře zavedených a dosud nenapadených praktik veřejných orgánů a veřejných institucí, musí smluvní státy zajistit, aby si vnitrostátní orgány činné v trestním řízení dostatečně uvědomovaly, jak se vyhnout praktikám rasového profilování. Zvyšování tohoto uvědomění může pomoci zabránit provádění postupů profilování ras a překonat je tam, kde jsou zakořeněny. Smluvní státy by proto měly zajistit, aby pracovníci veřejných orgánů a institucí, kteří se zabývají vymáháním práva, byli řádně vyškoleni, aby bylo zajištěno, že se nebudou podílet na praktikách rasového profilování.

VI.    Důsledky rasového profilování 

26. Rasové profilování má negativní a kumulativní účinky na postoje a blahobyt jednotlivců a komunit,¹⁷ protože jednotlivec může být pravidelně podrobován rasovému profilování ve svém každodenním životě. Oběti rasového profilování často podhodnocují a interiorizují jeho dopad tváří v tvář nedostatku účinných prostředků nápravy a nástrojů obnovy. Kromě toho, že je nezákonné, může být rasové profilování jako obecný nástroj vymáhání práva také neúčinné a kontraproduktivní. Lidé, kteří vnímají, že byli vystaveni diskriminačním opatřením v rámci vymáhání práva, mají tendenci mít ve vymáhání práva menší důvěru, a v důsledku toho mají tendenci být méně ochotní spolupracovat, což potenciálně omezuje účinnost vymáhání práva. Postupy rasového profilování ovlivňují každodenní rutinu vymáhání práva a podkopávají schopnost podporovat oběti trestných činů patřících k postiženým komunitám, ať už vědomě nebo nevědomě prováděnými činy. Pocit nespravedlnosti a ponížení, ztráta důvěry ve vymáhání práva, sekundární viktimizace, strach z odvetných opatření a omezený přístup k informacím o zákonných právech nebo pomoci mohou mít za následek omezené hlášení trestných činů a omezené informace pro zpravodajské účely. 

27. Rasové profilování a nenávistné projevy spolu úzce souvisí a výbor se těmto dvěma formám diskriminace často věnoval současně.¹⁸ Šíření myšlenek založených na rasové či etnické nenávisti, vytrvalé používání nenávistných projevů v médiích a používání rasistického politického diskurzu veřejnými činiteli prohlubují diskriminaci a stereotypy ze strany pracovníků orgánů vymáhání práva. Etnické skupiny, které jsou vystaveny projevům nenávisti, se také stávají terčem rasového profilování. Rasové profilování ze strany donucovacích orgánů navíc vykresluje skupiny, které čelí rasové diskriminaci, jako náchylnější ke spáchání trestných činů, což ovlivňuje veřejný diskurz a zvyšuje šíření rasistické nenávisti.

28. Rasové profilování může mít také negativní dopad na využívání občanských a politických práv, včetně práv na život (článek 6 Mezinárodního paktu o občanských a politických právech), na svobodu a osobní bezpečnost (článek 9), soukromí (článek 17) a na svobodu pohybu (článek 12), svobodu sdružovat se (článek 22) a na účinná nápravná opatření (čl. 2 odst. 3).

29. Plné využívání hospodářských, sociálních a kulturních práv lidí, jako je právo na odpovídající bydlení (článek 11 Mezinárodního paktu o hospodářských, sociálních a kulturních právech), zdraví (čl. 12), vzdělání (články 13–14) a práci (článek 6), může být rasovým profilováním též ovlivněno.¹⁹ 

30. Rasové profilování ze strany úředníků donucovacích orgánů má dalekosáhlé důsledky na všech úrovních správy soudního systému, zejména v systému trestního soudnictví. Rasové profilování může vést mimo jiné: a) k nadměrné kriminalizaci určitých kategorií osob chráněných podle úmluvy; b) k posilování zavádějících stereotypních vztahů mezi kriminalitou a etnickým původem a rozvíjení nevhodných provozních postupů; c) k nepřiměřené míře uvěznění pro skupiny chráněné podle úmluvy; d) k vyšší zranitelnosti osob patřících ke skupinám chráněným podle úmluvy vůči zneužití síly nebo pravomoci ze strany úředníků donucovacích orgánů; e) k nedostatečnému ohlašování činů rasové diskriminace a trestných činů z nenávisti a f) k tomu, že soudy ukládají přísnější tresty členům cílených komunit.

VII.    Algoritmické profilování a rasová zaujatost a diskriminace 

31. Vzhledem k rychlému pokroku v technologickém vývoji jsou činnosti úředníků donucovacích orgánů stále více určovány nebo ovlivňovány algoritmickým profilováním,²⁰ které může zahrnovat velká data, automatizované rozhodování a nástroje a metody umělé inteligence.²¹ I když tyto pokroky mají potenciál zvýšit přesnost, účinnost a efektivitu rozhodnutí a kroků úředníků donucovacích orgánů, existuje velké riziko, že mohou také reprodukovat a posilovat předsudky a vést k diskriminačním praktikám nebo je prohlubovat.²² Vzhledem k neprůhlednosti algoritmické analýzy a na ní založeného rozhodování, zejména při použití metod umělé inteligence, mohou být diskriminační výsledky algoritmického profilování často méně zjevné a obtížněji detekovatelné než výsledky lidských rozhodnutí, a proto je obtížnější je napadnout.²³ Obhájci lidských práv navíc obecně nejsou dostatečně technologicky vybaveni k identifikaci těchto diskriminačních metod.

32. Existuje několik vstupních bodů, prostřednictvím kterých se zaujatost může stát součástí systémů algoritmického profilování, včetně způsobu, jakým jsou systémy navrženy, rozhodnutí o původu a rozsahu datových souborů, na které jsou systémy trénovány, společenských a kulturních předsudků, které mohou vývojáři zabudovat do těchto datových souborů, samotných modelů umělé inteligence a způsobu, jakým jsou výstupy modelu umělé inteligence zavedeny v praxi.²⁴ K negativním výsledkům mohou přispět zejména následující faktory související se vstupními údaji: a) použité údaje zahrnují informace týkající se chráněných charakteristik; b) do údajů jsou zahrnuty tzv. proxy informace, například poštovní směrovací čísla spojená se segregovanými oblastmi ve městech, která často nepřímo označují rasu nebo etnický původ; c) použité údaje jsou neobjektivní vůči skupině²⁵ a d) použité údaje jsou nekvalitní, mimo jiné proto, že jsou špatně vybrány, neúplné, nesprávné nebo zastaralé.²⁶  

33. Zvláštní rizika se objevují při použití algoritmického profilování ke stanovení pravděpodobnosti trestné činnosti buď v určitých lokalitách, nebo u určitých skupin či dokonce jednotlivců. Prediktivní policejní práce, která se při předpovídání možných budoucích událostí spoléhá na historická data, může snadno přinést diskriminační výsledky, zejména když použité soubory údajů trpí jedním nebo více výše popsanými nedostatky.²⁷  Například historické údaje o zatčení v městské čtvrti mohou odrážet rasově předpojaté policejní praktiky. Pokud se takové údaje zadají do prediktivního policejního modelu, představuje použití těchto údajů riziko směrování budoucích předpovědí týmž předpojatým směrem, což povede k nadměrnému policejnímu sledování stejné čtvrti, jež může vyústit ve větší zatýkání v této čtvrti, a tím se vytváří nebezpečná sebeposilující zpětná vazba. 

34. Zprávy ukazují, že podobné mechanismy existují i v soudních systémech.²⁸ Při uplatňování sankce nebo při rozhodování o tom, zda by měl být někdo poslán do vězení, propuštěn na kauci nebo mu má být udělen jiný trest, se státy stále častěji uchylují k použití algoritmického profilování, aby mohly předvídat možnosti, že by jednotlivec v budoucnu mohl spáchat jeden nebo více trestných činů. Úřady shromažďují informace týkající se kriminální historie jednotlivce, jeho rodiny a přátel a jeho sociálních podmínek, včetně jeho práce a akademické historie, za účelem posouzení stupně „nebezpečí“, které osoba představuje, na základě skóre poskytnutého algoritmem, který obvykle zůstává v utajení. Toto použití algoritmického profilování vyvolává obavy podobné těm, které jsou popsány v bodě 33 výše.

35. Rostoucí využívání technologií rozpoznávání obličeje a dohledu ke sledování a kontrole konkrétních demografických skupin vyvolává obavy ohledně mnoha lidských práv, včetně práva na soukromí, svobody pokojného shromažďování a sdružování, svobody projevu a svobody pohybu. Tato technologie je navržena tak, aby automaticky identifikovala jednotlivce na základě geometrie jejich obličeje²⁹ a potenciálně profilovala lidi na základě diskriminace podle rasy, barvy pleti, národnostního či etnického původu nebo pohlaví.³⁰ Kamery vybavené technologií rozpoznávání obličeje v reálném čase jsou široce používány za účelem označování a sledování jednotlivců,³¹ což může vládám a dalším osobám umožnit vést záznamy o pohybu velkého počtu jednotlivců, případně na základě chráněných charakteristik.³² Kromě toho bylo prokázáno, že přesnost technologie rozpoznávání obličeje se může lišit v závislosti na barvě, etnickém původu nebo pohlaví posuzovaných osob, což může vést k diskriminaci.³³  

36. V některých případech se algoritmy používají při testování DNA k určení etnického původu nebo národnosti jednotlivců. Výsledky takových testů DNA mohou vést k profilování. Výbor konstatuje, v souladu s konsensem vědecké komunity, že neexistují žádné přímé vazby mezi složením DNA jednotlivce a jeho etnickým původem nebo národností. Výbor proto odsuzuje použití profilování DNA ze strany států a donucovacích orgánů, zejména pracovníků bezpečnosti hranic. Výsledky profilování DNA byly navíc donucovacími orgány v minulosti použity k falešným tvrzením, že určité etnické menšiny jsou náchylnější k násilí a tyto skupiny byly následně vystaveny diskriminačním praktikám policie.³⁴ 

VIII.    Doporučení 

37. Vlády, donucovací orgány a organizace občanské společnosti přijaly různé strategie, aby čelily problému rasového profilování. Výbor je toho názoru, že tyto strategie tvoří základ pro jeho doporučení pro státy a další subjekty.

A.    LEGISLATIVNÍ OPATŘENÍ A OPATŘENÍ TÝKAJÍCÍ SE POLITIK

38. Jako požadavek pro efektivní boj proti rasovému profilování, aniž by byla dotčena další opatření, jsou nezbytné komplexní právní předpisy proti rasové diskriminaci, včetně občanského a správního práva a také trestního práva. Státy by měly vypracovat a účinně zavádět právní předpisy a politiky, které definují a zakazují rasové profilování ze strany úředníků donucovacích orgánů. Tato opatření by měla být doprovázena jasnými pokyny pro donucovací orgány, které zajistí, aby vnitřní politiky, včetně standardních operačních postupů a kodexů chování, byly v souladu s normami a zásadami v oblasti lidských práv. Státy by si rovněž měly být vědomy právních předpisů a nařízení, které potenciálně umožňují nebo usnadňují rasové profilování. Měly by provést studie za účelem identifikace těchto právních předpisů a podle toho je změnit nebo zrušit.

39. Státy by měly zajistit, aby donucovací orgány po konzultaci s příslušnými skupinami vypracovaly podrobné pokyny pro postupy osobních prohlídek osob s přesnými standardy, aby se zabránilo rasovému profilování. Měly by zavést účinné a nezávislé monitorovací mechanismy, interní i externí, a připravit i disciplinární opatřeními pro uplatnění v případě zneužití. Měly by také provádět pravidelné audity s pomocí nezávislých odborníků, aby odhalily mezery ve vnitřních politikách a postupech. Pokud jde o výsledky těchto postupů, je důrazně doporučována transparentnost, protože by mohla posílit odpovědnost donucovacích orgánů a důvěru u cílových jednotlivců a komunit.

40. V souladu s článkem 6 úmluvy musí státy zajistit každému v rámci své jurisdikce účinnou ochranu a prostředky nápravy proti jakýmkoli činům rasové diskriminace, které porušují jeho lidská práva a základní svobody v rozporu s úmluvou, jakož i právo domáhat se spravedlivého a přiměřeného odškodnění nebo zadostiučinění za škodu utrpěnou v důsledku takové diskriminace.

41. Výbor vyzývá státy, aby přijaly přístupy zaměřené na oběti a účinně koordinovaly své podpůrné služby prosazováním modelů spolupráce mezi orgány, komunitami, organizacemi občanské společnosti, včetně těch, které zastupují skupiny, které se setkávají s formami diskriminace, a vnitrostátními institucemi pro lidská práva. Výbor zdůrazňuje propojení mezi čl. 5 písm. a) a článkem 6 úmluvy a konstatuje, že u takových procesů by měly být účinně konzultovány a do nich zapojeny soudní orgány a další orgány vykonávající spravedlnost, aby se zabránilo zachování efektu rasového profilování v trestním řízení. 

B.    VZDĚLÁVÁNÍ A ODBORNÁ PŘÍPRAVA V OBLASTI LIDSKÝCH PRÁV 

42. Státy by měly vypracovat specializované povinné školicí programy pro donucovací orgány, které zvýší povědomí úředníků donucovacích orgánů o dopadu předsudků na jejich práci a které ukáží, jak zajistit nediskriminační chování. Stigmatizované skupiny, včetně těch, jejichž členové se setkávají s protínajícími se formami diskriminace, by se měly pokud možno zapojit do rozvoje a realizace takového školení. Donucovací orgány by měly zajistit, aby bylo další vzdělávání v oblasti boje proti diskriminaci a předpojatosti policie doplněno institucionálními zásahy zaměřenými na omezení diskreční pravomoci a zvýšený dohled v oblastech náchylných ke stereotypům a zaujatosti. Vzhledem k obavám z omezení školení o změně postojů a chování by mělo být školení o nediskriminaci a zaujatosti pravidelně hodnoceno a aktualizováno, aby mělo požadovaný účinek. 

43. Jak odborníci v oblasti umělé inteligence, tak úředníci, kteří údaje interpretují, musí mít jasnou představu o základních právech, aby se zabránilo zadávání údajů, které mohou obsahovat rasové předsudky nebo k nim vést. Státy by měly poskytovat školení o rasismu a rasové diskriminaci pro odborníky a úředníky, kteří interpretují údaje, mimo jiné pro soudní úředníky a úředníky donucovacích orgánů. Státy by měly rozvíjet politiky zadávání zakázek na základě závazných podmínek zakazujících rasovou diskriminaci.

44. Státy by ve spolupráci s vnitrostátními institucemi pro lidská práva a specializovanými subjekty měly podporovat školení organizací občanské společnosti v oblasti zaujatosti v algoritmickém zpracování a v oblasti nových technologií. 

45. Výcvik a vzdělávání v oblasti lidských práv jsou zásadní pro zajištění, aby policisté nediskriminovali. Vnitrostátní instituce pro lidská práva mohou ve spolupráci s organizacemi občanské společnosti hrát ústřední roli při školení úředníků donucovacích orgánů, při auditu nových technologických nástrojů, které by mohly vést k diskriminaci, a při identifikaci dalších rizik v praxi.³⁵ 

C.    NÁBOROVÁ OPATŘENÍ 

46. Státy by měly zajistit, aby donucovací orgány vypracovaly náborové, retenční a kariérní strategie podporující různorodou pracovní sílu, která odráží složení populace, jíž slouží. Mezi takové strategie by mohlo patřit stanovení vnitřních kvót a rozvoj náborového programu pro etnické menšiny. To má potenciál ovlivnit kulturu orgánů a postoje zaměstnanců s cílem dosáhnout méně zaujatého rozhodování.

47. Státy by měly zajistit, aby donucovací orgány pravidelně hodnotily náborové politiky a politiky povyšování zaměstnanců a v případě potřeby přijaly dočasná zvláštní opatření k účinnému řešení nedostatečného zastoupení různých národnostních nebo etnických menšinových skupin a skupin zažívajících protínající se formy diskriminace založené mimo jiné na náboženství, pohlaví a genderu, sexuální orientaci, zdravotních postiženích a věku. 

D.    SPOLUPRÁCE POLICIE S VEŘEJNOSTÍ 

48. Státy by měly zajistit, aby donucovací orgány vyvinuly strategie pro efektivní spolupráci s jednotlivci a skupinami čelícími rasové diskriminaci, které zohlední jedinečný kontext, dynamiku a potřeby různých komunit. To by mělo pomoci zlepšit komunikaci a snížit úroveň nedůvěry a rasového profilování. Dialog mezi policií a komunitou by měl být rozšířen nad rámec vůdců komunit, protože mnoho skupin, včetně žen, je na úrovni vedení komunity nedostatečně zastoupeno a může vyžadovat soustředěné a citlivé úsilí. Klíčovým příkladem jsou mladí lidé, na něž se policie nejčastěji zaměřuje.

49. Státy by měly přijmout opatření k zajištění toho, aby veřejné informace od policie a jiných donucovacích orgánů vycházely ze spolehlivých a objektivních statistik a nedržely se stereotypů a zaujatosti vůči etnickým skupinám, které jsou diskriminovány. Státy by navíc měly upustit od zveřejňování osobních údajů o údajných pachatelích, které jsou spojeny s předpokládanou rasou, barvou pleti, rodovým původem nebo národním či etnickým původem, pokud takové zpřístupnění není nezbytně nutné a neslouží legitimnímu účelu, například v případě oznámení o hledané osobě.

E.    DISAGREGOVANÁ DATA

50. Státy by měly pravidelně shromažďovat a sledovat disagregovaná kvantitativní a kvalitativní data o příslušných postupech vymáhání práva, jako jsou kontroly totožnosti, zastavení v dopravě a hraniční prohlídky, které zahrnují informace, jež mohou vést k rasové diskriminaci, včetně jejích protínajících se forem, a rovněž důvod pro donucovací opatření nebo výsledek zákroku. Anonymizované statistiky generované těmito praktikami by měly být zpřístupněny veřejnosti a projednány s místními komunitami. Údaje by měly být shromažďovány v souladu s normami a zásadami lidských práv, předpisy o ochraně údajů a zárukami ochrany soukromí. Tyto informace nesmí být zneužity.

51. Státy by se rovněž měly chránit před formami automatizovaného zpracování osobních údajů spočívajícími v použití osobních údajů k vyhodnocení určitých osobních aspektů týkajících se fyzické osoby, zejména k analýze nebo předpovědi aspektů týkajících se výkonu dané osoby v práci, ekonomické situace, zdraví, osobních preferencí, zájmů, spolehlivosti, chování, polohy nebo pohybu.³⁶ 

F.    ODPOVĚDNOST

52. Státy by měly vytvořit mechanismus podávání zpráv, nezávislý na donucovacích orgánech a dalších souvisejících orgánech, pro přijímání stížností na rasovou diskriminaci, rasismus a rasové a etnické profilování od občanů.³⁷ Takový mechanismus musí mít pravomoc pohotově a účinně vyšetřovat obvinění a spolupracovat s občanskou společností a orgány pro sledování lidských práv. Musí také veřejně informovat o svých zjištěních v souladu s předpisy o ochraně údajů a normami v oblasti lidských práv. Tyto mechanismy by měly zohledňovat zvláštní potřeby osob se zdravotním postižením v případech diskriminace z důvodu příslušnosti ke dvěma či více skupinám. 

53. Státy by měly zavést mechanismy dohledu, a to uvnitř i vně donucovacích orgánů, aby se zabránilo diskriminačnímu chování; tyto mechanismy by měly vyvinout vnitřní pokyny, politiky a nařízení pro boj proti rasovému profilování a předcházení mu a zajistit vnitřní odpovědnost disciplinárními opatřeními proti úředníkům, kteří je porušují. 

54. Incidenty rasového profilování ze strany donucovacích orgánů by měly být vyšetřovány efektivně v souladu s mezinárodními normami v oblasti lidských práv. Odpovědné osoby by měly být stíhány, a pokud budou usvědčeny, měly by být potrestány příslušnými tresty a obětem by mělo být poskytnuto odškodnění. 

55. Státy by měly zajistit, aby vyšší úředníci v rámci donucovacích orgánů podporovali nediskriminační politiky a postupy v rámci svých pracovišť, důsledně sledovali chování zaměstnanců a zajišťovali odpovědnost zaměstnanců za zneužití prostřednictvím interního nezávislého mechanismu dohledu.³⁸ Tyto činnosti lze podpořit dostupností údajů a analýzou rozhodování a postupů zaměstnanců. Vyšší úředníci by rovněž měli přezkoumat dopad uplatňování právních předpisů a operací, včetně opatření v oblasti boje proti terorismu, což může mít nepřiměřený dopad na marginalizované skupiny a komunity. 

56. Výbor vyzývá vnitrostátní instituce pro lidská práva a organizace občanské společnosti, aby sledovaly případy rasového profilování a pomáhaly obětem tohoto profilování. Měly by zvyšovat povědomí veřejnosti, zveřejňovat zjištění, lobovat za reformy a konstruktivně spolupracovat s donucovacími orgány a dalšími národními a místními institucemi. 

57. Mezinárodní i regionální mechanismy pro lidská práva, národní instituce pro lidská práva a orgány pro rovné zacházení, skupiny občanské společnosti a veřejnost by měly mít možnost podávat stížnosti týkající se diskriminačních praktik donucovacích orgánů. Členové veřejnosti by měli mít možnost podávat stížnosti prostřednictvím nezávislých mechanismů. 

G.    UMĚLÁ INTELIGENCE 

58. Státy by měly zajistit, aby systémy algoritmického profilování používané pro účely vymáhání práva byly plně v souladu s mezinárodním právem v oblasti lidských práv. Za tímto účelem by státy měly před pořízením nebo nasazením těchto systémů přijmout vhodná legislativní, správní a jiná opatření k určení účelu jejich používání a co nejpřesnější regulaci parametrů a záruk, které zabrání porušování lidských práv. Cílem těchto opatření by mělo být zejména zajistit, aby zavedení systémů algoritmického profilování neohrozilo právo na nediskriminaci, právo na rovnost před zákonem, právo na svobodu a bezpečnost osob, právo na presumpci neviny, právo na život, právo na soukromí, svobodu pohybu, svobodu pokojného shromažďování a sdružování, ochranu proti svévolnému zatčení a jiným zásahům a právo na účinný prostředek nápravy.

59. Státy by před použitím technologie rozpoznávání obličeje měly pečlivě posoudit potenciální dopad na lidská práva, kdy taková technologie může vést k chybné identifikaci z důvodu nedostatečného zastoupení při sběru údajů. Před vnitrostátním nasazením by státy měly zvážit pilotní období pod dohledem nezávislého orgánu dohledu zahrnujícího jednotlivce, kteří odrážejí různorodé složení populace, s cílem zmírnit případné případy chybné identifikace a profilování na základě barvy pleti.

60. Státy by měly zajistit, aby systémy algoritmického profilování používané pro účely vymáhání práva byly navrženy v zájmu transparentnosti, a měly by umožnit výzkumným pracovníkům a občanské společnosti přístup k programovému kódu a možnosti podrobit kód kontrole. Dopady těchto systémů na lidská práva by měly být průběžně hodnoceny a monitorovány po celou dobu jejich životního cyklu a státy by měly přijmout vhodná zmírňující opatření, pokud budou zjištěna rizika nebo porušení lidských práv. Tyto procesy by měly zkoumat možné a skutečné diskriminační účinky algoritmického profilování na základě rasy, barvy pleti, rodového původu nebo národnostního nebo etnického původu a jejich průniku s jinými důvody, včetně náboženství, pohlaví a genderu, sexuální orientace a genderové identity, zdravotního postižení, věku, stavu migrace a pracovního nebo jiného statusu. Měly by být prováděny před vývojem nebo pořízením těchto systémů, kdykoli je to možné, a přinejmenším před a během celého období používání systémů. Tyto procesy by měly zahrnovat posouzení dopadů na komunitu. Do procesů hodnocení a zmírňování by měly být zahrnuty skupiny, které jsou potenciálně nebo skutečně ovlivněny, a příslušní odborníci.

61. Státy by měly přijmout veškerá vhodná opatření k zajištění transparentnosti při používání systémů algoritmického profilování. To zahrnuje zveřejňování informací o používání těchto systémů a smysluplné vysvětlení způsobů, jakými tyto systémy fungují, používané soubory údajů a opatření zavedená k prevenci nebo zmírnění porušování lidských práv.

62. Státy by měly přijmout opatření k zajištění toho, aby nezávislé orgány dohledu měly mandát sledovat používání nástrojů umělé inteligence veřejným sektorem, a hodnotit je podle kritérií vypracovaných v souladu s úmluvou, aby se zajistilo, že nezakládají nerovnosti nebo nepřinášejí diskriminační výsledky. Státy by rovněž měly zajistit, aby fungování těchto systémů bylo pravidelně sledováno a hodnoceno s cílem posoudit nedostatky a přijmout nezbytná nápravná opatření. Pokud výsledky posouzení technologie naznačují vysoké riziko diskriminace nebo jiného porušování lidských práv, měly by státy přijmout opatření, aby se zabránilo používání takové technologie. 

63. Státy by měly přijmout opatření k zajištění toho, aby návrh, nasazení a implementace systémů umělé inteligence v oblasti vymáhání práva v soukromém sektoru byly v souladu s normami v oblasti lidských práv. Státy by také měly zajistit přijetí a pravidelnou revizi pokynů a kodexů chování, které musí společnosti dodržovat při programování, používání a komercializaci algoritmů, které mohou vést k rasové diskriminaci nebo obecně k jakékoli jiné formě diskriminace, která by mohla být v rozporu s úmluvou. 

64. Státy by měly přijmout nařízení zajišťující, aby subjekty veřejného sektoru, soukromé obchodní podniky a další příslušné organizace v procesu vývoje, učení, marketingu a používání algoritmů: a) dodržovaly zásadu rovnosti a nediskriminace a dodržovaly obecně lidská práva v souladu s hlavními zásadami podnikání a lidských práv (zejména hlavními zásadami 1–3, 11 a 24); b) dodržovaly zásadu předběžné opatrnosti a veškerá správní nebo legislativní opatření přijatá k zajištění transparentnosti; c) zveřejňovaly, zda donucovací orgány mají přístup k soukromým údajům o jednotlivcích, a d) vyvarovaly se nerovnoměrného nebo nepřiměřeného dopadu na sociální skupiny chráněné úmluvou. 

65. Státy by měly zajistit, aby byly všechny případy algoritmického zkreslení řádně vyšetřeny a aby byly uloženy sankce.

66. Státy by měly zajistit, aby společnosti, které vyvíjejí, prodávají nebo provozují systémy algoritmického profilování pro účely vymáhání práva, měly odpovědnost zapojit jednotlivce z různých oborů, jako je sociologie, politologie, informatika a právo, kteří by definovali rizika porušování lidských práv a zajistili jejich dodržování. Za tímto účelem by státy měly povzbudit společnosti, aby prováděly procesy náležité péče v oblasti lidských práv, které zahrnují: a) provádění hodnocení za účelem identifikace a hodnocení veškerých skutečných nebo potenciálně nepříznivých dopadů na lidská práva; b) začlenění těchto posouzení a přijetí vhodných opatření k prevenci a zmírnění nepříznivých dopadů na lidská práva, která byla zjištěna; c) sledování účinnosti jejich úsilí a d) formální podávání zpráv o tom, jak své dopady na lidská práva řešily.³⁹ 

67. V procesu identifikace, hodnocení, prevence a zmírňování nepříznivých dopadů na lidská práva by společnosti měly věnovat zvláštní pozornost faktorům souvisejícím s údaji uvedenými v bodě 27 výše. Tréninková data systémů by měla být vybrána a modely navrženy tak, aby se zabránilo diskriminačním výsledkům a dalším nepříznivým dopadům na lidská práva. Společnosti by navíc měly usilovat o rozmanitost, spravedlnost a další způsoby začlenění do týmů vyvíjejících systémy algoritmického profilování. Společnosti by také měly být otevřeny nezávislým auditům svých systémů algoritmického profilování od třetích stran.⁴⁰ Pokud je riziko diskriminace nebo jiného porušování lidských práv posouzeno jako příliš vysoké nebo nezmírnitelné, a to i z důvodu povahy plánovaného nebo předvídatelného použití státem, subjekty soukromého sektoru by neměly prodávat ani zavádět systém algoritmického profilování.

68. Státy by měly dokumentovat případy rasové diskriminace spojené s umělou inteligencí, preventivní opatření, sankce a nápravná opatření a tyto informace zahrnout do svých zpráv určených pro výbor. 

69. Orgány pro lidská práva, státy, národní instituce pro lidská práva a organizace občanské společnosti by měly provádět a šířit výsledky studií, identifikovat osvědčené postupy týkající se účinných opatření k řešení rasových předsudků odvozených z umělé inteligence, včetně těch, které souvisejí s dodržováním lidských práv a etickými aspekty strojového učení, a identifikovat relevantní kritéria, pokud jde o interpretaci nebo transparentnost procesů programování a tréninku algoritmů, a měla by tak činit v kontextu Mezinárodní úmluvy o odstranění všech forem rasové diskriminace.

Upozornění:

Tento dokument je v autentickém znění publikován v databázi smluvních orgánů OSN Treaty bodies Search (ohchr.org). Pořízený úřední překlad do českého jazyka není autentickým zněním.

^*    Přijato výborem na jeho stém druhém zasedání (16. až 24. listopadu 2020).
¹     Příspěvky k návrhu obecného doporučení jsou k dispozici na adrese: www.ohchr.org/EN/HRBodies/CERD/Pages/GC36.aspx.
²     CERD/C/RUS/CO/23-24, body 15–16; CERD/C/CAN/CO/21–23, body 15–16; CERD/C/ITA/CO/19–20, body 27–28; CERD/C/ESP/CO/21–23, bod 27; CERD/C/SVN/CO/8–11, bod 8 písm. d); CERD/C/POL/CO/20–21, bod 11; CERD/C/NLD/CO/19–21, body 13–15; CERD/C/CHE/CO/7–9, body 14, a CERD/C/USA/CO/7–9, body 8 a 18.
³     CCPR/C/96/D/1493/2006.
⁴     CCPR/C/NZL/CO/6, body 23–24; CCPR/C/AUT/CO/5, body 19–20; CCPR/C/FRA/CO/5, bod 15; CCPR/C/ESP/CO/6, bod 8; CCPR/C/RUS/CO/7, bod 9, a CCPR/C/USA/CO/4, bod 7. 
⁵     CAT/C/USA/CO/3–5, bod 26; CAT/C/CPV/CO/1, bod 20; CAT/C/ARG/CO/5-6, bod 35, a CAT/C/NLD/CO/7, body 44–45.
⁶     A/HRC/4/26, body 34 a 83.
⁷     CERD/C/MUS/CO/20–23 a oprava 1, body 20–21; CERD/C/BLR/CO/20–23, body 23–24; CERD/C/ESP/CO/21–23, bod 27, a CERD/C/DEU/CO/19–22, bod 11. 
⁸         CERD/C/MUS/CO/20-23 a oprava 1, bod 20, a CERD/C/RUS/CO/23–24, body 15 písm. b) a 16, písm. c); CERD/C/CAN/CO/21–23, body 15 a 16 písm. a) až d), a CERD/C/ITA/CO/19–20, body 27–28.
⁹     Meziamerická komise pro lidská práva, „Situace lidí afrického původu v Severní a Jižní Americe“ (2011), bod 143.
¹⁰     Viz příspěvek Arabského výboru pro lidská práva.
¹¹    A/HRC/29/46, bod 2. 
¹²     Organizace spojených národů, Prevence a boj proti rasovému profilování lidí afrického původu: Osvědčené postupy a výzvy (2019), str. V.
¹³     Viz A/73/354.
¹⁴     Viz například „Genderové stereotypy jako porušení lidských práv“ od Simone Cusackové, výzkumná zpráva zadaná Úřadem vysokého komisaře OSN pro lidská práva (2013).
¹⁵     Viz např. CERD/C/IRL/CO/3–4, BOD 18.
¹⁶     Viz obecné doporučení č. 13 (1993).
¹⁷     Viz, například, A/HRC/24/52/Add.2, bod 57.
¹⁸     CERD/C/RUS/CO/23–24, body 15–16; CERD/C/SVN/CO/8–11, body 8–9 a CERD/C/AUS/CO/18–20, bod
¹⁹     Viz také článek 5 Mezinárodní úmluvy o odstranění všech forem rasové diskriminace.
²⁰     Algoritmické profilování zahrnuje jakoukoli procedurální počítačovou techniku používanou pro analýzu dat k identifikaci trendů, vzorů nebo korelací. Agentura Evropské unie pro základní práva, Prevence nezákonného profilování dnes a v budoucnosti: Průvodce (2018), s. 97.
²¹     Ačkoli je pojem „umělá inteligence“ široce používán, není jasně definován. Zvláštní zpravodaj pro podporu a ochranu práva na svobodu přesvědčení a projevu poznamenal, že umělá inteligence se často používá jako zkratka pro zvýšení nezávislosti, rychlosti a rozsahu, které je spojené s automatizovaným výpočetním rozhodováním. Nejde však o jedinou věc, ale spíše o „konstelaci“ procesů a technologií, která umožňuje počítačům doplňovat nebo nahrazovat konkrétní úkoly, které jinak vykonávají lidé, jako je rozhodování a řešení problémů (A/73/348, bod 2).
²²     Viz A/HRC/44/57
²³     Institut AI Now, „Zpráva AI Now: sociální a ekonomické důsledky technologií umělé inteligence v blízké budoucnosti“, shrnutí veřejného sympozia AI Now pořádaného Bílým domem a institutem informačního práva na New York University dne 7. července 2016, s. 7.
²⁴     A/73/348, bod 38.
²⁵     Například když se v údajích použitých k profilování projeví dřívější diskriminační praktiky, jako například zatýkání neúměrně ovlivňující členy jedné skupiny, ovlivní to výsledky algoritmického profilování.
²⁶     Agentura Evropské unie pro základní práva, „#BigData: diskriminace při rozhodování na základě údajů“, dokument FRA Focus (2018), s. 4–5.
²⁷     Viz Rashida Richardsonová, Jason M. Schultz a Kate Crawfordová, “Dirty data, bad predictions: how civil rights violations impact police data, predictive policing systems, and justice” (Špinavá data, špatné předpovědi: jak porušování občanských práv ovlivňuje policejní data, prediktivní policejní systémy a spravedlnost), New York University Law Review, sv. 94 (květen 2019).
²⁸     Viz například Julia Angwinová a kol., „Machine Bias“ (Zaujatost strojů), ProPublica, 23. května 2016. 
²⁹     A/HRC/44/57, bod 14.
³⁰     A/HRC/41/35, bod 12.
³¹     A/HRC/39/29, bod 14.
³²     A/HRC/41/35, bod 12. 
³³     Viz Joy Buolamwini a Timnit Gebru, „Gender shades: intersectional accuracy disparities in commercial gender classification“ (Genderové odstíny: rozdíly v intersekční přesnosti v komerční klasifikaci pohlaví), Proceedings of Machine Learning Research, sv. 81 (2018) o jednání konference o spravedlnosti, odpovědnosti a transparentnosti; a Inioluwa Deborah Raji a Joy Buolamwini, „Actionable auditing: investigating the impact of publicly naming biased performance results of commercial AI products“ (Využitelný audit: zkoumání dopadu veřejného pojmenování zkreslených výsledků výkonu komerčních produktů UI) (2019), Konference o umělé inteligenci, etice a společnosti.
³⁴     Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Code (Polity, 2019).
³⁵    Příspěvek z Nikaraguy.
³⁶     Směrnice Evropského parlamentu a Rady (EU) 2016/680 ze dne 27. dubna 2016 o ochraně fyzických osob v souvislosti se zpracováním osobních údajů příslušnými orgány za účelem prevence, vyšetřování, odhalování či stíhání trestných činů nebo výkonu trestů, o volném pohybu těchto údajů a o zrušení rámcového rozhodnutí Rady 2008/977/SVV, čl. 3 odst. 4.
³⁷     Evropská komise proti rasismu a nesnášenlivosti, obecné politické doporučení č. 11, bod 10 a vysvětlivky.
³⁸     Viz bod 53 výše.
³⁹     A/HRC/39/29, bod 45, a hlavní zásady podnikání a lidských práv, hlavní zásady 17–21. Viz také Amnesty International a Access Now, prohlášení z torontského summitu: Ochrana práva na rovnost a nediskriminaci v systémech strojového učení.
⁴⁰     Viz prohlášení z torontského summitu: Ochrana práva na rovnost a nediskriminaci v systémech strojového učení.