Svobodný svět

Jen svoboda jednotlivce vede ke svobodné společnosti

       

Štítky článku:
Čtení tohoto článku zabere přibližně 7 min.

Promazaná deklarace nezávislosti

Facebookový algoritmus odstranil část textu americké deklarace nezávislosti — kvůli „hate speech“. Jak se nám bude žít s automatickými Viktory Čističi?

Kdo neviděl Brutální Nikitu, tomu možná jméno Viktor Čistič nic neříká. Pro informaci:


united_states_declaration_of_independence_censored.jpg (64,111 kiB)
United States Declaration

Na první pohled je to banální událost. Na Facebooku zmizel komentář. Nějak se nad tím pozastavovat, toť jako plakat nad tím, že někdo zašlápl v lese mravence; zcela běžná příhoda, která se nikoho z nás bezprostředně netýká.

Jenže obsahem odstraněného příspěvku nebylo leccos. Šlo o odstavce 27 až 31 významného historického dokumentu Spojených států amerických, který má pro tamní obyvatele určitou emocionální váhu. Pro některé dokonce značnou. Takže na sítích panuje rozhořčení.

A já mám aspoň důvod, proč se zase jednou pozastavit u toho, jak fungují zbraně hromadného mazání a co z toho pro nás plyne.


První bod: nedozvíte se, proč příslušný příspěvek zmizel. Toto je zdroj permanentní frustrace. Zmizet může téměř cokoliv podle nejasných pravidel. Součástí zvůle je právě to, že nikdo nikdy neví, kdy a kam sekyra dopadne a koho ušetří.

Jediné, co je bezpečné, jsou fotky roztomilých hrajících si koťátek. Zatím, dokud ještě žádný bojovník za práva zvířat nepřišel na to, že je to vlastně zneužívání němé tváře k účelům sobeckého vizuálního potěšení. (Zní to absurdně, ale ve světě, v němž aktivisté a celebrity bojují proti pojídání suši Američany coby údajném kulturním přečinu na Japoncích, už není absurdního vůbec nic.)

kitten.jpg (28,150 kiB)
Přestávkové koťátko

Dáme si sem tedy nějaké koťátko a budeme pokračovat k vážnějším věcem.

(Troufnu si říci, že i tato fotka by měla na některých sítích existenci nejistou. Pohled na zbraň vytáčí některé jedince k nepříčetnosti a ani roztomilý zrzek to nedokáže vykompenzovat. Celkové skóre tak –1,5. Verdikt: smazat, ve jménu ochrany dětí.)

V případě smazaných článků Deklarace nezávislosti je nicméně patrné, proč byly označeny jako „hate speech“: vyskytuje se v nich totiž formulace merciless Indian Savages, čili nemilosrdní indiánští divoši.

Měřítky Ameriky roku 2018 je to „hate speech“, dokonce taková, kterou bez problémů detekuje software bez zásahu lidské ruky. Bam, smazáno. Čímž přecházíme k dalšímu bodu.

Druhý bod: tímhle způsobem dochází k zásadní ztrátě historického kontextu a de facto přepisování historie kvůli současným politickým sentimentům.

Dnes se jistě ve Washingtonu nehodí hovořit o nemilosrdných indiánských divoších, anžto reálně neexistují; poměry v rezervacích sice nejsou vždy civilizované, ale na tom má bílý muž, spravedlivě vzato, také nemalý podíl. Z hlediska vojenských nebezpečí však indiáni neobsazují ani 155. příčku starostí US Army. Naši pozornost nyní připoutává Islámský stát a podobné kreatury.

Jenže tenhle text je z roku 1776. Většina jeho signatářů osobně zažila válečné operace v letech 1754–1763, vesměs jako mladí mužové, kteří tvořili základní mužstvo místních milic. To nebyla žádná válka vedená podle Ženevských konvencí (které ještě neexistovaly), to bylo střetnutí, ve kterém dokonce i Francouzi a Britové vystupovali z dnešního hlediska jako divoši. Jejich indiánští spojenci — a že jich bylo hodně, hlavně na francouzské straně — pak měli úplně jiné kodexy válečnické cti než evropské kultury. Velmi nekompatibilní. Mučení a skalpování zajatců bylo u indiánů běžným jevem.

Pokud jste jako mladík strávil kus svého života krčením někde v křoví s jednorannou puškou a čekáním na nepřítele, kterému bylo naprosto nežádoucí dostat se do rukou živý, těžko budete následně používat stejný politický korektní slovník jako dnešní absolvent mezikulturních studií z Harvardu, který v životě takovému nebezpečí vystaven nebyl. Možná o něm četl v knize, ale na emocionální rovině to nejspíš nedokáže pochopit. Facebookový robotický filtr však vidí svět z pohledu toho druhého a vynucuje jeho etické standardy. Co do nich nepatří, musí být vyzmizíkováno, i kdyby šlo o důležitý historický dokument.

Moderní Facebook a spol. jsou soukromé organizace, ale jejich vliv je natolik velký — fakticky se jedná o monopoly nebo oligopoly — že jakýkoliv výkon obsahově zaměřeného mazacího režimu dost připomíná státní cenzuru. Právě kvůli tomu, že obří firmy jsou svojí mocí srovnatelné se státem, vznikly už v 19. století antitrustové zákony. Ortodoxní libertariáni se mnou nebudou souhlasit, ale tvrdím, že hranice mezi „soukromým“ a „státním“ sektorem nejsou zdaleka jednoznačné. Někde nahoře dochází k překryvu a přerůstání.

Otázka toho, jaké verbální projevy mohou dominantní technologičtí hráči z vlastní vůle potlačovat, natož automaticky, a zda tak vůbec smějí činit, bude ještě důležitá.

Klidně je možné, že někdy za pět let dojdou v Applu k názoru, že iPhone nesmí být použit k přenosu závadných myšlenek, a následný update operačního systému vám znemožní na klávesnici napsat nějaké problematické slovo. Dejme tomu, abychom se drželi českých poměrů, tak „cikán“. Nebo třeba společnost Microsoft přeruší každý Skypový hovor, ve kterém to slovo padne — píp, píp, porušil jste zásady užívání softwaru Skype, vaše volání bylo ukončeno. A bude mu jedno, jestli jste třeba zrovna své milé četl ukázky z Máchova románu „Cikáni“ na dobrou noc. Skype není licencovaná služba (na rozdíl od mobilních operátorů), takovou věc by klidně dělat mohl.

Připadá vám to absurdní? Facebook už nyní odmítá akceptovat určité odkazy, a to i v privátních konverzacích mezi dvěma osobami na Messengeru. Rovněž řada obrázků je zakázána i v privátních konverzacích. Google Voice zase ve výchozím nastavení blokuje „sprosťárny“, ač je tuto funkci možné vypnout.

Na jednu stranu chápu, že sociální sítě se nechtějí stát rájem pro šíření nevyžádaných obrázků penisů apod. Na druhou stranu je velmi snadné vidět, že dostane-li se taková mašinerie pod vliv či vyslovenou kontrolu nějaké politické skupiny, má opozice opravdový problém. A Silicon Valley, kalifornský region, v němž se techničtí veleobři koncentrují, je jednoznačně nakloněn Demokratům. Za dva roky je v USA další volební kampaň; myslíte, že firmy jako Facebook a Twitter budou ještě opět ochotny prodat reklamní prostor Trumpovi, když jejich personál jej vesměs považuje za ztělesnění zla?

(Možná. Lenin ostatně říkal, že kapitalisté vám prodají provaz, na kterém je potom oběsíte. Ale možná také ne. Rozhodně bude existovat velký tlak, aby se tak nedělo. Google před měsícem vycouval z vojenského projektu, nepochybně lukrativního, jak už vojenské projekty bývají — poté, co jej k tomu přiměla „malá, ale hlasitá skupina zaměstnanců“. Malé, ale hlasité skupiny mají obecně se svými požadavky větší úspěchy, než by odpovídalo jejich počtům.)

Třetí bod: automatizace těchto činností je docela průšvih.

Algoritmy dnes disponují nějakou schopností učení, ale nemají žádné zábrany, ani ty, které máme zažity tak hluboko pod kůží, že je vlastně nevnímáme. Zeptáte-li se takového systému, z čeho udělat nejlepší guláš, klidně vám doporučí sousedovic kokršpaněla, a dost možná bude mít i pravdu (to je na tom to nejhorší). Tomu, že v západní kultuře se psi nejedí, je nutno jej nejprve naučit. (Bude v Jižní Koreji používán jiný filtr?)

Kokršpaněl v guláši je aspoň zjevný fail, což znamená, že jeho výskyt programátoři časem opraví. Ale učící se algoritmy můžou páchat věci, na které se bezprostředně nepřijde, nebo se na ně nepřijde nikdy. Dejme tomu, že chcete prodat co nejvíce hrnců a svěříte tento úkol samoučící umělé inteligenci. Ta jej sleduje se stoprocentním zaujetím, bez odpočinku a bez zábran. Je zcela dobře možné, že zjistí, že nejlepšími zákazníky pro drahé hrnce jsou lidé s počínajícím Alzheimerem, a dokáže je dokonce i nějakým překvapivým způsobem identifikovat. Třeba podle rostoucího množství překlepů v textech, výrazu tváře na fotkách apod. Dnes jde tímto způsobem detekovat z obrázků kdeco. Za pět let toho bude nepochybně více.

To je z lidského hlediska samozřejmě neetické jako bič a na různé „lidské šmejdy“, kteří se o podobnou aktivitu snaží v reálném světě, jsme jako společnost dost alergičtí. Jenže ten algoritmus, který dojde k podobnému závěru, vám to ani nemusí sdělit. Jeho prací je prodávat, tož vám pravidelně sděluje, kolik toho prodal, a do vnitřní logiky už nevidíte. Ani jeho vlastní programátoři do ní nemusejí vidět. V podstatě je to dokonalý, svědomitý psychopat.

Představa takového nemilosrdného stroje, který je naprogramován k tomu, aby vynucoval určitá politická stanoviska, je dost děsivá. Dlouho jsme si mysleli, že to je záležitost Číny. Velmi snadno se ale může stát, že kolektivně nakráčíme do téže pasti ve jménu „dobrých mravů“. Jaký prostor nám pak zbude pro disent, rozejdou-li se naše názory s tím, kdo mazacím systémům dává zadání? Bude snad zase existovat digitální samizdat, jehož obsah bude šířen různými kreativními postupy, aby se obešlo všudypřítomné oko robotického Bratra?


P.S.: Tímto zdravím Noru Michalskou, která nedávno napsala pěkný článek o svých zkušenostech ohledně mazání příspěvků a blokování účtů. Jmenovala mě v něm coby jednu ze svých inspirací pro přechod na vlastní platformu. Nemohu popřít, že mi to zalichotilo. Ješitnost je hrozná věc, ale zároveň velmi příjemná.

P.P.S.: Pokud tento blog pravidelně čtete, nyní bych vám možná doporučil, abyste si zaregistrovali jeho odběr e-mailem. E-mail zatím tolika mazacím mechanismům nepodléhá. Na sociálních sítích ale žádný publicista „neví dne ani hodiny“. 1)

Píše 4. 7. 2018 pan Marian Kechlibar na Kechlibar.net


1) Pozn. red.: Jen bych připojil technickou. E-maily se mažou se stejnou zarputilostí, jako cokoliv jiného. Dokonce právě u e-mailů (a SMS) se s hloubkovým scanem na kritická slova v obsahu začalo. A u něj je to o to záludnější, protože jestliže na sociálních sítích to před smazáním vidělo pár set/tisíc lidí, zaregistrují, že zmizel, u e-mailu se nedovíte nic. Prostě zmizel v kyberprostoru. Byl — a už není…

Autor článku: | Vydáno: | Přečteno: 159 × | Prestiž Q1: 5,62

+6 plus Známkuj článek minus –0

Interní diskuse

Promazaná deklarace nezávislosti

(Článek už je starý. Interní diskuse k němu byly uzavřeny.)

Žádné komentáře

top