Svobodný svět

Jen svoboda jednotlivce vede ke svobodné společnosti

adm        

Svobodný svět, článek

Štítky článku:
Čtení tohoto článku zabere přibližně 8 min.

Budoucnost AI: strojovým učením ke kafkovské totalitě (2/2)

Dlouhodobější čtenáři tohoto projektu si jistě všimli, že zde vychází články velmi kritické k dopadům některých moderních technologií, zejména heuristiky a AI, umělé inteligence.

AI v praxi ospravedlňuje totalitní ideologie a decimaci populace

„Tech“ (ve skutečnosti Big-Data-IT) firmy zaplavily trh produkty „zdarma“, za které jim zákazníci na oplátku prodávají sebe sama jako zboží. Díky tomu získaly obrovské pokladnice „Big Data“ ve smyslu neutříděných dat, na které mohou vypustit strojově učící se AI, aby se trénovaly. Zásluhou nepřetržité interakce se „zákazníky“  — pardon, zbožím — se totiž každý, kdo přijme nebo odmítne „doporučení“ nějaké AI, stává jejím trenérem.

Logickým výsledkem je AI tak dobře vytrénovaná, že v komunitě určitých zákazníků nakonec dělá jen téměř nepostřehnutelné množství chyb. Tím spíše, že lidský mozek má silnou tendenci odpouštět chyby a pamatovat si jen úspěchy (proto lidé věří horoskopům a sází na Sportku). Co více, taková AI dokáže rozpoznat a natrénovat i preference, které teprve vznikají na základě nějakého společného jmenovatele (například příslušnosti k určité subkultuře).

Z pohledu uživatele se tak může zdát, že AI algoritmus zná uživatele lépe, než on sám sebe.

Aby však AI dokázala dobře predikovat preference, neřkuli chování člověka, nesmí člověk být unikátní. AI nemá kreativitu: dokáže pouze vyhledávat vzorce, které se staly v minulosti, a aplikací na současná data je protáhnout do budoucnosti. Kreativní člověk; skutečné individuum; unikátní lidská bytost — to vše představuje oříšek, který žádná AI nedokáže skousnout. Protože čin, který ještě nikdy nebyl zaznamenán v historii, nemůže být analyzován AI a ta jej nedokáže ani predikovat.

Jenže tato logika funguje i naopak. Každý uživatel „doporučovacích služeb“ vidí, že AI jeho samotného predikovat dokáže. Lidé jako Patrik Zandl, kteří přesahují z IT do úvah o lidstvu, proto dochází k závěrům, že AI zná člověka lépe než on sám. Protože pokud člověk slepě, otrocky, poslouchá AI, prý je šťastnější. Z toho různí podobní myslitelé divoce extrapolují, opět zaměňují korelaci (byť statisticky významnou) s kauzalitou…

…a docházejí k závěru, že nic jako unikátní lidský jedinec prý vlastně neexistuje.

Že představa, že každý člověk je unikátní, je falešná. „Strojově-učící se AI“ ji prý vyvrátila.

To by ale znamenalo, že ty nejohavnější totalitní režimy historie měly pravdu. Souboj mezi totalitami a svobodou se totiž nesl po linii jedné zásadní otázky: co je jedinec?

Jedna strana tvrdila, že jakýkoli jedinec je pouze nahraditelné kolečko soukolí, jehož jediným smyslem je pohánět „velký stroj společnosti“ a který může být kdykoli bez mrknutí oka obětován pro „vyšší dobro“. V tomto pojetí je život jakéhokoli člověka bezcenný, protože kdokoli je nahraditelný. Důležitý je přeci jen Celek, totalitní stát, protože ten nahraditelný není a dokáže „Velké a úžasné věci“.

Oproti tomu druhá strana tvrdila, že každý jedinec je unikátní a jeho život má inherentně cenu sám o sobě. Že jedinec si sám může dobrovolně vybrat sebeobětování pro něco vyššího, ale nesmí k tomu být nucen. Že nesmí být proti své vůli obětován, nesmí být zabit, nesmí být zotročen. Jedině na základě této premisy měla objektivní cenu lidská svoboda.

Strojově učící se AI však vytváří svou zdánlivou dokonalostí iluzi, že lidé jsou reálně neunikátní a tedy obětovatelní a zotročitelní.

Začarovaný kruh: aby vás AI křivě neobvinila, musíte jí potvrdit že je neomylná

Řekli jsme si, že důsledek strojově-učící se AI je dvojí. Jednak křivě obviňuje lidi z toho, že v budoucnosti spáchají nějaký zločin, aniž by se mohli obhajovat. A jednak resuscituje totalitářský, genocidální princip, že lidský život nemá žádnou cenu, protože každý jedinec je redukován na nahraditelné kolečko v soukolí, na pouhý „resource“.

Je ovšem ještě třetí ďábelský princip, který „Machine-Learning AI“ zavádí — a který je přímým důsledkem prvních dvou.

Totiž, abyste nebyli křivě obviněni AI, nesmíte se podobat zločinci. Abyste se nepodobali zločinci, musíte se vyskytnout v té správné skupině lidí v malé „výukové“ nebo alespoň „kontrolní“ hromádce dat, používané k výcviku AI. Z čehož plyne, že abyste měli jistotu, že se do takto malých vzorků dat dostanete, musíte být dokonale průměrným občanem. Raději neriskovat a nebýt křivě obviněn, než naopak. A tím potvrzujete, že AI říká pravdu, protože všichni slušní lidé se nakonec chovají přesně tak, jak AI předvídá, že mají.

Chápete? Dám vám extrémní příklad. Pokud teroristé kritizují AI a běžní lidé moc ne, AI se na takovéto sadě dat naučí, že kritizovat AI znamená být potenciální terorista třeba s pravděpodobností 60 % — protože zaměňuje korelaci za kauzalitu. Jenže čím více lidí raději „zapadne do řady“a než aby mělo problémy a muselo u výslechů dokazovat, že teroristé nejsou, kritiku AI si odpustí… Tím větší nepoměr mezi počtem kritiků AI z řad slušných lidí a teroristů bude, až bude nakonec kritika AI indikátorem „potenciálního teroristy“ s pravděpodobností 99,999 %.

Totéž platí i u neškodných aplikací jako doporučování hudby: když si lidé zvyknou slepě poslouchat doporučení AI a nevyhledávat hudbu sami za sebe, statisticky bude mít AI 100% úspěšnost. Ne ovšem proto, že by AI skutečně tak niterně znala lidi — nýbrž proto, že lidé se již neobtěžují vyhledávat cokoli nad rámec AI a tím je statistika postavená na hlavu. AI je tak „sebepotvrzujícím proroctvím“, protože se z principu vždy zbaví kohokoli, kdo by se jí nehodil do jejích predikcí. Po dobrém či po zlém.

Před totálním dohledem není úniku — jen do šedi dokonalé Normalizované konformity

Lidé milující svobodu si občas povzdychnou: „Orwellův 1984 nebyl návod, bylo to varování!“ V Orwellově románu bylo na občany dohlíženo všudypřítomnými štěnicemi — prostorovými odposlechy, a v jejich bytech na ně dohlížela „Obrazovka“ která byla zároveň kamerou. V našem světě se nám plíživě etabluje přesně totéž.

Úplně každé zařízení jakkoli napojené na internet je potenciálním špiclem, který vás udává totálnímu dohledu AI. Díky „Smart Cities“, „Internet of Things“ a smartphonům, které jsou všechny plné senzorů a kamer, o 360° „live-stream“ natáčení videa a analytice obrazu nemluvě, přitom nemá být před AI nikde úniku. Všudypřítomné kamery umožní Policii vás najít a zatknout tři minuty poté, co vystrčíte nos z domu.

Jeden rozdíl oproti Orwellovi zde ale je. Dokonce i v dystopickém světě „1984“ nebyl dohled nepřetržitý, pouze náhodný. Nikdy jste si nemohli být jisti, zda vás zrovna někdo nesleduje — ale věděli jste, že vás nikdo nesleduje pořád. To se s nástupem AI mění. Díky AI je možné každého člověka nejen nepřetržitě sledovat a odposlouchávat — ale zároveň mu přiřadit i kádrováky, fízly a soudce, kteří nikdy nespí a posuzují vaše chování 24 hodin denně, 365 dní v roce.

Naprosto jakékoli chování přitom může být vyhodnoceno jako indikátor, že jste potenciální hrozba a mělo by s vámi preventivně být zatočeno. Nebo byste alespoň měli dostat preventivní vyhazov a být navždy vyloučeni ze společnosti slušných lidí. Protože kdokoli by se s vámi stýkal, ten by se rázem stal také podezřelým a také páriou.

Chápete ten důsledek? Doposud jste mohli optimisticky ignorovat technologie totálního dohledu s argumentem, že „ty jsou jen proti zločincům a já jsem slušný člověk, takže mi nic nehrozí“. Nyní již ne. Nyní jste i vy cíl. Stačí, když vás špatně vyhodnotí AI. Takže abyste nebyli křivě obviněni, musíte se tvářit jako dokonale Normalizovaný, průměrný, šedivý občan. Pořád. Všude. Nikde si nemůžete oddychnout a být v bezpečí.

Počkat, vlastně ne. Pouze se tvářit jako Normalizované ozubené kolečko totiž nestačí. Pokud něco předstíráte, AI najde drobné odchylky od „správného normálu“ — nejpozději tehdy, až chytí někoho jiného, kdo také jen předstíral průměrnost, a zpětně si doplní svůj adaptivní algoritmus o korelace, čím se lišil od Normalizované masy. Myslíte si, že nemůže být hůře? Ale může.

Opět na základě „Machine Learning“ porovnávání velkých vzorků dat si nyní spousta vědců, novinářů a velkých firem myslí, že reálně umí číst myšlenky a kádrovat tím lidi.

Počítač s AI, napojený na skener okysličení různých částí mozku, prý umí vynést rozsudek, že jste rasista, i když si toho vy sami nejste ani vědomi. Nikoli ovšem na základě faktů, nýbrž na základě neověřené hypotézy, že pokud se rasistům „statisticky často“ aktivuje nějaká oblast mozku, když vidí jinou rasu, je to důkaz, že komukoli se aktivuje stejná oblast mozku, to musí být také rasista. A obhajujte se proti takové „vědě“!

Před každým z minulých totalitních režimů byl člověk svobodný alespoň ve své mysli. Dokud se neprořekl represivnímu aparátu, nějakému Gestapákovi, StBákovi nebo vyšetřovateli O’Brienovi z dystopie „1984“, alespoň ve svém mozku se mohl těšit nesouhlasem.

AI, která (dost možná křivě) kádruje aktivitu mozku, poprvé v historii světa zavádí zločin „nekorektního myšlení“, tedy Orwellovský „thought-crime“. Totální vynucení poslušnosti libovolným mocným člověkem, korporací či státem. Totální loajalita — nebo likvidace. Vyberte si.

Tři pilíře totalitní diktatury: předurčenost bez svobody volby, pohrdání jedincem, totální dohled

Od okamžiku, kdy se je na vás vypuštěna „strojově-učící se“ AI, můžete být okádrováni, prohlášeni za Nežádoucího rasistu či jiného ideozločince nebo dokonce teroristu, a „preventivně“ potrestáni na základě vyšinuté „predikce“, kterou nemůžete nijak zpochybnit. Protože je to přeci „unconscious bias“, o kterém již nyní vtloukají zaměstnancům do hlav, že jsou to hnusní rasisti a sexisti dopouštějící se ideozločinů i pokud se považují za dokonale liberální a nediskriminující.

Totalitní nauka o predestinaci, predeterminaci každého člověka na základě povrchní podobnosti s někým nežádoucím, je díky „důkazům“, které AI poskytla na základě zkoumaného vzorku, opět povýšena na vědu. A nejen to — čínští vědci pustili AI na fotografie zločinců a skrze „Machine Learning“ dokázali resuscitovat přímo i starou nacistickou fyziognomii a „prediktivně“ určovat zločince na základě rysů tváře.

Totalitní hodnotový žebříček, podle kterého jedinec není unikátní a cennou bytostí, nýbrž zaměnitelnou součástí stáda. Morálka, podle které člověk nemá žádnou cenu jako jedinec, jen jako součástka „většího celku“. To vše díky inherentně falešným statistikám úspěšnosti AI opět nalezlo ospravedlnění a punc „objektivní vědecké pravdy“.

A na rozdíl od minulých totalit je dissent prakticky vyloučen, protože poprvé v historii má každý člověk přiřazeného ne jednoho, ale hned několik osobních špiclů a kádrováků, kteří jej nepřetržitě sledují a posuzují 24 hodin denně, 365 dní v roce, a neschová se před nimi ani do svých myšlenek. V systému ještě ďábelštějším než v Orwellově dystopii „1984“ je trestán už i záblesk „thought-crime“ který proběhl mozkem a aktivoval „statisticky nesprávnou“ oblast.

Ať se pokusíte bránit se proti takové totalitě jakkoli, jste předem odsouzeni k neúspěchu. Protože dříve či později se nějakým vzorcem chování — třeba i jen mimikou obličeje nebo způsobem chůze — začnete podobat minulým disidentům, jejichž vzorce chování AI dokázala identifikovat a vyhranit je jako rozdílné oproti vzorcům chování ne-disidentů. A v tom okamžiku vás AI „preventivně zneškodní“. Technologický fašismus si rozvracet nenecháme, soudruhu, to teda ne!

Takový je svět založený na slepé víře ve „strojové učení“ a „předpovědi“ falešného proroka jménem „Umělá Inteligence“. Svět, který nekriticky přijímá sliby vědců a „Technologických“ firem o „bezpečnosti skrze prevenci a prediktivní analýzu“. Svět, který se nechá ovládat AI, vždyť je přeci tak dobrá a statisticky spolehlivá. Totalitní diktatura s jedním jediným povoleným názorem. Totalitní diktatura s polobožskou informovaností a mocí pro ty, kdo jsou u moci.

Tak jak se vám líbí?

Píše Krabice na serveru krabice.wordpress.com

Autor článku: | Vydáno: | Přečteno: 245 × | Prestiž Q1: 5,28

+4 plus Známkuj článek minus –0

Interní diskuse

Budoucnost AI: strojovým učením ke kafkovské totalitě (2/2)

(Článek už je starý. Interní diskuse k němu byly uzavřeny.)

Žádné komentáře

Facebook diskuse
top