Roman Rakowski: „Nebezpečí algoritmů je, že nám o nás řeknou více, než jsme o sobě schopni zjistit sami.“

Článek vyšel v tištěném čísle Mezinárodní politiky 1/2022.

Co vidíte jako největší úskalí nových technologií? 

Největší úskalí vidím v komodifikaci dat nových technologií. Pokud bychom se pokusili periodizovat současnou povahu společnosti, která je neoddělitelně spjata s informačními a komunikačními technologiemi, mohli bychom hovořit o době, jež je z velké části organizována prostřednictvím analýzy a zpracování velkých dat (Big Data). Digitální technologie jsou zasazeny do širokého společenského, politického a ideologického kontextu, který tuto dobu značně definuje. Takový technologický obrat k digitalizaci má dopad na naše samotné poznávání univerza. Jednou z hlavních implikací této proměny je posun od materiální výroby a služeb pozdního kapitalismu k produkci dat. Data jsou de facto hlavní ingrediencí naší doby. Tato proměna obchodní substance vede k tomu, že se ekonomický systém zaměřuje právě na vyprodukovaná data uživatelů a jejich komodifikaci. Rozvoj takové formy digitálního kapitalismu je motivován hledáním nových oblastí, ze kterých by bylo možné vyprodukovat další data. Ta jsou následně podrobena datové analýze (algoritmy, umělá inteligence, neuronové sítě a hluboké učení) s cílem zavedení nových služeb a obchodních modelů (či personalizace obsahů v internetovém prostředí). Dá se tedy říct, že největším úskalím nových technologií je to, že jsou médiem nových rozporů kapitalismu. Ty jsou z materiálního světa přeneseny do světa digitálního.

Mluvil jste o komodifikaci dat. Co si pod tímto pojmem představit?

Komodifikace dat je neologismus, kterým se snažím popsat fenomén, v němž je digitální ekonomický systém zaměřen obzvláště na data a jejich produkci. V rámci politické ekonomie se jedná vcelku o nový fenomén, který předpokládá, že osobní data je možné v různých obchodních modelech směnit na peníze. Původně se jedná o mechanismus proměňující objekty a lidskou práci v pouhé předměty směny: hodnota těchto objektů pak není dána samotnou podstatou (užitnou hodnotou), nýbrž tržní hodnotou nabídky a poptávky. Podle Thomase Allmera se jedná o nové strategie akumulace kapitálu v rámci veřejného sdílení dat. Problémem se stává to, že nelze určit, kdo je producentem dat a komu data patří, když jsou produkována samotnými uživateli. Tato data jsou poté (bez vyřešení výše nastolených otázek) přeměněna v soukromé vlastnictví velkých firem. Jsou to pak informační komodity postavené na znalostech, idejích, komunikaci a celkovém kulturním obsahu někoho jiného. 

Jaké problémy vidíte z hlediska etiky v nových technologiích? 

Komodifikace dat je rovněž etickým problémem. Máme zkreslenou představu o podmínkách a možnostech jak zasahovat do digitálních norem, které se skrývají za tímto novým fenoménem. Dalo by se říct, že komodifikace dat postupně utvrzuje klasický problém třídního boje – aktualizuje se klasický vztah mezi výrobními silami a vztahy, jejichž dynamika se v digitální éře proměňuje. Bowlesova teorie z knihy Etika budoucnosti (2021) poukazuje na mýtus technologické neutrality – už v samotném designu je zakódována určitá ideologie, která má zkreslit naše užívání: pokud nás technologie nutí věnovat jí pozornost, bylo to záměrem. 

Lze to chápat tak, že technologie tedy nejsou neutrální a mohou být ideologické? A jsme společnost, která bere technologie jako ideologii?

Problém, který Bowles nastiňuje ve své knize, spočívá v definici normativní roviny jedince/inženýra (nikoliv společnosti). Bowles nechává na samotném designérovi techniky, aby se rozhodl eticky – to, zda uživatel podlehne ideologii designu, je čistě na designérovi, problém ideologie je přenesen na jeho zodpovědnost. Problémem však je to, že Bowles z rozhodování vylučuje ty, kterých se digitální ideologie týká nejvíce: technologickou společnost / uživatele techniky a producenty dat (tedy novou digitální třídu). V tomto kontextu je zřejmé, že konfrontuje politickou teorii techniky a etiku technologií. Politická teorie techniky nabízí možnost demokratizace technologií, tedy způsoby, jak do designu zasahovat – a to zpětně, prostřednictvím společnosti (či demokracie). Tuto možnost můžeme pozorovat ve dvou rovinách:

1. deideologizace techniky, kdy si musíme uvědomit, že vůbec můžeme technologie svým rozhodnutím ovlivňovat

2. demokratizace techniky, tedy že jasným nesouhlasem lze dosáhnout změny cíle techniky. Vykresluje se nám zásadní rozdíl mezi potřebou etiky nebo kritického myšlení. Na jedné straně je zodpovědný designér, na straně druhé uvědomělá společnost. Pokud designér podlehne hodnotám a etice firmy, je zde společnost, která může agregovat své zájmy a do designu zasahovat. Je tedy jasné, že požadavek samotné etiky je neefektivní, muselo by se změnit samotné konkurenční prostředí, což je neuskutečnitelné, protože technologie v současném diskurzu digitálního kapitalismu jsou právě hnacím motorem hodnoty konkurenceschopnosti.

Někdy to vypadá, jako by odpovědí naší společnosti na jakýkoliv trochu složitější problém byla technologie, např. místo toho, aby člověk žil zdravě, chová naději, že v budoucnu ho zachrání pokročilá technologie ve zdravotnictví. Slouží nám technologie jako samospásné řešení?

Domnívám se, že technologie tento potenciál mají. Obrovský sběr dat o člověku dává nové možnosti interpretace. Italský filozof informace Luciano Floridi dokonce hovoří o tom, že jsme ve čtvrté revoluci sebepoznávání člověka. V první, kopernikovské revoluci jsme museli znovu promyslet svou roli a místo ve vesmíru, jehož jsme už nebyli středem. Druhou revoluci způsobil darwinismus, díky němuž jsme zjistili, že nejsme nejadaptabilnějším druhem. Třetí revoluce byla započata Reném Descartem, který nás naučil racionalizaci a smířil nás s myšlenkou, že vlastní vědomí můžeme mít zcela pod kontrolou, což posléze vyvrátila až Freudova psychoanalýza. Čtvrtá revoluce – ta právě probíhající – začala s Alanem Turingem: stáváme se informačními organismy (inforgy) a naše realita se vzájemným propojováním informací proměňuje v infosféru, kterou sdílíme s dalšími činiteli, nejen lidmi, ale i algoritmy. Umělá inteligence v tomto prostředí nemusí být nutně chytřejší než my, stačí, že nás dokáže mystifikovat (jak ukázal Turingův test). Ocitáme se tak v bodě, kdy je naše sebeporozumění a porozumění světu definováno informačními technologiemi: algoritmy nám o nás řeknou více, než jsme o sobě schopni zjistit sami. 

Jsou sociální sítě nástrojem pro demokratizaci, či k zneužití možností demokracie?

Řekl bych, že sociální sítě nabízejí určitý prostor (ve smyslu agory), ovšem problémem je to, že lidé s takovým svobodným prostorem složitě pracují. Pokud bychom se přiklonili ke konceptu deliberativní demokracie, tak ta je založena na tom, že musí v rámci diskuze fungovat racionální pravidla, prostřednictvím nichž se artikulují témata v diskuzi. A to je největším problémem současné diskuze, tato racionalita je nabourávaná současnými trendy populismu, post-pravdy a fake news. Je nejspíš třeba určité didaktiky a kondice veřejného mínění. 

Kdy odhadujete příchod bájného bodu singularity? A co od něj očekávat?

Domnívám se, že do bodu singularity nedorazíme. Strong AI stále disponuje základním problémem, a to tím, že syntaxe není sémantika. I kdyby nás dokázala v rozhovoru přelstít, je to jen z toho důvodu, že má větší jazykovou databázi než člověk. Tím se nám může jevit jako že „myslí“. Není pochyb, že AI dokáže řešit stanovené cíle mnohem rychleji než člověk, to je však dáno komputační silou nových technologií. Ovšem zda si dokáže stanovit vlastní cíle… To je ten hlavní problém. Sami ani přesně nevíme, jak funguje lidská mysl, natož abychom ji mohli vytvořit v softwaru. Je to spíše filozofický problém (filozofie mysli, neurovědy, apod.). 

Vize průmyslu 4.0 je taková, že pracovat budou stroje a lidé budou stroje vymýšlet a opravovat. To si ale žádá vysokou odbornost, jež zdaleka není přístupná všem částem společnosti. Můžeme tedy čekat další ničení strojů lidmi, které připraví o práci?

V rámci diskuze o možnostech současné automatizace je třeba se zaměřit na zprostředkování vědy a vědeckých poznatků směrem k široké veřejnosti (informovanost a popularizace vědeckých faktů a inovace). Společnost by měla umět interpretovat svou pozici v celku technicko-společenských změn. Tím můžeme adekvátně reagovat na případné změny již na úrovni samotného vzdělání – právě adekvátní výběr povolání a aktuální politika vzdělání může předejít nezaměstnanosti. Sledovat nové trendy a vývoj trhu je nezbytné. Zároveň je třeba vědecká fakta a výsledky zakomponovat do narativu o poznávání skutečnosti, o emancipaci člověka vědou a technikou, o směřování pokroku (což předpokládá i politickou interpretaci redistribuce nových technologií směrem ke společnosti). Je třeba tedy automatizaci politizovat a dostat do popředí veřejné diskuze. Bez této diskuze technologie nebude možné demokratizovat. Pokud se technická revoluce dotýká celé společnosti, měla by mít společnost možnost do designování technologií zasahovat.

Jak hodnotíte vztah České republiky, potažmo české vlády, k moderním technologiím?

Česká republika na rozvoj nových technologií celkem „svižně“ reaguje. Na tuto problematiku narážíme v mnoha dokumentech, iniciativách a politikách, avšak nehovoříme už o dalším problému, totiž že se technologie vyvíjejí rychleji, než jsme schopni reflektovat. Implementace nových technologií stojí před problémem, který je zapříčiněn tzv. Moorovým zákonem: každých 18 měsíců se výkon výpočetních obvodů zdvojnásobí, což implikuje to, že se technologie vyvíjí exponenciálně obrovskou rychlosti. Pokud se na tento problém podíváme holisticky, znamená to, že se technologie vyvíjejí rychleji, než jsme schopni na rovině vztahu společnosti a technologie reflektovat. Vývoj normativních rámců ve formě konkrétních zákonů je tedy logicky pomalejší než vývoj samotných technologií. Je však třeba, aby technologický progres korespondoval s výukou informatického myšlení na našich školách, a tak připravovat absolventy, kteří budou schopnější přizpůsobit se automatizaci a robotizaci trhu, což jsou požadavky průmyslu 4.0.

O autorovi: Roman Rakowski je odborným asistentem na Filozofické fakultě Ostravské univerzity v Ostravě. Ve svém bádání se zaobírá politickou filozofií a filozofií technologií. V rámci analýzy nových technologií využívá obzvláště východiska kritické teorie. Aktivně se také věnuje problematice Industry 4.0. a tvorbě politik.