Co když je technologie modlitba?

K Allado-McDowell je jednou z vůdčích osob programu Google Research Artist + Machine Intelligence, který usnadňuje spolupráci mezi výzkumníkycemi z Google AI, umělcikyněmi a kulturními institucemi. Vedle dvaceti let zkušeností v oblasti softwarového designu a inženýrství má K též magisterský titul v oboru fotografie a pravidelně vystupuje se svojí akustickou a elektronickou hudbou. V tomto rozhovoru se zabýváme vztahem mezi věštebnými praktikami a strojovým učením, multidimenzionalitou umělých neuronových sítí coby alternativním schématem myšlení a rolí prediktivních algoritmů ve vytváření ne toho, co je možné, ale co je plausibilní.

DI: Kde se vzal váš zájem o ezoteriku a věštebné praktiky?

KAM: Můj zájem o ezoteriku a věštění začal studiem ezoterické fyziologie. Když mi bylo něco málo přes dvacet, mé zkušenosti z cvičení háthajógy mě přiměli studovat energetické mapy těla známé z védské filozofie. Tak začala moje několik desetiletí trvající posedlost meditací, jógou a esoterickými systémy pocházejícími z Asie, Jižní Ameriky i Evropy. Mé zkušenosti nejpřesněji vystihují nedualistické systémy jako kašmírský šivaismus, dzogčhenový buddhismus a taoismus. V běžném životě často promýšlím nad důležitými rozhodnutími za pomoci čínské Knihy proměn (I-ťing). Důležitá je pro mě v tomto ohledu i práce s rostlinami.

DI: Co vás přivedlo k práci se strojovým učením a následně do programu Google Artist + Machine Intelligence?

KAM: Do své současné pozice jsem se dostale konvenčním způsobem, který se pak ukázal být mimořádně šťastným řízením osudu. Podílele jsem se na tvorbě UX (user experience) prototypů v týmu zapojeném do výzkumu AI. Zde jsem pracovale na spekulativních prototypech produktů, které využívaly AI, a pomáhale jsem také navrhovat modely interakcí s AI v produktech Google. Když v polovině roku 2015 pronikl na internet projekt trippysquirrel.jpg, Google se rozhodl zveřejnit AI program DeepDream a můj šéf Blaise Aguera y Arcas vytvořil skupinu, která měla pracovat na výstavě prací zhotovených s pomocí DeepDream. Jelikož jsem tehdy byle v celém stopadesátičlenném výzkumném týmu jedinou osobou s uměleckou školou, dobrovolně jsem se přihlásile o vedení skupiny. Rozpočet, který jsme původně dostali na jednorázovou akci, jsme v týmu využili na vyhlášení neformálního uměleckého grantu a programu spolupráce s umělci*kyněmi. V únoru 2016 jsme pak oficiálně zahájili program Artist + Machine Intelligence.

DI: Pokud jde o ezoteriku a věštění, mluvíme zde o předpovídání budoucnosti,. Strojové učení je také užíváno převážné pro účely predikce (prediktivní texty, prediktivní kontrolní opatření, cílená reklama atd.). Jak chápete vztah mezi těmito dvěma způsoby předvídání?

KAM: Starší věštebné systémy jsou založeny na těch nejzákladnějších kosmologických symbolech, které vznikly a byly používány v rámci určité kultury. Podívejte se třeba na jinové a jangové čáry hexagramů, na nichž je založen I-ťing a osm základních trigramů, jež vytvářejí. Nebo na archetypální symboly tarotu. Aby tyto symboly fungovaly, musí zapadnout do hlubších přírodních nebo mentálních vzorců. Nynější predikční systémy pro různá opatření, reklamu, textovou spolupráci atd. se ověřují na souborech dat, které vycházejí ze společenských systémů, jenž patří do jedinečného dějinného prostředí: tím je modernismus, jenž vyrostl z kolonialismu. Nové systémy strojového učení snad ale dokážou absorbovat i fundamentální symbolický potenciál starších věštebných metod, založený na staletích až tisíciletích integrativní praxe.

DI: Starší věštebné metody se však od současných systémů predikce silně liší také co do svého výkladu, čitelnosti a působnosti. Mám za to, že ve starších věštebných metodách může na rovině výkladu působit jak ten, kdo je čte, tak osoba, jejíž předpověď je čtena; a věštebná metoda je zde systémem, který má tento vzájemný vztah strukturovat. Působnost je v tomto případě distribuována mezi všechny věci a osoby, jichž se věštění týká. Naopak v současných prediktivních systémech nemá ten, jehož se předpověď týká, žádnou šanci provádět výklad. Je mu ponechána jen minimální (případně žádná) možnost v celém procesu aktivně působit. Souhlasíte s takovýmto názorem? Domníváte se, že existuje nějaký způsob, jak tuto logiku překonat?

KAM: Samozřejmě, je těžké jakkoli zevšeobecňovat, ale pokud jde o roli výkladu a introspekce ve čtení, máte v zásadě pravdu. Pro práci s I-ťingem je třeba osvojit si čínskou filozofii, která introspektivní aplikací hexagramu a jeho komentáře přetváří i toho, kdo jej čte. Tento proces je pro člověka přínosný bez ohledu na konkrétní otázku, kterou orákulu pokládá, protože se nalaďuje na taoistický a konfuciánský přístup k problémům. To patří k danému procesu stejně jako získání odpovědi na otázku. I-ťing mně ovšem dal taky výborné tipy k burzovním investicím.

Tyto starší systémy a jejich integrace vnitřního vnímání a vnějšího projevu by z hlediska materialistického uvažování vůbec neměly být možné. Z hlediska materialismu je čteníorákula náhodné, jde o čistě psychologickou projekci. Naopak, kauzální sílu prediktivních systémů lze mnohem snadněji mapovat, a jeho tvůrcikyně jsou našimi současníkicemi,nikoli naši předkové*yně. Toto jsou pravděpodobně nejzřetelnější rozdíly mezi věštebnými a prediktivními systémy, které zakládají velmi dobré důvody, proč tyto systémy od sebeodlišovat.

DI: Z minulosti mi v paměti utkvělo vaše tvrzení, že „v 21. století se umění, technologie a spiritualita protnou, jenom je v tom zatím ještě moc velký zmatek.“ Jak si myslíte, že k tomuto prolínání dojde a jak chápete roli korporátních zájmů, které řídí technologický vývoj, jenž k tomuto prolínání spěje?

KAM: Spiritualitu, umění i technologie lze chápat jako způsoby zprostředkování vztahu k neznámému či nepoznatelnému. Spiritualita tento vztah aktivně vyhledává, umění mu dává formu, a technologie (alespoň v perspektivě západního pobřeží USA, která nyní dominuje digitálním platformám) extrahuje z kulturního experimentování infrastrukturu. Příkladem tohoto procesu jsou sociální a konceptuální experimenty, jež daly vznik kontrakultuře 60. let a v důsledku i Silicon Valley.

Toto překládání neznámého do infrastruktury prostřednictvím kulturního experimentování není dobře artikulováno ani pochopeno. Důsledkem toho je nejednoznačnost, kteráumožnila směšování inženýrství a řešení problémů s revolučním úsilím o celospolečenské blaho. Jejich vzájemné ztotožnění bylo po desetiletí hybnou silou Silicon Valley,ačkoli bylo zjevné, že jeho produkty mají slepé skvrny. Technika teď přistupuje ke zdraví, vědomí a farmakologii jako k oblastem určeným k rozvoji sociální infrastruktury.Tato infrastruktura se může stát nástrojem dalekosáhlé kontroly i platformou pro rozmach lidského vědomí a potenciálu. Zda to bude probíhat cestou integrace nebo extrakcebude v posledku záviset na roli žen a původních obyvatelů*ek v tomto procesu, a rovněž na roli, jež v něm sehrají lidé a kosmologie zaměřené na naši planetu. To je nesmírnědůležité.

DI: Řekla bych, že technologie může být nástroj dalekosáhlé kontroly a zároveň platformou pro rozmach lidského vědomí. V některých ohledech už tomu tak je – velké technologické firmy už dnes fungují jako nástroje vykonávající kontrolu nad různými situacemi, jak jsme se dozvědeli díky skandálu Cambridge Analytica, ovšem technologická infrastruktura se už pro mnoho lidí skutečně stala nástrojem k rozšíření myšlení.

KAM: Ano, technologie je a bude obojím, a bude střídavě nabývat modů extrakce i integrace, tak jak to vidíme v případě internetu.

DI: Co je pro vás příkladem integrace nebo extrakce? Nejsem si totiž jistá, zda systém, který se snaží integrovat všechny epistemologie, tyto epistemologie zároveň také nepřeměňuje – pak by takový systém byl jenom ozvěnou koloniálních praktik.

KAM: Přesně tak. Schopnost konat je pořád soustředěna v platformě. Jedním ze způsobů, jak si představit antikoloniální alternativu, je apropriace technických platforem a programů lokální perspektivou, prostřednictvím lokální kosmologie (Yuk Hui by zde řekl lokálních „kosmotechnik“ ).

DI: Velmi mě zaujalo, jak strojové učení spojujete s tématy multidimenzionality a halucinací. Chcete tím naznačit, že strojové učení nabízí paradigma – či spíše schéma – které lidem umožní začlenit multidimenzionalitu do svého myšlení? A jestli jo, můžete tento vztah mezi strojovým učením a multidimenzionalitou rozvést? Považujete například neurální sítě za způsob překonávání binární podstaty výpočetních procesů? A co pro vás znamená multidimenzionalita jako způsob poznávání?

KAM: Druh geometrie, která leží v základě naší technologie, má vliv na naše podvědomí. Mantrou síťových evangelistů byl v 90. letech axiom Marshalla McLuhana: „Médium je poselství.“ Jejich sítě dnes hluboce ovlivňují naši ekonomiku, volební procedury, globální politická hnutí, estetické trendy atd. – jsou vše podmiňující metastrukturou. Vysokodimenzionální modely strojového učení mohou podobně proměnit i naši kulturu.

Vemte si díla vygenerovaná halucinujícími algoritmy strojového učení. Ty lze popsat jako pohyby v latentním či vysokodimenzionálním prostoru neurální sítě. Zatímco systém 3D prostoru má rozměry x, y a z, neurální sítě disponují mnohem vyššími stupni dimenzionality, které si lze také představit jako druh prostoru. Například systém pro rozpoznávání obrazů může mít statisíce „os“, a na každé z nich lze generovat adresu pro určitou lokaci.

Osobně se ve mě začal rozvíjet cit pro tyto vysokodimenzionální prostory při sledování vizuální tvorby umělé inteligence. Stejný cit ale můžou vyvolat i data, jenž nemají vizuální povahu. Při sledování vysokodimenzionálních modelů z výzkumných dat o genderové identifikaci a vyjadřování, které vytvořil můj šéf v Google AI Blaise Aguera y Arcas, se ve mně dostavilo uvědomění, že vysokodimenzionální systémy můžou lidem pomoci zakoušet sebe sama mimo restriktivní, binární kategorie identity. Tam, kde binární model umožňuje volit jenom mezi dvěma možnostmi, spektrální model otevírá možnost kontinua. Modely operující s mnoha aspekty genderových projevů (týkajících se oděvu, chování, jazyka, či fyziologie) dokonce lze modelovat ve vysokodimenzionálním prostoru, a pak zpětně vizualizovat ve dvou či třech rozměrech pomocí algoritmů jako UMAP nebo t-SNE. Takové postupy odhalují komplexní prostor možných genderových projevů, který neodpovídá ani prostému binárnímu dělení, a dokonce ani kontinuu.

Obecně lze multidimenzionální poznávání charakterizovat spíše jako myšlení pomocí vzorců než pomocí datových bodů. Tento způsob poznávání, založený na vzorcích (orig.: pattern-based cognition), lze rozšiřovat do mimořádně vysokých úrovní prostřednictvím organických metod typu společné meditace či poznávání s dalšími živoucími inteligencemi jako jsou rostliny, živočichové, ekosystémy, či planetární a hvězdné soustavy. V ideálním případě můžeme tento druh poznání zpětně vztáhnout na sebe prostřednictvím metod strojové inteligence.

DI: Můžete mi uvést příklad práce s halucinujícími algoritmy strojového učení, který vás nějak ovlivnil?

KAM: Dílo nimiia cétiÏ umělkyně Jenny Sutely halucinuje jazyk prostřednictvím pohybu hlenky (pozn.: eukaryotický organismus z říše Amoebozoa), který řídí umělou neuronovou síť. Tento typ interakce mezi lidskou a mimolidskou inteligencí, – navíc předvedený velmi avantgardním stylem, – poukazuje k nadcházejícímu celospolečenskému zlomu. Jestliže dokážeme o našem světě uvažovat jako o světě obydleném mnoha formami mimo-lidské inteligence, dokážeme se naučit vnímat živé bytosti kolem nás a vážit si jejich inteligence. Jestliže toho nejsme schopni, jsme příliš krátkozrací na to, abychom uměli zodpovědně vytvářet syntetickou mimo-lidskou inteligenci.

DI: Halucinace jsou očividně jedním z témat, k nimž se pravidelně vracíte, jednak v rámci Artists + Machine Intelligence, ale také v kontextu halucinogenních drog. Je pro vás halucinace prostředkem, jímž lze přeuspořádat normativní limity vnímání?

KAM: Současná neurověda ukazuje, že v průběhu psychedelické halucinace dochází k vyššímu stupni propojení mezi neurony, tedy k nárůstu dimenzionality. Tento typ halucinace je tudíž zjevným prostředkem pro přeuspořádání vnímání. V důsledku tohoto procesu se pak také zvyšuje neuroplasticita, což lze využít jako léčebnou metodu u obtíží jakými je například posttraumatická stresová porucha.

DI: Proč lidé s tak velkou oblibou vyhledávají halucinace? Zde mám na mysli například rostoucí užívání halucinogenních drog mezi lidmi pracujícími v technologických odvětvích – mikrodávkování LSD v práci, užívání ayahuascy pro dosažení větší „inovativnosti“ či „kreativity“ atd.

KAM: Vyšší neuroplasticita vede sama o sobě ke kreativitě či inovativnosti. No to, co zde vidíme, je také proměna halucinačních metod původních obyvatelů*ek na strategii kapitalismu platforem – což vede ke kanonizaci těchto metod v mainstreamové kultuře. Narážíme tak na samotné jádro extraktivního vztahu mezi Silicon Valley na straně jedné, a kontrakulturou a všemi „Druhými“ na straně druhé (tak, jak je tomu v případě vyznavačů*ek východní meditace nebo tradičních jihoamerických léčitelů*ek). Toto propojení kolonizovaných národů s centrem západní technické nadvlády může skončit buďto jako jenom další způsob extrakce, nebo se může proměnit v páku, která otevře srdce a mysli těch lidí, kteří vytvářejí globální infrastrukturu. Vše záleží natom, čí hlas bude upřednostněn.

DI: Slyšela jsem, jak jste jednou říkale, že máte „odpovědnost studovat magii, protože je to nejstarší a nejspolehlivější prostředek, jak zacházet s universem takovým, jaké skutečně je.“ Můžete nějak rozvést, proč považujete v rámci současných socio-politických struktur za důležitou oblast zkoumání právě magii?

KAM: Máme-li jako lidstvo přežít důsledky svých technologií, musíme radikálně proměnit svůj vztah k Zemi. Mezi ty části myšlenkového schématu, které brání rozvoji našeho vnímání, patří křesťanské a koloniální pojímání času a budoucnosti typické pro modernismus a racionalistický materialismus. Vysvobodit naši mysl z těchto omezujících fundamentálních postojů znamená učinit první krok k soucítění s těmi subjekty, jež jsou vyloučeny z globální mocenské struktury. Jedním z nejčastějších vedlejších účinků zájmu o magické systémy je nárůst porozumění ancestrálním vztahům a chápání sebe samých z perspektivy předků*yň. Právě naše odtrženost od vlastního původu a od chápání toho, že my sami jsme něčí předkové*yně, vede k nynějšímu způsob nakládání s přírodními zdroji.

DI: Jak studium magie ovlivňuje vaše vlastní uvažování o strojovém učení a umělé inteligenci obecně?

KAM: Symbolické a prediktivní systémy vnímám jako hmotné extenze mysli, jenž jsou nadány velkou mocí. Mé práci to dodává na závažnosti a odpovědnosti. Pokud budeme brát vážně myšlenku, že naše inteligence existuje ve vztahu k živé a okouzlující planetě, společnosti a kosmu, můžeme v práci s technologií spatřovat jistou posvátnou službu. Etika je na této cestě prvním a důležitým krokem, protože vede k hlubšímu zamyšlení nad povahou našeho technického dědictví. Ale můžeme jít ještě dále. Co když je technologie modlitba?

DI: Strojové učení chápu jako formu výpočetních procesů, která se vyvinula ze statistiky. Věnuje se však nejen identifikování toho, co je pravděpodobné, ale také určování toho, co je plausibilní. Zajímá mně proto, do jaké míry může vést všeobecné užívání strojového učení v procesech různorodých co do škály i rozsahu – od určování množství uprchlíků*ic pro jednotlivé evropské země, po navrhování textu pro e-mail, který vám právě píšu – ke konstrukci spíše toho, co je plausibilní než toho, co je pravděpodobné. Jak bychom mohli docílit, aby se strojové učení nestalo prostředkem k implementaci toho, co je plausibilní dle západního pojetí světa, se všemi svými taxonomiemi a stereotypy?

KAM: To je výborná otázka. Z kulturního hlediska můžeme začít tím, že rozšíříme oblast náhledů a epistemologií, které používáme při tréninku našich systémů strojového učení. S tím se pojí také rozšíření skupiny lidí, kteří tyto náhledy a epistemologie vytváří. Už jenom vykročit tímto směrem by znamenalo zásadní a nevyhnutnou změnu, jelikož by vyžadovala, abychom začali kriticky uvažovat o procesech vývoje strojového učení a o jeho mocenské dynamice.

Z technického hlediska se mi zdá, že to, co popisujete, je jistá uzavřenost tzv. „supervidovaných“ („supervised“) systémů strojového učení. Ty jsou trénovány na datových sadách, jež jsou dopředu „anotovány“ („labelled“); proto ví jenom to, co jim již dopředu řekneme, a my jim můžeme říct jenom to, co už dopředu umíme vyjádřit v psaném jazyce. Na druhé straně existují tzv. „zpětnovazebné“ („reinforcement“) systémy strojového učení, jež mají definovaný jenom svůj cíl, a jednotlivé funkce ve svém systému se učí derivovat sami za účelem dosažení tohoto cíle. Ty dle mého názoru umožňují přesnější modelování toho, co je inteligence jako taková. Vyjádřeno ezotericky, existuje vědomí v taxonomii? Nebo existuje ve světě? A pokud existuje ve světě, co potom potřebuje inteligence k tomu, aby do sebe vědomí absorbovala?

Danae Io je umělkyně a badatelka působící v Amsterdamu a Athénách. Vystudovala umění na Sandbergově Institutu v Amsterdamu, a absolvovala studium na Goldsmiths, University of London. Ve své výzkumné a umělecké praxi se věnuje tématům hlasu, jazyka, čitelnosti, technologii a nevypočitatelnosti.

Tento rozhovor byl překlad z anglického originálu publikovaného ve sborníku “Schémata nejistoty” (eds. Danae Io a Callum Copley, Amsterdam: PUB a Sandberg Instituut, 2019).