Sociální dilema KDE SE STALA CHYBA?

„Pokud za produkt neplatíte, produktem jste vy,“ říká do kamery Tristan Harris, bývalý vývojář nadnárodní internetové společnosti Google v celovečerním dokumentárním filmu o odvrácené tváři tak zvaných sociálních sítí – Sociální dilema.

Sociální dilema

Kde se stala chyba?

Tomáš Kábrt

Jedinečný autorský snímek sedmatřicetiletého newyorského režiséra a scénáristy Jeffa Orlowského, dostupný nyní i na české mutaci internetové televize Netflix, umožňuje divákům pohlédnout do očí a částečně snad i do srdcí tvůrců masově rozšířených webových a mobilních aplikací jako Facebook, Twitter, Google, YouTube, Instagram, What’s App, Snapchat, Tik Tok, Uber nebo Pinterest. Bývalým klíčovým manažerům těchto technologických obrů podle jejich rozpačitých filmových výpovědí připadá, že síťové algoritmy se vymkly lidské kontrole. „Byli jsme naivní, tyto věci si začaly žít vlastním životem. A to, jak se dnes používají, se liší od toho, co jsme původně čekali, shrnuje Tim Kendall, bývalý ředitel pro monetizaci ve Facebooku a ex-prezident Pinterestu.

Sociální sítě podle svých tvůrců vytvořily i řadu velmi prospěšných věcí – sjednotily rodiny, našly dárce orgánů, jejich prostřednictvím se ve světě uskutečnila řada smysluplných systémových změn. Stejně jsou ale také masivně zneužívány – k zasévání pomluv a nenávisti, rasismu, šikany, násilí, k stále vyhrocenější polarizaci lidské společnosti, a to v místním i globálním měřítku. Podle Tristana Harrise, který po odchodu z Google založil s přáteli „technologicky oponentní“ Centrum pro humánní technologie, mají sociální sítě nabízející „intenzivní kontakt s přáteli“ ve skutečnosti tři společné základní cíle: 1. vysokou interakci – abychom nepřestávali „scrollovat“ a „klikat“, 2. růst – abychom se na síť pořád vraceli a zvali přátele a oni zase svoje přátele, 3. reklamu – aby síť během toho všeho vydělala co nejvíce na reklamě a prodeji zboží a služeb. „Společnosti by proto dnes mělo jít především o to, aby tyto technologie byly méně návykové,“ zdůrazňuje Harris. Podle něho se totiž nakonec sociální sítě nejvíce soustřeďují na nevybíravě tvrdou soutěž o naši pozornost. Za každou cenu.

Počítačový vědec Jaron Lanier, zakladatel VPL Research, vůdčí společnosti ve výzkumu aplikací virtuální reality, k tomu ve filmu uvádí: „Jde o postupné, mírné, nepatrné změny našeho chování a vnímání. To je skutečný produkt sociálních sítí: změnit, co děláte, jak myslíte, kým jste, měnit takhle celý svět – manipulovat ho, a to na hlubší úrovni vědomí, směrem k psychické závislosti.“ To vše se, podle něho, děje stále více mimo lidskou kontrolu, nemilosrdnými procesy neustále se zdokonalující umělé inteligence stále výkonnějších a stále propojenějších strojů.

Závislosti na sociálních sítích podléhají zejména děti a mladí lidé. Psychologicky propracované technologie je izolují od skutečného světa a života do virtuálních tzv. bublin stejně smýšlejících známých, účelově filtrovaných informací, podnětů a sebestředně pokřiveného obrazu skutečnosti. Tomu pak oběť podřizuje celý svůj život. „Často například chtějí plastiku obličeje, aby se podobali svým upraveným selfie na síti,“ uvádí další protagonista dokumentu, sociální psycholog Jonathan Haidt. Podle něho dochází žel v souvislosti se vznikem a rozvojem sociálních sítí k prokazatelnému nárůstu četnosti případů deprese a úzkosti u teenagerů, sebepoškozování i sebevražd. „Jde o první generaci, která vyrůstá se sociálními sítěmi od základní školy, její nutkavé sepětí s těmito aplikacemi bývá označováno jako ‚digitální dudlík‘.“

On-line se stalo hlavně mezi mladými lidmi primárním spojením. V případě sociálních sítí je v něm vždy přítomná manipulace skryté třetí strany (technologických firem), která spojení zprostředkovává a promyšleně aktivně ovlivňuje. „Vznikla celá globální generace, jejíž komunikace a kultura je založena na manipulaci. Podvod a úskok se stal středem všeho, co děláme,“ vysvětluje ve filmu Jaron Lanier. „Namísto hardwaru a softwaru se v posledních deseti letech stali hlavním zbožím počítačových vývojových obrů v Sillicon Valley samotní uživatelé jejich aplikací,“ přiznává ve snímku Roger McNamee, investor společnosti Facebook. Zadavatelům reklamy sítě ve velkém prodávají komplexní, neustále zpřesňované soubory osobních dat, preferencí a předpokládaných rozhodnutí svých uživatelů. „Algoritmy z tak zvaných velkých dat vytvářejí individuální modely, které přesně předpovídají, co uděláte, co budete chtít vidět, slyšet, koupit, a samy vás k tomu sofistikovaně usměrňují a přesvědčují,“ potvrzují ve filmu bývalí operační manažeři sítí Twitter a Facebook Jeff Seibert a Sandy Parakilas.

V dokumentu Sociální dilema se objeví i Sean Parker, bývalý prezident společnosti Facebook. „Jde o zneužívání lidského sklonu k ovlivnitelnosti a závislosti, zranitelnosti lidské psychiky, její využívání proti lidem. Uvědomovali jsme si to, a přesto jsme to udělali,“ konstatuje Parker. Emeritní profesorka Harvard Business School Shoshana Zuboff nazvala tuto situaci zpeněžování osobních dat termínem „kapitalismus dohledu“.

I sami tvůrci těchto sofistikovaných algoritmů ve snímku přiznávají, že jim paradoxně sami podléhají a musejí se utkávat se závislostí. Oč bezbrannější jsou proti jejich působení děti a mladí lidé – podléhají jim velmi rychle a zcela. „Přitom jde jen o pocity, které rychle pomíjejí; za nimi je jen prázdnota působící při každém pokusu o návrat do reálného života ještě šedivěji a prázdněji než předtím. To vede k nutkavé potřebě aktivního zapojení znovu a znovu. Strojové algoritmy přitom u těchto uživatelů postupně mění jejich vnímání druhých i sebe samých ke svému nelidskému, mechanickému obrazu,“ vysvětluje divákům doktorka Anna Lembke, ředitelka katedry medicíny závislostí na lékařské fakultě Stanford University. Podle Randyho Fernanda, bývalého produktového manažera firmy Nvidia, „nejnebezpečnější na sociálních sítích je to, že je řídí technologie, které se neustále exponenciálně zlepšují a zdokonalují. Jen výkonnost počítačů se od jejich vzniku zvýšila bilionkrát, zatímco lidský mozek zůstává stále stejný, nemůže prostě s technologiemi držet krok a zvládnout je. Už neřídíme my je, ale více ony ovládají nás.“ Tristan Harris z Centra pro humánní technologie to formuluje takto: „Technologie nepřekonaly naši inteligenci, ale ovládly naše slabosti. Následky jsou závislost, polarizace, radikalizace, permanentní rozhořčení, marnivost – společností skrz naskrz prorůstající manipulativní ‚individuální realita‘ každému na míru, pro každého jiná, mimo objektivní skutečnost, tedy lež.“

Polarizaci všech proti všem strojové algoritmy podporují, protože konflikty jednoduše zvyšují sledovanost. Podobně podporují falešné zprávy, protože na ně reagují uživatelé šestkrát více než na pravdivé. To se ukazuje jako zvláště nebezpečné v krizích, kdy je třeba se ve společnosti sjednotit tečných problémů, jako jsou například virová pandemie nebo rozhodování o budoucnosti a vládě své země ve volbách.

Týká se to i krize duchovní. Jak podle Bible konstatoval již před dvěma tisíciletími Ježíš Kristus, bez poznání pravdy není možná svoboda. Obavy protagonistů Orlowského filmu z dalšího vývoje jsou velké – umělé vystupňování polarizace až do občanských válek, zničení civilizace umíněnou nevědomostí, znehodnocení světových demokracií v bizarní autokracie, zničení globální ekonomiky. Velké technologické firmy situaci podle nich změnit nemohou, musí svými algoritmy vydělávat na svůj nákladný provoz a finančně uspokojovat své investory. Možnou brzdou jsou regulace zvažované vládami rozvinutých zemí – zdanění digitální ekonomiky, daň ze shromažďování a zpracování dat, další zpřísňování ochrany osobního elektronického soukromí, podstatně důslednější preventivní ochrana dětí a mládeže před digitálními závislostmi, ochrana svobody a demokracie v sociálních sítích.

Individuálně odborníci v tomto a podobných snímcích doporučují úplně vyloučit sociální sítě ze života dětí do 16 let, hovořit s mladými lidmi o čase stráveném u zařízení, společně dohodnout rozumný časový limit a dodržovat ho, vypnout na svých profilech a zařízeních všechna upozornění, po použití se ze sítě odhlásit, od určitého času večer vypnout i všechna zařízení a žít společně rodinným životem, nenásledovat algoritmy doporučená videa a odkazy, vybírat si zásadně sám, důkladně ověřovat zdroje, vše, co působí na emoce, brát jako manipulaci, sledovat lidi a názory, se kterými nesouhlasíte, věcně je konfrontovat a nechat se konfrontovat. A samozřejmě věnovat čas budování vlastního kritického myšlení, hodnotným knihám, setkáním, vlastním úvahám o skutečně důležitých otázkách života, nebát se ticha, rozjímání, modlitby. Když se cítíme osamělí, vyhledejme osobně své partnery, příbuzné, přátele, povídejme si a podnikněme něco spolu.

Celovečerní dokumentární film Sociální dilema představil široké veřejnosti problémy, které se dosud řešily spíše v neveřejných akademických debatách. Snímek v této své snaze poněkud zjednodušuje člověka na pasivního jedince, loutku závislou na systému pocitových dopaminových odměn. Zbývá proto ptát se i na prvotní důvody našeho nutkavého chování na sociálních sítích – proč jim tak snadno podléháme, proč někdy sdílíme tak příšerné věci, proč se neustále napadáme. Není už v nás samotných a ve společnosti něco špatně?

Tomáš Kábrt je publicista, od 80. let působil v ilegálním tzv. samizdatu, po demokratickém převratu v novinách Deník a MF DNES, v současné době publikuje opět nezávisle a zabývá se mediálním poradenstvím a zprostředkováním. Studoval také sociální práci a teologii.