Fašizmus 2.0 – Meniaca sa tvár cenzúry sociálnych médií

Moderovanie obsahu založené na AI nenápadne formuje verejnú mienku a politickú angažovanosť.

Facebook zarobí od priemerného zákazníka v Spojenom kráľovstve len asi 34 libier ročne – o niečo menej ako 3 £ mesačne (a to ešte pred nákladmi), takže zjavne neexistuje žiadny priestor ani motivácia pre ľudskú úroveň zákazníckych služieb alebo pozornosti. Používateľ nie je zákazníkom; sú skôr produktom, ktorého údaje sa predávajú inzerentom.

Používatelia teda nemajú priamy zákaznícky vzťah s platformou. Sieť nie je priamo stimulovaná, aby sa „starala“ o používateľa skôr ako inzerent. A bez ohľadu na to, kde ležíte na spektre medzi „absolutizmom slobody prejavu“ a „súkromné ​​​​subjekty majú právo cenzurovať každého používateľa“, pri tak nízkych maržiach je nevyhnutné, aby sa na moderovanie príspevkov a jednanie so zákazníkom muselo použiť rozhranie strojového spracovania.

Faktom však je, že možnosti spracovania a správy zákazníkov Sociálne siete, ktoré sa teraz vyvíjajú, sa využívajú aj rôznymi inými spôsobmi, než je len moderovanie. A je tiež pravda, že toto automatizované spracovanie sa vykonáva vo veľkom meradle a teraz sa aplikuje na každý príspevok každého člena. 68 % voličov v USA je na Facebooku. V Spojenom kráľovstve je to 66 % a vo Francúzsku 73,2 %. Čísla sú podobné pre každý demokratický národ na Západe. Preto je životne dôležité, aby uplatňované pravidlá boli politicky neutrálne.

Sila, ktorá existuje v schopnosti strojového spracovania príspevkov každého používateľa, je oveľa hlbšia a hlbšia, než si možno mnohí uvedomujú. A hoci nemôže priamo diktovať, čo používatelia píšu do svojich správ, má schopnosť zásadne formovať, ktoré správy získajú trakciu.

Služby sociálnych médií sa de-facto stali mestskými námestiami a väčšina by súhlasila s tým, že ich vlastníci firiem by sa mali vyhýbať kladeniu rúk na misky váh a ovplyvňovaniu politiky.

Okrem toho, ako si je každý, kto používa Facebook, vedomý, najmä pokiaľ ide o politicky citlivé témy, systém kvalifikuje dosah jednotlivca; niekedy až do extrémnej miery. Alebo bude tento používateľ jednoducho zakázaný na určitý čas alebo úplne vylúčený zo siete.

Môžeme si teda položiť otázku, keďže korporácie sociálnych médií majú takú veľkú moc cenzúry, ako vieme, že sa nezapájajú do neetického politického zasahovania? Dá sa im zveriť zodpovednosť?

Vrátim sa k tejto otázke, ale je jasné, že dôvera v tieto korporácie je hlboko namieste.

Pandémia prebudila mnohých ľudí k úrovni kontroly, ktorú ukladajú tí, ktorí majú na starosti naše siete sociálnych médií. Oni píšu pravidlá na zvýšenie angažovanosti pre príspevky, ktoré uprednostňujú, čím sa zvyšuje hodnota počtu sledovateľov určitých jednotlivcov. Naopak, používatelia, ktorí idú proti srsti (alebo proti naratívu etablovania), vidia, že ich angažovanosť je jemne znížená alebo dokonca tankovaná, alebo im môže byť služba úplne zakázaná. Dôkazom toho je, že na Facebooku, Twitteri a YouTube boli ručičky veľmi pevne položené na misky váh, do istej miery v rozpore s princípmi demokracie.

Keď Elon Musk kúpil Twitter, pozval nezávislých novinárov Matta Taibbiho, Bariho Weissa a Michaela Schellenburgera do kancelárií Twitteru, aby preskúmali internú firemnú komunikáciu a zistili, do akej miery predchádzajúci majitelia cenzurovali používateľské tweety.

Súbory na Twitteri sú výsledkom a jasne dokazujú, že došlo k zasahovaniu veľkého rozsahu a že v mnohých prípadoch k nemu došlo aj z politických dôvodov. Vládne agentúry založené tímom Twitter Files boli pevne začlenené do spoločnosti monitorujúcej a cenzurujúcej občanov USA a občania iných krajín a vládne agentúry pravidelne (silne) požadovali cenzúru. Okrem toho však odhalili, že podobné úrovne rušenia sa vyskytujú aj v iných sieťach sociálnych médií, ako je Facebook.

Odkedy však Twitter podáva dôkazy o rušení, objavila sa nová a potenciálne ešte väčšia hrozba rušenia. Umelá inteligencia (AI).

Boli časy, keď sa zdalo, že algoritmy sú jedinou témou konverzácie, o ktorej môžu digitálni marketingoví pracovníci diskutovať. A keďže na úrovni jednotlivých postov nie je priestor pre ľudský zásah, boli použité algoritmy.

Na začiatok boli celkom jednoduché, ako rovnice, ktoré sme si precvičovali na hodinách matematiky, takže sa dali pomerne ľahko vypracovať. Vzostup Googlu bol poháňaný jednoduchým, ale skvelým nápadom: počítanie externých odkazov na webovú stránku ako proxy pre relevantnosť.

Algoritmy však odvtedy ustúpili zložitejším modelom strojového učenia, ktoré sa stále v jadre spoliehajú na algoritmy, ale teraz sa generujú automaticky, a preto je každý pokus o ich rozuzlenie taký obrovský, že nie je možné ich rozlúštiť. Takže naše myslenie o nich obmedzujeme na to, čo môžu dosiahnuť, aké významné veci dokážu rozlišovať, než na to, ako presne kód funguje.

A teraz sme vstúpili do tretej generácie technológie. Strojové učenie sa pretransformovalo do vývoja veľkých jazykových modelov (LLM) alebo, čo je populárnejšie, AI. A s touto najnovšou evolúciou našli korporativisti obrovské a desivé nové príležitosti na moc a kontrolu.

Vytvorenie LLM zahŕňa školenie. Školenie im dáva špecifické zručnosti a predsudky. Účelom školenia je vyplniť medzery tak, aby neboli žiadne zjavné diery v schopnosti LLM vysporiadať sa so stavebnými kameňmi ľudskej konceptualizácie a reči. A to je charakteristický znak LLM; že s nimi môžeme konverzovať a konverzácia plynie a gramatika a obsah sú normálne plynulé a úplné. V ideálnom prípade sa LLM správa ako rafinovaný anglický komorník – zdvorilý, informatívny a korektný bez toho, aby bol hrubý. Ale aj školenie udeľuje špecializácie LLM.

V kontexte sociálnych médií – a tu sa začínajú prejavovať desivé úrovne moci – sa LLM používajú na to, aby fungovali ako monitor sály a presadzovali „moderovanie obsahu“.

Meta’s Llama Guard je ukážkovým príkladom, vyškolený nielen na moderovanie, ale aj na podávanie správ o používateľoch. A táto funkcia podávania správ stelesňuje nielen možnosť podávať správy, ale aj prostredníctvom týchto údajov získavať príležitosti na ovplyvnenie a návrhy týkajúce sa užívateľa a tiež používateľa. A keď hovorím o návrhoch, LLM je schopná nielen očividného spôsobu, ktorý by používateľ mohol privítať a ktorý s radosťou prijíma, ale aj úskočného podvedomého spôsobu, ktorý môže byť manipulatívny a určený na kontrolu.

Zatiaľ nie sú zhromaždené dôkazy (o ktorých viem), že konkrétne LLM sa používajú týmto spôsobom; zatiaľ. Schopnosť však určite existuje a ak minulé správanie naznačuje budúci vývoj, je pravdepodobné, že sa tak využije.

Stačí si pozrieť epizódu z roku 2006 z televíznej show Derrena Browna „Derren Brown: The Heist“, kde presviedča skupinu cudzincov, že musia spáchať bankovú lúpež, aby pochopili, aké hlboké a silné môže byť použitie sugescie. Pre tých, ktorí nepoznajú Derrena Browna, je to javiskový hypnotizér a mentalista, ktorý má tendenciu zdôrazňovať silu sugescie nad hypnózou (väčšina jeho vystúpení neobsahuje žiadnu hypnózu). Len silou sugescie prinúti ľudí robiť tie najneobvyklejšie veci.

Návrhy „podobné Derrenovi-Brownovi“ fungujú, pretože ľudský mozog je v skutočnosti oveľa menej agilný a oveľa lineárnejší, ako si myslíme. Vedomie je vzácny zdroj a mnohé činnosti, ktoré často robíme, sú prenesené do zvyku, takže ich môžeme robiť bez rozmýšľania, a to preto, aby sme si zachovali vedomie tam, kde je najviac potrebné.

Vďaka zvyku meníme rýchlosť v aute s preradenou pákou bez toho, aby sme na to museli myslieť. A všetci sme zažili hru, v ktorej máte stanovený čas na premýšľanie o zozname vecí, ako sú krajiny, končiace písmenom A. Ak sa postavíte na miesto pred davom ľudí, môže byť niekedy ťažké spomenúť si na akúmkoľvek vôbec. Mozog často v skutočnosti nie je taký dobrý v kreatívnom myslení alebo v rýchlom vedomí na mieste.

Ak vám však niekto, s kým ste hovorili aj pár minút pred zápasom, povedal o svojej dovolenke v Keni, môžete si byť istí, že Keňa bude prvou odpoveďou, ktorá vám napadne. Viac ako to, že asociácia sa dostaví automaticky, či to chceme alebo nie!

Takto jednoducho funguje mozog. Ak sa informácie prenesú v správnom čase a správnym spôsobom, môže to byť takmer mŕtve potvrdenie, že daný návrh bude dodržaný. Derren Brown tomu rozumie a je majstrom v jeho využívaní.

Vyhľadávacie nástroje a platformy sociálnych médií disponujú nesmiernou silou pri navrhovaní správania prostredníctvom jemných návrhov. A skutočne, existujú dôkazy, že Facebook a Google tak urobili.

Profesor a výskumník Dr Robert Epstein – takpovediac – „prichytil Google“ pri manipulácii v oblasti návrhov vyhľadávania, ktoré sa zobrazuje pod textovým poľom, do ktorého používatelia zadávajú požiadavku na vyhľadávanie. Celá epizóda sa navyše prevalila, keď sa ukázalo, že Goolge klamal a uvedomoval si zároveň, že ich experimentovanie je neetické. Nebudeme popisovať všetky podrobnosti, ale pozrite si odkazy na toto – je to zaujímavý príbeh sám o sebe.

Používatelia sú pri používaní funkcie navrhovaných odkazov Google v obzvlášť dôverčivom a vnímavom duševnom stave a nevšimnú si, keď výsledky obsahujú akcie a naliehavé návrhy, ktoré ani zďaleka nie sú najlepšou odpoveďou na váš vyhľadávací dopyt – slúžia na manipuláciu s následnými akciami používateľa.

V súvislosti s príspevkami na sociálnych sieťach je použitie návrhov často oveľa rafinovanejšie, takže je ťažšie ich odhaliť a odolať. Analýza LLM v databáze používateľských príspevkov môže odhaliť súvisiace príspevky, ktoré poskytujú návrhy akcií. Tu môže sieť využiť skutočnosť, že má k dispozícii mnoho miliónov užívateľských správ, vrátane správ navrhujúcich preferované výsledky. Takéto správy je možné vybrať a prednostne propagovať v používateľských kanáloch.

Moderovanie obsahu je, samozrejme, nevyhnutné na zvládnutie neprijateľného jazyka a protispoločenského správania. Existuje však veľká šedá zóna, kde môžu byť nesúhlasné názory označené ako „nenávistné prejavy“, a keďže ide o šedá zóna, sociálna sieť má veľký priestor na zasahovanie do osobnej politiky a priestoru slobody prejavu.

Výraz „nenávistné prejavy“ bol veľmi účinným nástrojom na ospravedlnenie používania ban-hammer, ale hlavnou obavou teraz je, že s nasadením LLM prešiel hlavný historický míľnik sotva šepotom, čo znamená úplne novú úroveň takéto obmedzenia a hrozby pre slobodu komunikácie používateľov.

A tým míľnikom je, že teraz sa LLM používajú na riadenie ľudského správania a nie naopak. Prechod tohto míľnika sme si sotva všimli, pretože sme už predtým mali jednoduchšie algoritmy na túto úlohu a aj tak sa to robí ‚po tme‘.

Používatelia to neuvidia, kým sa ich to očividným spôsobom nedotkne. Ale aj tak existuje dostatok dôvodov na to, aby sme si v budúcnosti mysleli, že sa obzrieme späť a zistíme, že tento míľnik bol niečo ako kritický bod, po ktorom sa nejaká verzia budúcnosti ako „Sky-Net“ stala nevyhnutnou.

Len minulý týždeň premiér Spojeného kráľovstva Keir Starmer oznámil policajnú iniciatívu na používanie sociálnych médií na identifikáciu osôb zapojených do potláčania verejného neporiadku, čo ilustruje, ako je automatické podávanie správ LLM pripravené na použitie mimo sociálnych médií a v kontexte presadzovania práva.

Zatiaľ nie sú žiadne podrobnosti o tom, ako sa bude toto monitorovanie vykonávať, ale vďaka skúsenostiam s prezentáciou technických projektov si môžete byť istí, že vláda bude mať zoznam technologických firiem, ktoré navrhnú riešenia. A môžete si byť istí, že LLM sú súčasťou takmer všetkých z nich!

Zaviedli sme teda, že sociálne médiá sú uzavreté a chránené a umožnili sme založenie nových štruktúr mediálnej moci. Videli sme, že vlastníci sociálnych médií majú moc potlačiť alebo posilniť viralitu príspevkov, a teraz zaviedli policajnú kontrolu a nahlasovanie od LLM (AI), ktorá sa podľa všetkého rozšíri aj do reálnej polície. Prostredníctvom tzv.Twitter-Files sme videli, ako korporácie sociálnych médií počas pandémie porušili zákon a prejavili ochotu spolupracovať s vládnymi agentúrami na cenzúre a potláčaní znevýhodnených názorov.

Zdroj: Fascism 2.0 – The changing face of social media censorship – OffGuardian (off-guardian.org)