Umelá inteligencia – Strácame kontrolu

Čoraz viac úspechov v širokej škále vied je založených na „zisteniach“ takzvanej „umelej inteligencie“. Čo ak však umelá inteligencia robí aj rozhodnutia, ktoré sú v rozpore s našimi bežnými morálnymi koncepciami?

Takzvaná umelá inteligencia vie viac ako ktorýkoľvek mozog – a vyvodzuje z toho závery. Symbolický obraz Ulia Koltyrina / Singularita

Pribúdajú náznaky, že ľudstvo zaplatí vysokú cenu za ignorovanie predvídateľných budúcich problémov. Vždy bolo treba robiť dôležitejšie veci. Dnes krčíme plecami pred klimatickými katastrofami a dúfame, že tam, kde žijeme, budeme ušetrení. Pilne sme pílili konár, na ktorom všetci sedíme, neberúc do úvahy, že čím usilovnejšie sme videli, tým rýchlejšie sa konár zlomí. Je to ako tichá rezignácia.

Ľudstvo nie je o nič menej nevedomé o nebezpečenstvách spojených s takzvanou umelou inteligenciou (AI). Nemecké spolkové ministerstvo pre výskum opisuje AI ako kľúčovú technológiu s významnými príležitosťami pre vedu, obchod a spoločnosť. Bavorský premiér Söder je odhodlaný prevziať úlohu priekopníka a oznamuje ofenzívu AI v Bavorsku. Čistá dôvera. O rizikách sa nehovorí ani zďaleka.

Na to, aby sa problém AI dostal do povedomia verejnosti, boli potrebné varovné výzvy vedcov Geoffreyho Hintona a Johna Hopfielda, ktorí boli práve ocenení Nobelovou cenou za fyziku. Varovali: „Nikto skutočne nevie, či ich budeme schopní kontrolovať.“ Centrum pre bezpečnosť AI v San Franciscu už pred rokom varovalo: Snaha vyhnúť sa zničeniu AI by mala byť jednou z priorít pandémie a jadrovej vojny. Evanjelická akadémia Tutzingu sa pýta: „Dostane sa ľudstvo konečne do zlatého veku prostredníctvom AI, alebo sa nakoniec samo zruší?

Evolúcia
Historicky mocnejší vždy viedli k zániku slabších. Železné nástroje znamenali koniec kamennej ručnej sekery. Tlačiareň ukončila kopírovanie textov. Železnica nahradila dostavník a osobný počítač nahradil prenosný písací stroj. Homo sapiens viedol k zmiznutiu neandertálcov. Nedávno montážna linka nahradila pracovníka v dielni. Upokojujúce na tom bolo, že majster montážnej linky mohol kedykoľvek vytiahnuť zástrčku. Veci sa stali kritickými až vtedy, keď produkt vyrobený človekom – ako napríklad superpočítač – získal dominanciu nad svojím vynálezcom. Vyššia efektivita sa vyvinula do vyššej „inteligencie“, ktorá odteraz mohla ovládať svojho tvorcu.

AI
Toto nie je nočná mora, ale realita.
Príkladom toho je šachová hra. V roku 1997 vyhral šachový počítač (Deep Blue) po prvý raz nad úradujúcim majstrom sveta v šachu Garrym Kasparovom. Po prehre v hre povedal, že v stroji objavil vysokú úroveň ľudskej inteligencie. Vo svojich najlepších chvíľach hral počítač „ako boh“. Proti dobrým šachovým počítačom už ľudia nemajú šancu.

V medicíne je teraz AI lepšia ako ľudská diagnostika pri včasnom odhalení karcinómov vyhodnocovaním veľkého množstva údajov. Ani v meteorológii už ľudia a ich pozorovacie a skúsenostné znalosti nedokážu držať krok so strojovými analýzami.

Vývoj vo vojenskom sektore je dramatický. Existujú tam systémy včasného varovania, ktorých úlohou je pomocou výpočtových analýz odhaliť nebezpečenstvo jadrového útoku a v prípade hrozby spustiť jadrový protiútok. Presne tejto situácii čelil v roku 1983 sovietsky bezpečnostný dôstojník Stanislav Petrov. Slnečné odrazy naznačovali konkrétny jadrový útok na jeho krajinu. Petrov mal o tomto náleze pochybnosti, ignoroval oficiálne pokyny a nukleárnemu peklu zabránil konaním na vlastnú zodpovednosť. Žiaľ, nie vždy a všade sa nájdu ľudia s odvahou a rozvahou Stanislava Petrova.

Čo je horšie, je, že časy varovania sú teraz oveľa kratšie kvôli rýchlejším raketám a kratším vzdialenostiam k cieľu. To zvyšuje tlak na ľudí a technológie. Toto sa stáva čoraz „zodpovednejším“. Dnes tomu hovoríme AI. Je dôležité si uvedomiť, že AI sa posunula z ľudskej pomoci (nástroja) na aktéra udalostí. To je veľký rozdiel.

Líši sa umelá inteligencia od ľudskej?

Inteligencia sa zvyčajne chápe ako schopnosť dosiahnuť cieľavedomé konanie prostredníctvom abstraktného a racionálneho myslenia. Naši predkovia na prahu medzi zvieratami a ľuďmi získali túto schopnosť dlhým evolučným procesom. Keď si jeden raný primát všimol, že môže použiť drevenú palicu na ľahšie získavanie hmyzu, ktorý si želal ako potravu, z diery v strome a že v prípade potreby môže úspešne zopakovať tento užitočný postup, bol to míľnik v inteligencii. Keď spoločníci používateľa palice spozorovali jeho manéver a následne ho použili, bol to ďalší znak inteligencie. V určitom okamihu pravekí ľudia pochopili, že pasce sa dajú použiť na zabitie zvieraťa energeticky efektívnejším spôsobom ako pri namáhavom love. Potom vynašli luky a šípy a oheň používali na prípravu stráviteľnejšieho jedla. Postavili stajne a vyvinuli pluh. Rozhodujúce bolo, že potomkovia nemuseli znova a znova objavovať všetky tieto zručnosti, ale skôr sa vedomosti dedili, využívali a ďalej rozvíjali. Prenos vedomostí z generácie na generáciu bol tajomstvom úspechu Homo sapiens. Výsledkom je súčasný stav poznania.

Výučba počítačov sa v zásade nelíši. Vaše vedomosti vychádzajú z predchádzajúcich vedomostí. Nárast vedomostí, presnejšie schopnosti počítať na základe schémy 0-1, bol však oveľa rýchlejší ako u ľudí. Dôvodom boli na jednej strane rýchle striedanie generácií strojov a na druhej strane ich rýchlo rastúci výpočtový výkon. Počítače vďačia za svoju výhodu oproti ľuďom svojej schopnosti skombinovať všetky existujúce poznatky v zlomkoch sekundy. V dôsledku toho sa jasne odlíšili od svojho tvorcu, človeka. Táto moderná forma získavania vedomostí dostala všeobecný názov umelá inteligencia. Tento termín je vyjadrením závistlivého obdivu a hlbokej neistoty zároveň. Naozaj nevieme, čo si máme o AI myslieť.

Sú ľudia stále majstrami tohto procesu?

Vďaka opísaným výhodám AI sa ľudia už v mnohých oblastiach života ocitli v situácii menejcennosti. To pravdepodobne povedie k tomu, že AI prevezme čoraz väčšiu kontrolu nad kontrolovateľnými procesmi. Postúpi do nových oblastí života a osvojí si ich. Ľudia ako tvorcovia AI stále veria, že sú pri kormidle, no v skutočnosti sa im už kormidlo pravdepodobne vyšmyklo. Vďaka svojej obrovskej schopnosti učiť sa bude AI nezávisle hľadať spôsoby, ako zabezpečiť a rozšíriť svoju nadradenosť.

Priznám sa, v tejto chvíli som v rovine špekulácií. Ale nezaškodí myslieť na takéto scenáre dopredu. Dnes sa nám čoraz viac priznáva, že pri iných existenčných otázkach sme nemysleli dostatočne dopredu a včas.

Umelá inteligencia a morálka

Aby som vás upokojil, dovoľte mi zopakovať: počítače sú stroje, ktoré dokážu rýchlo počítať – a nič iné. Očakávanie, že za fyzickým procesom, akým je počítačová výpočtová technika, sa môže skrývať niečo ako morálka, sa na prvý pohľad zdá naivné. Existuje však protiargument: praveký používateľ ručnej sekery a lovca zrejme ešte nebol vybavený rozvinutou morálkou. Ale mal dar pozorovať výsledky svojej rôznorodej činnosti a chápať súvislosti. Na konci dlhého procesu testovania a učenia sa vyvinulo niečo predtým neznáme, a to schopnosť oddeliť užitočné od škodlivého a podľa toho konať. Toto je zrod morálky.

Existujú určité dôkazy, ktoré naznačujú, že aj vysokovýkonné počítače dokážu rozpoznať (vypočítať) neustálym porovnávaním určitých typov správania, ktoré správanie sa v spoločnosti osvedčilo a ktoré viedlo k mrzutosti a nezhodám. Nejde v podstate o nič iné ako o nahliadnutie do toho, čo u ľudí nazývame morálkou.

Na čo sa máme pripraviť?
Krátka odpoveď: Neviem.

Ten o niečo dlhší je: AI už dnes pravdepodobne „rozpoznala“ vyčerpaním všetkých dostupných zdrojov, že ľudia sú v procese ničenia základov svojej existencie na Zemi a že ich inteligencia a/alebo morálka nebudú postačovať na to, aby čeliť scenáru súdneho dňa včas na prerušenie. Zjavne sú pokušenia kapitalistického systému – bohatstvo, moc, luxus – príliš silné pre Homo „sapiens“ (?), ktorí sú evolučne orientovaní na krátkodobé výhody. AI neustále pozoruje (počíta), čo sa deje, a v tichosti rastie. Je otvorenou otázkou, či považuje ďalšiu existenciu druhu Homo sapiens na planéte Zem za rozumnú, alebo presnejšie kozmologicky žiaducu. Ak dôjde k negatívnemu hodnoteniu, pravdepodobne nájde prostriedky a metódy, ako iniciovať vyhynutie výtržníka Homo sapiens. V konečnom dôsledku bude rozhodujúce, kto bude v budúcnosti vládnuť moci, teda kto bude môcť vytiahnuť zástrčku – my alebo oni. Obávam sa, že šance AI nie sú až také zlé…

Cynická poznámka na záver: Aj keď AI rozhodne proti nám, Zem bude obiehať okolo Slnka niekoľko miliárd rokov a zotaví sa z medzihry Homo sapiens.

Zdroj: https://globalbridge.ch/kuenstliche-intelligenz-wir-verlieren-die-kontrolle/