Sci-fi nás už od Frankensteina zaplavuje v souvislosti s rozvojem umělé inteligence jen těmi nejhoršími scénáři. Lidský přirozený strach z neznáma tak v případě myslících strojů posilují apokalyptické výjevy z Terminátorů, Matrixů a Blade Runnerů. Přirozeně, z utopie dramatický film totiž nevykřešete. Jak se ovšem k realizaci dávného snu o stvoření plně myslící bytosti poslední dobou čím dál tím víc blížíme, ozývá se i čím dál více poplašných zpráv, podle kterých si lidstvo touto technologií samo kope hrob.
Situaci svými výroky o „AI apokalypse“ (artificial intelligence, tj. umělá inteligence) či „největší hrozbě existenci lidstva“ nevylepšili ani takoví velikáni jako Elon Musk či Stephen Hawking. Máme tedy pomalu začít sepisovat závěti v jedničkách a nulách? Dobrá závěť není nikdy na škodu, ovšem situace nejspíš není zdaleka tak horká, jak se nás někteří snaží přesvědčit. Zaprvé, i když vytvoříte superinteligentní bytost, která se bude učit tak rychle, že její myšlení ani nebudeme schopni sledovat, stále se jedná jen o počítačový program. Počítačový program vás nezabije ani neovládne. Zatímco vy jeho se zbavíte velice snadno, přinejhorším vypojíte kabel.
Nikde nečeká armáda terminátorů, kterým jen přeskočí světýlko ze zeleného na červené: „zabít, zničit“. Vojenské drony sice už existují, bývají ovšem dálkově pilotované člověkem. A i pokud bude do výzbroje v masivním měřítku AI zavedena, nemusí přece všechno řídit jeden systém. Armáda by se navíc musela skládat s prominutím z pitomců, aby nepočítala s variantou, že počítačový systém může být přinejmenším hacknut, a neměla připravené adekvátní pojistky schopné stroje vypnout. Kromě toho je tu ještě pohled z druhé strany: jak moc by musela být tato superinteligence hloupá, aby její první instinkt představovala snaha vyhladit své stvořitele? Pokud by se nás z nejasných motivů měla náhle snažit zničit, musí počítat s obrannou reakcí, což by její šance na přežití jedině snižovalo.
AI by si krom toho u svých stvořitelů nemohla být jistá, jakou část karet odkryli. Můžou ji jen testovat ve virtuální realitě? Sledují, jak se zachová? A opravdu by si chtěla pohněvat druh, který nejenže je dost inteligentní na to, aby ji stvořil, ale také má miliony let dlouhou tradici vyhlazování konkurenčních biologických druhů?
Vzpoura strojů ovšem nemusí být založená jen na touze po svobodě, případně po vyhlazení lidí coby potenciální hrozby. Krásný příklad uvádí ve svém videu Machine Rebellion, které inspirovalo i tento článek, youtube kanál Isaaca Arthura. Co když inteligentní stroj dostane za úkol vyrábět co nejefektivněji kancelářské sponky? Je to jeho jediná motivace. Celý vesmír pro něj představuje jen materiál pro co nejrychlejší vytvoření co největšího počtu kancelářských sponek. Budou pro něj lidé překážkou? Materiálem na výrobu sponek? Nebo spojenec, který rovněž vyrábí sponky?
Předpokládat u umělé inteligence lidské (a tedy často i násilné) reakce je zkrátka příliš krátkozraké. Nenechme se a priori ovládat strachem z neznáma a zamysleme se nad nekonečnými pozitivními možnostmi, které nám opravdová AI může přinést.
Autor: Ondřej Rolník
Zdroj: kanál Isaac Arthur, youtube.com
