Konec světa
Google vymýšlí vypínač robotí apokalypsy

Bojíte se, že vás roboti připraví o práci? Oprávněně. Mohlo by to ale být ale ještě daleko horší. Co když se rozhodnou převzít vládu nad světem?

Počítače jsou den ode dne chytřejší. V některých činnostech, jako je třeba řízení auta nebo obchodování na burze, jsou už dnes lepší než lidé. Zatím jsou to ale vždy jen specifické, úzce vymezené úkoly. Část odborníků si myslí, že ještě během našeho století vznikne syntetická mysl, jež bude umět přemýšlet o čemkoliv. Přiblíží se tak nám, lidem. Jakmile to nastane, je pravděpodobné, že nás překoná. V tom případě by se hodilo, pokud bychom ji uměli vypnout. Jenže jak to udělat, když bude chytřejší než my? Co když nebude chtít?

Společnost Google stála odpověď na tuhle otázku pět set milionů dolarů. Položila ji totiž firmě DeepMind, kterou za uvedenou sumu před časem koupila. DeepMind se proslavila například programem, jenž letos v březnu jako první v historii porazil špičkového profesionálního hráče go, nejkomplexnější známé deskové hry na světě.

Tetrisový pat

Jestli (nebo spíš až) sestavíme počítač, který bude chytřejší než my, nebudeme moci předvídat, co udělá. V experimentech s umělou inteligencí dospívají vědci k neočekávaným výsledkům už dnes. Tak třeba před třemi lety zkoušel Tom Murphy z Carnegie-Mellonovy univerzity učit počítač hrát staré videohry. Super Mario nebo Pac-Man mu šly. U Tetrisu se ale zajímavým způsobem zadrhl. Místo aby se snažil vyplnit co nejvíc řádků a nahrát maximum bodů, nechal náhodně napadat kostičky skoro až nahoru.

Těsně předtím, než spadla poslední kostička, která by hru ukončila, stiskl počítač tlačítko pauza a nechal hru zamrznout. Chtěl se tak vyhnout prohře, která je v Tetrisu neodvratitelná. Kdyby to bylo na něm, nikdy by hru znovu nespustil.

Pokud bude umělá inteligence pronikat do našich životů, mohli bychom se od ní dočkat podobných neočekávaných kroků. Myslící stroje se budou ve velkém měřítku uplatňovat v medicíně.

Etická rozhodnutí

Co kdyby dospěli k logickým, ale z lidského pohledu těžko akceptovatelným rozhodnutím? Mohli by například usoudit, že léčit vzácné nemoci nemá smysl. Z určitého pohledu je to rozumný a morálně ospravedlnitelný krok. Vzácné nemoci, jako je amyotrofická laterální skleróza (ALS, měl ji například bývalý premiér ČR Stanislav Gross), má jen mizivé procento populace. V případě ALS asi 2,2 lidí ze sta tisíc.

Kdybychom peníze, které vynakládáme na jejich léčbu, investovali do boje se srdečními chorobami nebo malárií, zachráníme víc životů a zabráníme mnohonásobně většímu utrpení.

Co je pro člověka nemyslitelné, může se počítači zdát racionální. Pokud bude chytřejší než člověk, mohl by takové rozhodnutí uskutečnit člověku navzdory. Pro jeho dobro. Tedy za předpokladu, že člověk nebude mít vždy poslední slovo.

Sponkový maximalizátor

Web New Scientist zmiňuje myšlenkový experiment švédského filozofa Nicka Bostroma, označovaný jako sponkový maximalizátor. Je to hypotetický superinteligentní stroj, jehož cílem je vyrábět kancelářské sponky. Jediný smysl existence stroje je, aby jich na světě bylo co nejvíc.

I když to zní nevinně, podle Bostroma by se takový stroj mohl rozhodnout vyhladit lidstvo. Lidé by ho totiž mohli vypnout, takže by na světě bylo méně sponek.

Lidská těla navíc obsahují atomy, které se v principu dají přeměnit na sponky. Trochu to připomíná stroj, který uměl vyrábět cokoliv začínající písmenem N z povídky Stanislava Lema. Stroj začal vyrábět Nic a málem způsobil konec světa. Naštěstí pro lidstvo něco takového nehrozí. Vědci z firmy DeepMind totiž spočítali, že se umělá inteligence dá vypnout, i když je chytřejší než člověk.