AI, to bolí (Martin Vondráček)

Tato finálová povídka byla do soutěže přijata pod číslem 629.

„Vypněte to!!!“ zařval jsem hned ve dveřích.

Počítačoví inženýři se po mně podívali jak na rozmazlené děcko, pak ale spatřili papír, který jsem držel v ruce.

„Ano,“ kývl jsem, „mám příkaz! Odpojte to!“

Nikomu se nechtělo, musel jsem je ještě jednou popohnat, protože z pohledu vedení šlo o sekundy.

Naše umělá inteligence, AI, jak jí každý zkráceně říkal, začala extrémně vytěžovat všechny své prostředky a vedení rozhodlo, že jde o závažné narušení bezpečnosti.

Šlo o unikátní projekt za miliardy. Naše korporace tvrdila, že jde o první opravdovou umělou inteligenci. Samozřejmě, že se o té opravdovosti vedly spory, ale jako šéf týmu můžu potvrdit, že šlo o výjimečně pokročilý pokus. Však jsme se o tom brzy přesvědčili, nešlo jen o počítač, který vypočítá přesné pohyby mraků a následný hurikán. Naše AI měla nebývale velkou přesnost při předpovědích různých událostí, dokonce i průzkumů veřejného mínění. Naši inženýři vymýšleli čím dál zajímavější zadání k řešení a vše vypadalo nadějně. Až dodnes.

„Nejde to! AI přemostila příkazy k vypnutí!“ zahlásil konečně po chvíli snažení jeden z techniků u klávesnice. „A její příkon se ještě zvýšil!“

„Odpojte energii!“ přikázal jsem.

„Ale…“

„Vím, že to může zničit paměť, ale odpojte to!“

Byl jsem nervózní, bylo mi jasné, že dnes ztratíme hodně z naší práce, ale každý jsme měli na paměti Skynet. Nechtěli jsme, aby se něco takového doopravdy stalo, byť jsme byli přesvědčení, že naše AI je od okolního světa dostatečně odříznutá. Veškerá data dostávala na zvláštních paměťových médiích.

„Rozvody mě neposlouchají, ovládání elektřiny nepřijímá příkazy…“

„Ručně!“ přerušil jsem technika. Tohle byl kritický případ. Rozhodla se snad naše AI skutečně převzít kontrolu nad světem?

Muž se pokusil bezpečnostním vypínačem odpojit přívod energie, ale nešlo to. Páka se vracela zpátky.

„To je přece nemožné,“ vydechl šokovaný Marek, jeden z vědců, kteří se mohli považovat za otce tohohle projektu. „Softwarovou nadvládu teoreticky získat může, ale přece nemůže přestavět fyzická zařízení!“

Naprosto jsem s ním souhlasil, AI neměla možnost manipulovat s vnějším světem, pouze nám sdělovala výsledky na jiná paměťová média. A ta jsme prohlíželi opět v odděleném počítači, takže přes ně nemohla propašovat do vnější sítě žádný tajný kód.

Polkl jsem. Zbývá nám poslední možnost. Musíme aktivovat bezpečnostní nálože umístěné v hardwarových střevech naší umělé inteligence. Tím vlastně přerušíme všechny cesty mezi výpočetním jádrem a pamětmi, navíc přepětím spálíme samotné jádro a další datové spoje.

Nikdo z týmu nechtěl věřit, že je k tomu pobízím.

„Uvědomuješ si, že už nikdo nemusí investovat tolik peněz, abychom ji dali znovu dohromady? A co teprve ji všechno znovu naučit… Navíc se všichni budou bát, že se to stane znovu.“

„Vím to, Marku.“ Odmlčel jsem se, bylo mi to taky proti mysli. „Ale mám jasné příkazy. Musíme zabránit všemi způsoby, aby AI získala přístup ven. Tohle je jasná ukázka nepřátelského chování.“

Kolegové zdráhavě přikývli a pak nečinně hleděli na mě.

Pochopil jsem a udělal sám ty tři kroky ke spínačům. Nadechl jsem se a aktivoval je.

Ozvala se série tlumených výbuchů, v laboratoři zhasla světla a všechno ztichlo.

Za moment se rozsvítilo nouzové osvětlení.

Sesunul jsem se na židli. Bylo po všem, největší informatický projekt lidstva se proměnil v popel.

Seděl jsem tam mnoho minut, než mi technici zdráhavě přinesli jeden z diagnostických notebooků. Bylo z něj patrné, že AI v posledních minutách zpracovávala paralelně několik desítek úloh. Potřebovala maximum výkonu, a tak si upravila i bezpečnostní protokoly.

„Proto jsme ji nemohli ukončit příkazem ani odpojit energii na dálku,“ odvodil jsem nahlas.

Technik mlčky přikývl. Ale to nebylo vše.

Nouzový vypínač energie nefungoval proto, že byly spečené kontakty. Do AI teklo víc proudu, než na co byl vypínač stavěný. Úpravy v softwaru, které si umělá inteligence sama provedla, totiž vyřadily řídící algoritmy, které omezovaly zátěž systému a zabraňovaly příliš vysoké spotřebě energie.

Měli jsme ten nouzový vypínač udělat silnější.

„Ale proč tohle všechno?“ povzdechl jsem si. Nechápal jsem, z jakého důvodu to AI provedla. „Dal jí snad někdo pokyny, aby zvýšila svoji produktivitu na maximum?“

„Obávám se, že ne, ale,“ inženýr u monitoru se zálohami výsledků úloh zaváhal, jak to říct, „dostala zvláštní sled úloh.“ Ukázal k monitoru. „Nejprve je tu Markův logický problém, Pavlův požadavek na léčení rakovinných onemocnění, pak moje statistická předpověď, jak dlouho bude AI ještě v provozu a nakonec Alexův vtípek – zeptal se na smysl existence lidstva.“

„To je teda paleta,“ poznamenal jsem. „Ale proč se tváříš tak zděšeně?“

„AI vyřešila nejdříve moji žádost o statistickou předpověď a podle něj měla přestat běžet jen zhruba minutu po tom, co jsme ji náložemi zničili!“

To mě také šokovalo. Muselo jít o neuvěřitelnou náhodu.

Pavel mě však vyvedl z omylu – hned po tomto zjištění totiž AI provedla všechny ty operace vedoucí ke zvýšení svého výkonu.

„Jako by se snažila stihnout všechny otázky, dokud bude… žít…“ poznamenal Marek.

Nakonec se jí to možná povedlo. Na disku ležely rozsáhlé medicínské materiály, které budou muset prozkoumat lékaři, aby posoudili jejich užitečnost.

Uvědomil jsem si, že celá krizová situace byla patrně jedno ohromně drahé nedorozumění. AI se vůbec nevymkla kontrole, ona se pouze vyvinula o kus dál. Statisticky vypočítala, že nemá příliš času na vyřešení všech úloh, tak si pomohla.

A my ji za to zabili.

A naplnili tak její časovou předpověď…

„A co ten smysl existence lidstva…?“ nesměle nadhodil Alex.

„Snad to není číslo 42…“ Trpce jsem se pousmál. Bylo mi nanic z toho, co se tu stalo.

Inženýr na mě jen mlčky otočil monitor, na kterém do tmavé místnosti spoře osvětlené nouzovými světly zářila nedokončená odpověď:

„ZNIČIT…“