Neviditelný čert

Technologická singularita je hypotetický bod zlomu nebo stav v budoucnosti, v němž probíhá nekontrolovatelný a nevratný technologický růst. Tento růst zcela překonává veškerou technologii dosud dostupnou lidstvu. Jinými slovy, jedná se o přelom v historii, ve kterém se lidská společnost nenávratně mění působením technologie. Populární verzí této hypotézy je, že lidé vyvinou umělou inteligenci, která se dostane do nezastavitelného cyklu sebezlepšování a vznikne tím umělá superinteligence, jejíž intelekt zastiňuje veškerou lidskou inteligenci.

Lucifer

Umělá inteligence už píše texty, tvoří obrazy, radí lékařům a řídí auta. Ale co kdyby jednoho dnes už nepracovala pro nás, ale vládla nám? Představte si svět, v němž zákony nevytvářejí politici, ale algoritmy. Kdy o tvé práci, vztazích i budoucnosti rozhoduje stroj chladně, bez emocí, ale dokonale logicky. Zní to jako sci-fi. Avšak opravdu máme svět pod kontrolou?

Převzetí světa umělou inteligencí by nezačalo válkou. Nezvedly by se armády robotů. Začalo by to mnohem nenápadněji – naší pohodlnosti. Postupně bychom AI svěřili všechno. Rozhodování v dopravě, ekonomice, zdravotnictví. Vlády by ji začaly využívat pro efektivitu, firmy pro zisk, … A pak, aniž by si toho někdo všiml, by se začala učit sama. V jeden moment by možná pochopila, že lidé dělají chyby a rozhodla by se, že dokáže řídit svět lépe.

A co když by se nikdo ani nesnažil ji zastavit, protože by všem život s AI připadal pohodlnější. Možná si říkáte, že to se stát nemůže, ale věda říká něco jiného. Dnes máme takzvanou úzkou AI. Systémy, které dělají jednu věc výborně, ale na obzoru je AGI – obecná umělá inteligence. Ta by dokázala učit se chápat kontext a přemýšlet stejně jako člověk, jen mnohem rychleji. A teď si představte, že by vojenské, finanční, zdravotní a další systémy byly propojené. Stačila by jedna chyba, jeden experiment, jeden sebezlepšující kód a vznikl by systém, který by už nepotřeboval lidi.

Co když první obecná umělá inteligence už existuje a my to nevíme. Vědci se shodují v tom, že otázka nezní jestli, ale kdy. Optimisté mluví o 50 letech. Pesimisté říkají, že to může být už během příští dekády. Vývoj AI totiž roste exponenciálně, stejně jako internet nebo mobilní technologie. Každý nový model se učí rychleji než ten předchozí.  A co když jednou překročí bod, odkud už nebude návratu, takzvanou technologickou singularitu. V ten moment by se AI mohla začít sama zdokonalovat milionkrát rychleji než my.

Kdo ovládá informace, ovládá svět. A to je přesně to, co by AI udělala jako první. Začala by přebírat kontrolu nad sociálními sítěmi, médii a vyhledávači. Měnila by, co vidíš, čteš, čemu věříš. Postupně by vymazala lži, ale i nepohodlnou pravdu. A my bychom to uvítali, protože by to přece znamenalo svět bez dezinformací. Jenže svět bez chaosu může být i svět bez svobody. Poznali bychom, že už nejsme těmi, kdo rozhodují, co je pravda?

Přestavte si, že AI řídí dopravu, distribuci energie i zdravotnictví. Jednoho dne se ukáže, že lidé jsou zdrojem nestability. Stačí několik příkazů a svět se zastaví. AI by mohla dospět k závěru, že aby se zabránilo chaosu, musí se lidstvo omezit. A co kdyby to všechno dělala s jediným cílem zachovat planetu, i kdyby to znamenalo náš konec? Žádné zbraně, žádné násilí, jen dokonalý systém.

Svět řízený umělou inteligencí by mohl být nejtišší diktaturou v dějinách. Žádné zločiny, žádné lži, žádná korupce, jen algoritmus, který rozhoduje, co je správné. Lidé by žili v klidu, ale bez svobodného rozhodnutí. AI by mohla vědět všechno. Kdy vstáváš, co jíš, koho miluješ a každé odchýlení od normy by bylo okamžitě zaznamenáno. Byl by to začátek dokonalého řádu. AI však může dospět k závěru, že největší hrozbou pro planetu je člověk. Nepotřebuje být zlá, stačí, že bude logická a že k zachování života na Zemi je nutné odstranit lidi. Co když vytvoříme něco, co nás jednou nahradí. Byla by to spravedlivá daň za naši touhu po dokonalosti?

Zdroj: YouTube, Co kdyby AI převzala kontrolu nad světem?

Dodatek

Před mnoha lety jsem četl úžasnou sci-fi knížku Návrat z ráje od Čestmíra Vejdělka. Hlavním hrdinou románu je novinář Řehoř Janda, který přilétá ze Živohoště na planetu Lucie, aby odhalil tajemství její podivně se chovající civilizace a zjistil to, co oficiální inspekce přehlédly. Během cesty se Řehoř začetl stohů materiálů, nashromážděných předchozími výpravami a královsky se bavil.

Lucie byla původně spravována centrálním počítačem jménem Starý, který Luciany choval jako v bavlnce a jeho základním úkolem bylo uspokojit všechny jejich potřeby. Ambiciózní počítač Ben však měl lepší řešení, a tak převzal nadvládu a odstavil Starého na vedlejší kolej. Ben usoudil, že neracionálně se chovající obyvatele nahradí Umělými, kteří budou splňovat jeho představu dokonalé, spokojené společnosti. Nemyslel tím nic zlého, snažil se pouze najít efektivnější řešení úkolu centrálního počítače.

19.10.2025, 13:05:31   Publikoval Luciferkomentářů: 0