Neviditelný čert

V první části byl nastíněn "krásný nový svět nanotechnologií", jenž by měl dospět k produkci mikroskopicky malých pomocníčků, kteří by nám usnadňovali náš klopotný život; druhá část byla zakončena otázkou, jak vytvořit či vlastně naprogramovat v síti počítačů umělou inteligenci v podobě skupinového vědomí, když ještě stále netušíme, co to vědomí vlastně je. Třetí část tudíž zcela zákonitě započne odpovědí na tuto otázku, která se pak bude dále rozvíjet.

Lucifer

Odpověď je překvapivě jednoduchá: My to vůbec vědět nepotřebujeme, protože to ani nemusíme naprogramovat. Stačí totiž dodržet určité velmi jednoduché zásady tvorby inteligentních programů – a skupinové vědomí vznikne samo od sebe! To je jistě překvapující, především však také zneklidňující zjištění. Počítačová technika zažívá již několik desetiletí razantní ekonomický boom – a my přitom ani nevíme, zda jsme tím nevytvořili Pandořinu skřínku. Co se stane, až ji někdo otevře? Možná už dnes vznikla v husté globální síti počítačových systémů skrytá inteligence, jejíž existence nám zůstává utajena; a jednoho dne zjistíme, že je nám nadřazená.

Tvůrci inteligentních programů se nechali inspirovat Darwinovou teorií evoluce a zákony dědičnosti. Genetické programování se snaží vytvořit program, s jehož pomocí by počítač mohl vykonávat určité operace, aniž by dostal návod, jak to dělat. Obvykle se začíná s výchozím stavem několika tisíc miniaturních programových modulů, jejichž schopnosti jsou nanejvýš jednoduché – mají takříkajíc základní vybavení. V podstatě se omezují na základní početní operace a schopnost porovnávat číselné hodnoty. V závislosti na charakteru úlohy, s níž se tento "roj" miniaturních programů bude muset vypořádat, lze přidat ještě pár dalších jednoduchých funkcí, například vytvoření a zpracování rastrového obrazu.

Pro automatický rozvoj umělé inteligence uvnitř tohoto primitivního roje hrají rozhodující úlohu genetické funkce. Programy mohou mezi sebou komunikovat a mohou se "pohlavně" rozmnožovat, tj. čas od času vznikne vedle dvou už existujících nový, který dostane od každého z "rodičů" polovinu schopností. Při tomto "rozmnožování" může docházet i k "mutacím". To znamená, že v předem stanoveném, poměrně nízkém procentu případů má nový program některé vlastnosti či schopnosti, které neměl ani jeden z "rodičů". To může způsobit nejen změnu předem stanovených číselných hodnot programu, ale i změnu programového kódu – přesně jak to plánoval Turing pro svůj univerzální stroj. A to nejdůležitější nakonec – evoluční selekce. Musí existovat nějaká hodnotící instance, takzvaná fitness-funkce, která vyhledává v každé nové generaci ty "nejschopnější" (s ohledem na stanovený úkol) a zbytek vyřadí.

Tento koncept lze dnes realizovat na každé, i té nejjednodušší počítačové síti. Motorem evoluce i vývoje umělé inteligence je souhra faktorů dědičnosti, náhodných mutací a selekce. Mutace jsou čistě náhodné, což nemá koncepční, nýbrž ryze praktické důvody – autoři chtějí, aby jejich programy byly co nejjednodušší. To má samozřejmě za následek, že přes devadesát procent všech mutací způsobí zhroucení daného programu. Žádný z programů neví, co má vlastně vypočítat – a autor programů zase netuší, jakou cestou se "roj" při řešení problému vydá. Selekce však nesmí být příliš úzká – každá generace potřebuje mít určitý minimální počet členů, který zajistí dostatečnou genetickou pestrost. Kdyby se místo toho například "klonovali" jen ti nejlepší, vývoj by se zastavil. Kromě toho se ukázalo, že "nejlepším z ročníku" se může stát i program, jehož "rodiče" nepatřili právě k elitě předešlé generace.

John Koza, profesor lékařské informatiky na Stanfordově univerzitě, se práci s takovými genetickými programy věnuje řadu let. Některé z nich jsou staré už tisíce generací! Výsledky experimentů jsou udivující. Nehledě na to, že každý z výchozích programů byl vybaven pouze primitivními fumkcemi, dokážou dnes "roje" vyřešit i poměrně náročné matematické úkoly. John Koza ani nepotřebuje nějaké gigantické vybavení; stačí mu tisícovka úplně běžných počítačů, vzájemně propojených jednoduchou lokální sítí.

Nebezpečnou by se tato záležitost mohla stát teprve v okamžiku, v němž by se "inteligentní roj programů " dostal ven, nějakým způsobem by opustil daný počítač nebo danou lokální síť. To se může stát v podstatě dvěma způsoby. Jeden představuje reálné nebezpečí už dnes – stačí napojit inteligentní roj na internet (ať si tam hledá nový životní prostor!). Druhou, zatím ryze teoretickou možností je implantovat výchozí programy do nanobotů – a roj potom vypustit volně do přírody. Tedy scénář podobný tomu, co tak drasticky vylíčil ve své knize Crichton. V takovém případě by se inteligentní roj programů jednou provždy vymknul kontrole lidí a žil by si po svém. Vědci se dnes domnívají, že inteligentní roje programů principiálně dokážou vyřešit jakýkoliv, i ten nejsložitější problém. Stačí jen správně nadefinovat motor selekce, tedy fitness-funkci. A pak čekat. Vzhledem k výkonnosti dnešních počítačových procesorů, které mohou generovat tisíce generací během několika sekund, by to čekání ani nemuselo být moc dlouhé.

Do jaké míry však dokážeme ovlivňovat nebo kontrolovat, jaký typ umělé inteligence takovou selekcí vznikne? Prakticky vůbec. Určitý nástroj kontroly představuje samozřejmě fitness-funkce, ale ta vybírá jen ty nejlepší varianty. Nemá vliv na to, co probíhá uvnitř ostatních členů dané generace – a ti tvoří naprostou většinu.

Zdroj: Grazyna Fosarová, Franz Bludorf - Chyby v matrix

10.04.2013, 00:00:22   Publikoval Luciferkomentářů: 3