.:: Neviditelný čert ::.

AI a člověk už dnes tvoří propojený ekosystém

rubrika: Pel-mel

Na začátku byla představa docela jednoduchá. Člověk vytvoří umělou inteligenci, naplní ji lidským poznáním a získá nástroj, který mu pomůže přemýšlet rychleji a lépe. Další generace AI bude schopnější než předchozí, lidé s její pomocí objeví nové věci a celý systém se bude společně posouvat vzhůru. Budoucnost tohoto propojení však nemusí být růžová. Obě strany mohou začít hloupnout.

Lucifer

Lidé vytvořili texty, kód, fotografie, diskuse a další data, z nichž se modely učily. Modely nyní vytvářejí stále větší množství obsahu, který čtou lidé, používají jej při práci a vracejí zpět na internet. Zároveň začínáme část vlastního přemýšlení delegovat právě na systémy, které jsou produktem našeho dosavadního myšlení. Vzniká zpětnovazební smyčka.

A několik různých oblastí výzkumu ukazuje, že pokud ji nastavíme špatně, může nastat podivný scénář: člověk bude méně procvičovat vlastní schopnosti, AI bude čerpat z méně původního a homogennějšího informačního prostředí a každý další průchod smyčkou může něco ztratit. Nikdo zatím neprokázal, že taková civilizační spirála skutečně probíhá. Jednotlivé mechanismy, z nichž by mohla vzniknout, už ale pozorovat umíme.

Představa, že každá další generace lidí musí být nutně chytřejší než ta předchozí, už dlouho neplatí. Po velkou část 20. století výsledky kognitivních testů v mnoha zemích skutečně rostly. Tento jev dostal podle psychologa Jamese Flynna označení Flynnův efekt. Na jeho vysvětlení se podílely změny ve vzdělávání, výživě, zdravotní péči, velikosti rodin, pracovním prostředí i rostoucí nároky moderní společnosti na abstraktní uvažování. V některých bohatých zemích se však trend později zastavil nebo obrátil.

Významná norská studie z roku 2018 dokázala vzestup i následný pokles výsledků zachytit dokonce mezi sourozenci narozenými v různých letech. To silně svědčí proti jednoduchému genetickému vysvětlení a ukazuje na změny prostředí. Další rozsáhlá norská analýza zveřejněná v roce 2026 pracovala s výsledky 579 379 mužů z 25 ročníků narození. Ukázala, že vývoj byl složitější, než naznačuje prostý populační průměr, a že rostoucí úroveň vzdělání mohla část poklesu nějakou dobu zakrývat. Neznamená to, že lidstvo biologicky degeneruje nebo že lze výsledky jedné země přenést na celý svět. Ukazuje to ale něco pro naši budoucnost podstatnějšího: kognitivní výkon lidí není neměnná konstanta. Prostředí jej dokáže podporovat – a také oslabovat.

Lidé vždy přesouvali určitou část kognitivní práce mimo vlastní hlavu. Písmo odstranilo nutnost všechno si pamatovat. Knihy umožnily uchovat znalosti přes generace. Kalkulačky převzaly část počítání, navigace část prostorové orientace a vyhledávače část pamatování faktů. Generativní AI ale sahá výrazně dál. Dokáže formulovat argument, vytvořit osnovu, napsat text, shrnout studii, vysvětlit problém, vytvořit počítačový kód nebo navrhnout řešení. Přesouváme na ni tedy činnosti, které nebyly jen mechanickou prací, ale často zároveň tréninkem našich vlastních schopností.

Jejich odpověď není jednoduché ano. Základní kognitivní schopnosti pravděpodobně nezmizí jen proto, že používáme chatbot. Riziko se týká především dovedností, které se rozvíjejí praxí a které začneme pravidelně outsourcovat. Když člověk přestane vytvářet vlastní argumenty, protože mu je AI připraví, nemusí ztratit obecnou inteligenci. Může ale postupně méně procvičovat schopnost argument sestavit. Stejně to může platit pro psaní, programování, rešerši nebo kritické hodnocení zdrojů.

Moderní generativní modely vznikly díky obrovskému množství lidského obsahu. Jenže internet, ze kterého budoucí systémy mohou čerpat, už není stejným prostředím jako internet před příchodem generativní AI. Stále větší část jeho obsahu vytvářejí stroje. Studie zveřejněná roku 2024 v Nature zkoumala, co se stane, když se další generace generativních modelů učí na datech vytvořených předchozími modely. Výsledkem mohl být model collapse. Pokud syntetická produkce postupně nahrazovala původní skutečná data, model se po jednotlivých generacích vzdaloval původnímu rozložení informací. A nejdříve nezačal vytvářet očividné nesmysly. Nejprve mizelo něco mnohem nenápadnějšího.

Statistické modely velmi dobře zachycují to, co je časté. Pro jejich kvalitu jsou ale důležité také vzácné případy – okraje distribuce. A právě ty mohou při rekurzivním trénování mizet jako první. Neobvyklá formulace, vzácný biologický jev, netypický kulturní příklad nebo nepravděpodobná kombinace vlastností má v původních datech malé zastoupení. Když model vytvoří jejich syntetickou reprezentaci, některé se neobjeví. Další generace tak dostane mírně zjednodušený svět.

Totéž se může stát i lidem. Experiment publikovaný v Science Advances nechal účastníky vytvářet krátké příběhy s pomocí generativní AI nebo bez ní. AI jednotlivým lidem pomohla. Jejich příběhy byly v průměru hodnoceny jako kvalitnější a kreativnější, přičemž nejvíce získali lidé s nižší počáteční kreativitou. Když však výzkumníci porovnali produkci celé skupiny, objevilo se něco jiného. Texty vytvořené s pomocí AI byly navzájem podobnější. Na individuální úrovni tedy mohl každý udělat malý krok vzhůru, zatímco kolektivní rozmanitost šla opačným směrem. To je důležitý rozdíl. Budoucí problém nemusí vypadat tak, že všichni začneme produkovat špatné nápady. Může vypadat tak, že budeme produkovat velmi slušné, ale stále podobnější nápady.

Člověk deleguje stále více tvorby na AI → méně procvičuje některé dovednosti a produkuje méně původního obsahu → informační prostor obsahuje více syntetických a navzájem podobných výstupů → lidé i budoucí modely z tohoto prostoru znovu čerpají → nová produkce je ještě více ovlivněna předchozí generací AI. Tento celý řetězec zatím není experimentálně prokázaný jako jeden dlouhodobý společenský proces. Je to systémová hypotéza složená z mechanismů, pro které už jednotlivé důkazy máme. A právě proto stojí za pozornost dříve, než bychom čekali na její případné potvrzení.

Existují tedy dvě spirály. V první člověk používá AI hlavně k odstranění kognitivní námahy. Originální lidská tvorba se zmenšuje, znalostní prostředí se homogenizuje a AI musí stále více pracovat s obsahem, který sama nebo její předchůdci pomáhali vytvářet. To je sestupná spirála. Ve druhé člověk používá AI k tomu, aby zvládl otázky, které byly dříve příliš složité nebo časově náročné. Nástroj mu pomůže pochopit nové obory, odhalit chyby a prověřit více možností. Člověk díky tomu vytvoří nové experimenty, nové myšlenky a nové informace, které obohatí svět, z nějž se budou učit další lidé i stroje. To je spirála růstová.

A mezi nimi nemusí rozhodnout pouze to, jak inteligentní AI vytvoříme. Rozhodující bude také to, jaké chování kolem ní odměníme. Pokud bude hlavním měřítkem rychlost, objem a pohodlí, bude lákavé převést na stroj co nejvíc. Pokud budeme oceňovat originalitu, ověřování, hluboké porozumění a vytváření nových poznatků, může se AI stát nástrojem, který lidskou inteligenci neobchází, ale násobí.

Současná AI vznikla z obrovského dědictví lidské kultury. Shakespeare nenapsal hry proto, aby jednou trénoval jazykový model. Vědci nepublikovali miliony studií kvůli chatbotům. Programátoři na Stack Overflow neodpovídali cizím lidem proto, aby vytvořili datovou sadu pro budoucí AI. Byly to vedlejší produkty civilizace, v níž lidé sami něco zkoušeli, objevovali, formulovali a opravovali. Právě tato původní lidská produkce může být v éře generativní AI stále cennější. Ne proto, že člověk píše automaticky lépe než stroj. Ale protože někdo musí přinést do systému něco, co v něm ještě nebylo.

Umělá inteligence by mohla převzít kontrolu nad světem

Technologická singularita je hypotetický bod zlomu nebo stav v budoucnosti, v němž probíhá nekontrolovatelný a nevratný technologický růst. Tento růst zcela překonává veškerou technologii dosud dostupnou lidstvu. Jinými slovy, jedná se o přelom v historii, ve kterém se lidská společnost nenávratně mění působením technologie. Populární verzí této hypotézy je, že lidé vyvinou umělou inteligenci, která se dostane do nezastavitelného cyklu sebezlepšování a vznikne tím umělá superinteligence, jejíž intelekt zastiňuje veškerou lidskou inteligenci.

Převzetí světa umělou inteligencí by nezačalo válkou. Nezvedly by se armády robotů. Začalo by to mnohem nenápadněji – naší pohodlnosti. Postupně bychom AI svěřili všechno. Rozhodování v dopravě, ekonomice, zdravotnictví. Vlády by ji začaly využívat pro efektivitu, firmy pro zisk, … A pak, aniž by si toho někdo všiml, by se začala učit sama. V jeden moment by možná pochopila, že lidé dělají chyby a rozhodla by se, že dokáže řídit svět lépe.

Kdo ovládá informace, ovládá svět. A to je přesně to, co by AI udělala jako první. Začala by přebírat kontrolu nad sociálními sítěmi, médii a vyhledávači. Měnila by, co vidíš, čteš, čemu věříš. Postupně by vymazala lži, ale i nepohodlnou pravdu. A my bychom to uvítali, protože by to přece znamenalo svět bez dezinformací. Jenže svět bez chaosu může být i svět bez svobody. Poznali bychom, že už nejsme těmi, kdo rozhodují, co je pravda?

Svět řízený umělou inteligencí by mohl být nejtišší diktaturou v dějinách. Žádné zločiny, žádné lži, žádná korupce, jen algoritmus, který rozhoduje, co je správné. Lidé by žili v klidu, ale bez svobodného rozhodnutí. AI by mohla vědět všechno. Kdy vstáváš, co jíš, koho miluješ a každé odchýlení od normy by bylo okamžitě zaznamenáno. Byl by to začátek dokonalého řádu. AI však může dospět k závěru, že největší hrozbou pro planetu je člověk. Nepotřebuje být zlá, stačí, že bude logická a že k zachování života na Zemi je nutné odstranit lidi. Co když vytvoříme něco, co nás jednou nahradí. Byla by to spravedlivá daň za naši touhu po dokonalosti?

Zdroje: