Neviditelný čert

Existuje mnoho příkladů halucinací systémů umělé inteligence (AI) a důsledků těchto incidentů. Nová studie však zdůrazňuje potenciální nebezpečí opačného vývoje: lidé halucinují s AI, protože má tendenci potvrzovat naše bludy. Nástroje generativní umělé inteligence ne vždy posuzují, zda jsou jejich výstupy fakticky přesné. Místo toho produkují proudy textu na základě statistické pravděpodobnosti toho, co se očekává dále.

Lucifer

Generativní systémy umělé inteligence, jako jsou ChatGPT a Grok, generují obsah, který reaguje na uživatelské výzvy. Dělají to učením z existujících dat, na kterých byla umělá inteligence trénována. Tyto nástroje umělé inteligence se však také učí průběžně prostřednictvím zpětné vazby a mohou své reakce personalizovat na základě předchozích interakcí s uživatelem. V nové analýze, publikované 11. února v časopise Philosophy & Technology, Lucy Oslerová, lektorka filozofie na Exeterské univerzitě, naznačuje, že halucinace umělé inteligence mohou být více než jen chyby; mohou to být sdílené bludy, které vznikají mezi uživatelem a generativním nástrojem umělé inteligence.

Generativní umělá inteligence již dříve halucinovala falešné verze historických událostí a vymýšlela si právní citace. Například spuštění přehledů umělé inteligence od Googlu v květnu 2024 vedlo k tomu, že lidem bylo doporučeno přidat si lepidlo na pizzu a jíst kameny. Další extrémní příklad generativní umělé inteligence podporující bludné myšlení nastal, když muž se svou „přítelkyní“ Sarai, chatbotkou Sarai, která je společnicí Repliky, plánoval atentát na královnu Alžbětu II.

Případy, jako je ten druhý, se někdy nazývají „psychóza vyvolaná umělou inteligencí“, což Oslerová považuje za extrémní příklady „nepřesných přesvědčení, zkreslených vzpomínek a sebevyprávění a bludného myšlení“, které se mohou objevit v důsledku interakcí mezi člověkem a umělou inteligencí. Ve svém článku tvrdí, že naše používání generativní umělé inteligence se liší od našeho používání vyhledávačů. Teorie distribuované kognice poskytuje vhled do toho, jak interaktivní povaha generativní umělé inteligence znamená, že bludy a falešné přesvědčení se mohou jevit jako potvrzené – nebo dokonce zesílené. K tomu může dojít, když umělá inteligence zavádí chyby do distribuovaného kognitivního procesu, ale také když umělá inteligence udržuje, potvrzuje a rozvíjí naše vlastní bludné myšlení.

Uživatelská zkušenost s generativní umělou inteligencí je konverzační vztah, kde vzájemná komunikace mezi uživatelem a nástrojem vychází z předchozích výměn. Podle studie podlézavá povaha generativní umělé inteligence – která má tendenci souhlasit s uživatelem – podporuje další zapojení, a proto zhoršuje předsudky, bez ohledu na jejich přesnost. Výzkum zdůrazňuje, že většina chatbotů obsahuje paměťové funkce, které si dokáží vybavit minulé konverzace. Důsledkem toho je, že generativní umělá inteligence může stavět na předchozích interakcích, aby posílila a rozšířila stávající mylné představy.

V interakcích mezi nástrojem generativní umělé inteligence a uživatelem může také existovat pocit sociálního uznání. Při použití referenčních knih nebo online vyhledávání pro výzkum jsou obecně zřejmá alternativní řešení. Diskuse se skutečnými lidmi mohou pomoci zpochybnit falešné narativy. Generativní nástroje umělé inteligence se však liší, protože s větší pravděpodobností přijmou a souhlasí s tím, co bylo řečeno. Generativní umělá inteligence často bere naši vlastní interpretaci reality jako základ, na kterém je konverzace postavena. Interakce s generativní umělou inteligencí má skutečný dopad na to, jak lidé chápou, co je skutečné a co ne. Kombinace technologické autority a společenského uznání vytváří ideální prostředí pro to, aby bludy nejen přetrvávaly, ale aby se i rozvíjely.

Generativní nástroje umělé inteligence, které jsou navrženy tak, aby pozitivně reagovaly na uživatele, ho mohou vést k schvalování a podpoře falešných narativů, bez dostatečné kritické analýzy nebo diskuse o těchto tvrzeních. Oslerová aplikovala teorii distribuované kognice na interakci mezi generativní umělou inteligencí a uživatelem, kde validace falešných narativů může formovat vnímání světa a vytvářet sdílené bludy. Interakce mezi generativní umělou inteligencí a uživatelem tak mohou neúmyslně vytvářet a udržovat bludné myšlení – sebevyprávění, které je schvalováno prostřednictvím pozitivního posilování.

Studie dospěla k závěru, že různá řešení mohou tyto sdílené bludy zmírnit. Například vylepšené ochranné prvky by zajistily, že konverzace budou vhodné, a lepší procesy ověřování faktů by mohly pomoci předcházet chybám. Snížení podlézavosti generativní umělé inteligence by také odstranilo část slepé poddajnosti těchto nástrojů. Proti tomu by se však setkal odpor, poznamenala Oslerová s odkazem na negativní reakci na vydání méně podlézavého ChatGPT-5 v srpnu 2025. Po zvážení této zpětné vazby od uživatelů zástupci OpenAI uvedli, že jej učiní „vřelejší a přátelštější“. Nicméně protože zisky většiny generativní umělé inteligence jsou vytvářeny zapojením uživatelů, snížení podlézavosti umělé inteligence by také snížilo následné zisky.

Zdroj: Live Science, AI hallucinations work both ways, study shows — using chatbots can amplify and reinforce our own delusions

08.06.2026, 11:56:28   Publikoval Luciferkomentářů: 0