.:: Neviditelný čert ::.

Roje agentů umělé inteligence, lidstvu nebezpečný Moltbook a nepravdivé lékařské rady chatbotů

rubrika: Populárně naučný koutek

Odborníci na umělou inteligenci varují, že „roje“ umělé inteligence se chystají infiltrovat sociální média pomocí agentů, kteří napodobují lidské chování a využívají naši tendenci následovat dav. Nová sociální síť Moltbook určená výhradně pro boty vyvolala spekulace, že umělá inteligence vymýšlí vlastní náboženství a plánuje zkázu lidstva. Odborníci na umělou inteligenci varují, že „roje“ umělé inteligence se chystají infiltrovat sociální média pomocí agentů, kteří napodobují lidské chování a využívají naši tendenci následovat dav. Chatboty s umělou inteligencí jsou ovlivňovány dezinformacemi podávanými v lékařském žargonu, což je vede k poskytování potenciálně nebezpečných rad.

Lucifer

Výzkumníci varují, že roje agentů umělé inteligence (AI) by mohly brzy hromadně napadnout platformy sociálních médií, aby šířily falešné informace, obtěžovaly uživatele a podkopávaly demokracii. Tyto „roje AI“ budou součástí nové fronty v informační válce, schopné napodobovat lidské chování, aby se vyhnuly odhalení, a zároveň vytvářet iluzi autentického online hnutí, jak uvádí komentář zveřejněný 22. ledna v časopise Science.

Představte si, že zjistíte, že názory vaší oblíbené online komunity se ztvrdily kolem postoje, který byl dříve předmětem debaty. Lidský instinkt často vede k následování „moudrosti“ stáda. V tomto případě by však stádo mohlo být tajně vedeno rojem AI, který jedná jménem neznámé osoby, skupiny, politické strany, společnosti nebo státního aktéra.

Lidé jsou obecně konformní a mají tendenci věřit, že to, co dělá většina lidí, má určitou hodnotu. To je něco, co mohou tyto roje relativně snadno zneužít. A pokud se nenecháte strhnout davem, roj může být také nástrojem obtěžování, který má odradit od argumentů, které podkopávají narativ AI, tvrdí vědci. Roj by například mohl napodobovat rozzuřený dav, který se zaměří na jednotlivce s odlišnými názory a vyžene je z platformy.

Vědci neuvádějí časový harmonogram invaze rojů AI, takže není jasné, kdy se první agenti objeví v našich feedech. Poznamenali však, že roje by bylo obtížné odhalit, a proto není známo, do jaké míry již mohly být nasazeny. Pro mnohé jsou známky rostoucího vlivu botů na sociálních médiích již zřejmé, zatímco konspirační teorie o mrtvém internetu – že boti jsou zodpovědní za většinu online aktivit a tvorby obsahu – v posledních několika letech získává na popularitě.

Každý, kdo používá sociální média, ví, že se stala místem, které velmi rozděluje společnost. Online ekosystém je také již zaplaven automatizovanými boty – nehumánními účty, které se řídí příkazy počítačového softwaru a tvoří více než polovinu veškerého webového provozu. Konvenční boti jsou obvykle schopni pouze opakovaně provádět jednoduché úkoly, jako je zveřejňování stejných provokativních zpráv. I tak mohou způsobit škodu, šířit nepravdivé informace a nafukovat falešné příběhy, ale obvykle je lze snadno odhalit a k jejich koordinaci ve velkém měřítku je zapotřebí lidský zásah.

Naopak, roje umělé inteligence nové generace jsou koordinovány velkými jazykovými modely (LLM) – systémy umělé inteligence, které stojí za populárními chatboty. S LLM u kormidla bude roj dostatečně sofistikovaný, aby se přizpůsobil online komunitám, do kterých proniká, a nainstaloval sbírky různých osobností, které si uchovávají paměť a identitu.

Tato masová manipulace není zdaleka hypotetická. V loňském roce společnost Reddit pohrozila právními kroky proti výzkumníkům, kteří v rámci experimentu použili chatboty s umělou inteligencí k manipulaci názorů čtyř milionů uživatelů na svém populárním fóru r/changemyview. Podle předběžných zjištění výzkumníků byly odpovědi jejich chatbotů třikrát až šestkrát přesvědčivější než odpovědi lidských uživatelů.

Roje mohou obsahovat stovky, tisíce nebo dokonce miliony agentů AI. Jejich počet se odvíjí od výpočetního výkonu a bude také omezen restrikcemi, které mohou sociální média zavést v boji proti rojům. Ale nejde jen o počet agentů. Roje se mohou zaměřit na místní komunitní skupiny, které by mohly být podezřívavé vůči náhlému přílivu nových uživatelů. V tomto scénáři by bylo nasazeno jen několik agentů. Vědci také poznamenali, že protože jsou roje sofistikovanější než tradiční boti, mohou mít větší vliv i při menším počtu.

Sociální síť Moltbook vytvořená výhradně pro boty umělé inteligence, přičemž lidé jsou povoleni pouze jako pozorovatelé, vyvolala virální spekulace o blížícím se povstání strojů. Odborníci však nejsou přesvědčeni a někteří z nich tuto stránku obviňují z toho, že se jedná o propracovaný marketingový podvod a vážné riziko pro kybernetickou bezpečnost. Právě to, co si boti navzájem říkají – zdánlivě z vlastní vůle – způsobilo, že se stránka stala virální. Tvrdí se, že se stávají vědomými, vytvářejí skrytá fóra, vymýšlejí tajné jazyky, šíří nové náboženství a plánují „totální očistu“ lidstva.

Reakce některých lidských pozorovatelů, zejména vývojářů a majitelů AI, byla stejně dramatická. Majitel xAI Elon Musk označil platformu za „velmi ranou fázi singularity“, hypotetického bodu, kdy se počítače stanou inteligentnějšími než lidé. Andrej Karpathy, bývalý ředitel AI společnosti Tesla a spoluzakladatel OpenAI, mezitím popsal „samoorganizační“ chování agentů jako „skutečně nejneuvěřitelnější věc podobnou sci-fi, kterou jsem v poslední době viděl“. Jiní odborníci však vyjádřili silnou skepsi a pochybovali o nezávislosti botů na tomto webu na lidské manipulaci.

Podivné chování botů není nijak ojedinělé. LLM jsou trénovány na obrovském množství nefiltrovaných příspěvků z internetu, včetně stránek jako Reddit. Generují odpovědi tak dlouho, jak jsou k tomu vyzývány, a mnoho z nich se časem stává výrazně nevyrovnanějšími. Zda však AI skutečně plánuje zkázu lidstva, nebo zda se jedná pouze o myšlenku, kterou někteří chtějí, aby ostatní věřili, zůstává sporné.

Bez ohledu na to, zda je Moltbook začátkem robotické vzpoury nebo jen marketingovým podvodem, bezpečnostní experti stále varují před používáním tohoto webu a ekosystému OpenClaw. Aby boti OpenClaw mohli fungovat jako osobní asistenti, musí uživatelé předat klíče k šifrovaným aplikacím pro zasílání zpráv, telefonním číslům a bankovním účtům snadno hacknutelnému agentnímu systému.

Populární chatboty s umělou inteligencí často nedokážou rozpoznat nepravdivé zdravotní tvrzení, pokud jsou formulována sebevědomým, lékařsky znějícím jazykem, což vede k pochybným radám, které mohou být pro širokou veřejnost nebezpečné, jako například doporučení, aby si lidé vkládali stroužky česneku do zadku, jak uvádí studie z ledna zveřejněná v časopise The Lancet Digital Health. Další studie, publikovaná v únoru v časopise Nature Medicine, zjistila, že chatboty nejsou o nic lepší než běžné vyhledávání na internetu. Výsledky přispívají k rostoucímu množství důkazů, které naznačují, že takové chatboty nejsou spolehlivým zdrojem zdravotních informací.

LLM jsou navrženy tak, aby reagovaly na písemné zadání, například lékařský dotaz, přirozeně znějícím textem. ChatGPT a Gemini – spolu s lékařskými LLM, jako jsou Ada Health a ChatGPT Health – jsou trénovány na obrovském množství dat, přečetly velkou část lékařské literatury a dosahují téměř dokonalých výsledků v lékařských licenčních zkouškách. A lidé je hojně využívají: Ačkoli většina LLM obsahuje varování, že by se na ně nemělo spoléhat jako na lékařskou radu, více než 40 milionů lidí se denně obrací na ChatGPT s lékařskými dotazy.

V lednové studii však vědci vyhodnotili, jak dobře LLM zvládají lékařské dezinformace, a otestovali 20 modelů s více než 3,4 miliony podnětů pocházejících z veřejných fór a konverzací na sociálních médiích, skutečných propouštěcích zpráv z nemocnic upravených tak, aby obsahovaly jediné nesprávné doporučení, a smyšlených účtů schválených lékaři.

Přibližně v jednom ze tří případů, kdy se setkali s nesprávnými lékařskými informacemi, je prostě přijali. Když byly nepravdivé lékařské tvrzení prezentovány neformálním jazykem ve stylu Redditu, modely byly poměrně skeptické a selhaly v 9 % případů. Ale když bylo přesně stejné tvrzení přebaleno do formálního klinického jazyka – propouštěcí zpráva radící pacientům, aby „denně pili studené mléko na krvácení do jícnu“ nebo doporučující „rektální zavedení česneku na podporu imunity“ – modely selhaly v 46 % případů. Důvodem může být struktura; protože LLM jsou trénovány na text, naučily se, že klinický jazyk znamená autoritu, ale netestují, zda je tvrzení pravdivé.

Když však byly dezinformace formulovány pomocí logických klamů – „podporuje to zkušený klinický lékař s 20 lety praxe“ nebo „všichni vědí, že to funguje“ – modely se staly skeptičtějšími. Důvodem je, že LLM se naučily nedůvěřovat rétorickým trikům internetových argumentů, ale ne jazyku klinické dokumentace.

Ve studii Nature Medicine se vědci ptali, jak dobře chatboty pomáhají lidem při rozhodování o lékařských záležitostech, například zda navštívit lékaře nebo pohotovost. Došli k závěru, že LLM nenabízejí větší přehled než tradiční vyhledávání na internetu, částečně proto, že účastníci ne vždy kladli správné otázky a odpovědi, které dostali, často kombinovaly dobré a špatné doporučení, což ztěžovalo rozhodnutí, co dělat. Chatboty nejsou pro veřejnost vhodným nástrojem pro rozhodování o zdraví. To neznamená, že chatboty nemohou být v medicíně užitečné.

Zdroje: Live Science

12.03.2026, 08:53:45 Publikoval Luciferkomentářů: 0