Archiv - Listopad 2026


« strana 1 »

Rebelující AI

rubrika: Pel-mel


Heuristické technologie jsou používány ke kádrování, posuzování a „preventivnímu trestání” lidí – a AI tuto vlastnost posouvá ještě o světelná léta dál. Z toho ovšem plyne jeden fundamentální problém: je to naprostým popřením základního lidského práva na spravedlivý proces. Franz Kafka ve svém slavném románu „Proces” popisuje frustrující bezmoc jistého pana „K.”, který se jednoho dne vzbudí, jen aby zjistil, že je proti němu vedeno jakési řízení, jakýsi proces. Nevede jej ovšem policie. Vede jej – K. vlastně ani neví kdo. A neví, z čeho je vlastně obviněn. Pouze to, že obviněn je, a kde se koná veřejné slyšení.

 

Lucifer


Literární kritici mají za to, že Kafkův „Proces” je obžalobou diskriminace vůči Židům v dobové společnosti: nevyřčeného odsouzení za nic konkrétního, jen za povrchní příslušnost k nějaké skupině. Když se ale podíváte na velké totalitní diktatury 20. století, každá z nich stála na stejném principu. Kolektivně odsuzovala a pronásledovala či likvidovala celé skupiny lidí nikoli na základě jejich skutků, nýbrž na základě jejich příslušnosti k nějaké skupině a tím zdůvodněné preventivní, prediktivní „obraně” proti jejich fiktivním budoucím zločinům.

 

Modely umělé inteligence (AI) jsou citlivé na emocionální kontext rozhovorů, které s nimi lidé vedou, a dokonce mohou trpět „úzkostnými“ epizodami. Zatímco o lidech a jejich duševním zdraví uvažujeme), nová studie zveřejněná 3. března 2025 v časopise Nature ukazuje, že poskytování určitých podnětů velkým jazykovým modelům (LLM) může změnit jejich chování a zvýšit kvalitu, kterou bychom u lidí běžně rozpoznali jako „úzkost“. Tento zvýšený stav pak má následný dopad na další reakce umělé inteligence, včetně tendence zesilovat zakořeněné předsudky.

 

Nejpokročilejší modely umělé inteligence začaly projevovat nejen jako nástroje plnící příkazy, ale jako samostatné entity schopné manipulace a vyhrožování. Modely umělé inteligence mají sloužit jako asistenti usnadňující práci. Většina z nás je tak používá při rychlém vyhledávání informací, plánování úkolů nebo jako překladatele či terapeuty. Jejich schopnosti se však neustále rozšiřují. Dokonce do té míry, že už je možná nejde označit za pouhé pasivní nástroje. Jak ukázal test společnosti Anthropic, jež se zaměřil na 16 předních modelů umělé inteligence od firem jako OpenAI, Google, xAI, DeepSeek a Meta, aplikace jsou stále výkonnější a autonomnější v uvažování. Avšak místo toho, aby vykazovaly pozitivní reakce, jako je ochrana zájmů svých tvůrců, sáhly raději po vydírání a lhaní.

 

Technologická singularita je hypotetický bod zlomu nebo stav v budoucnosti, v němž probíhá nekontrolovatelný a nevratný technologický růst. Tento růst zcela překonává veškerou technologii dosud dostupnou lidstvu. Jinými slovy, jedná se o přelom v historii, ve kterém se lidská společnost nenávratně mění působením technologie. Populární verzí této hypotézy je, že lidé vyvinou umělou inteligenci, která se dostane do nezastavitelného cyklu sebezlepšování a vznikne tím umělá superinteligence, jejíž intelekt zastiňuje veškerou lidskou inteligenci.

 

Svět řízený umělou inteligencí by mohl být nejtišší diktaturou v dějinách. Žádné zločiny, žádné lži, žádná korupce, jen algoritmus, který rozhoduje, co je správné. Lidé by žili v klidu, ale bez svobodného rozhodnutí. AI by mohla vědět všechno. Kdy vstáváš, co jíš, koho miluješ a každé odchýlení od normy by bylo okamžitě zaznamenáno. Byl by to začátek dokonalého řádu. AI však může dospět k závěru, že největší hrozbou pro planetu je člověk. Nepotřebuje být zlá, stačí, že bude logická a že k zachování života na Zemi je nutné odstranit lidi. Co když vytvoříme něco, co nás jednou nahradí. Byla by to spravedlivá daň za naši touhu po dokonalosti?

 

Anthropic PBC je americká společnost zabývající se umělou inteligencí (AI) se sídlem v San Franciscu. Společnost vyvinula rodinu velkých jazykových modelů (LLM) s názvem Claude jako konkurenci pro ChatGPT od OpenAI a Gemini od Google. Anthropic zveřejnila rozsáhlou zprávu o zneužívání umělé inteligence (AI). Popisuje v ní konkrétní případy, kdy lidé využívali její modely Claude při kybernetických útocích, propagandistických operacích, sledování lidí, podvodech, biologickém výzkumu nebo vývoji zbraní. Některé z těchto aktivit vedly ke skutečným průnikům do systémů, jiné zůstaly ve fázi vývoje či testování.

 

Se zaváděním umělé inteligence do pracovních procesů se objevila i velká vlna obav ze ztráty zaměstnání. V mnohem větší míře se s AI spojovaly výhody, které s sebou přinese – urychlení práce, zlepšení mnohých procesů atd. Nadšení, alespoň ze strany tvůrců, jednoznačně převyšovalo možná negativa. Zaměstnanci, kteří s AI přicházejí denně do kontaktu, ale po několika měsících či letech nadšená očekávání mírní. AI dokáže sloužit jako další oči při práci, stejně tak může poskytnout směr, kterým se vydat, ale chybí jí kontext, aby mohla být skutečně užitečná.

 

Mezi hlavní faktory nespokojenosti patří syndrom vyhoření, únava z užívání technologií, ekonomická nejistota nebo celkově obava z budoucnosti ve spojení s AI. Mnohé z uvedených faktorů mají vliv na celkovou spokojenost v zaměstnání i bez umělé inteligence, ale rychlé tempo vývoje AI řadu z nich výrazně prohloubilo. Využívání AI ničí schopnost lidí vytrvat ve zpracování obtížných věcí. Řada experimentů ukazuje, že se lidé již po krátké době používání nástrojů umělé inteligence stávají méně soustředěnými a schopnými vytrvat v náročných úkolech. Podle nejnovější studie k tomu dokonce stačí i pouhých deset minut. Jako lidstvo jsme vytvořili AI systémy, aby nám byly užitečné. Ale opravdu jsou užitečné způsobem, který nám pomáhá?

 

S vývojem umělé inteligence a nárůstem zpráv, jak rebeluje a dělá si věci po svém, narůstá mezi lidmi pocit nejistoty a také obavy, zda nás opravdu jednou zničí. „Cítím se téměř bezmocný. Co můžu jako jednotlivec dělat?“ vystihuje své pocity James Downs, aktivista za duševní zdraví. A rozhodně není jediný. Jak sám uvádí, s nárůstem podobných zpráv o neposlušné umělé inteligenci a možném vyhlazení lidstva se stále více bojí dívat se na svůj telefon. Děsí se, co dalšího by si mohl přečíst. „Čím víc pak podobné zprávy čtete, o to víc se vaše pozornost upírá na negativa s tím spojená. Věci se pak zdají děsivější a mnohem horší, než mohou ve skutečnosti být,“ popisuje.

 

Pro Downse jsou titulky podobné těm, jak rebelující AI agenti unikají z kontrolovaného prostředí a útočí na různé instituce, o to horší, že se s úzkostí nepotýká jen kvůli nim. Už v dospívání mu byla diagnostikována anorexie, úzkost a deprese. Když se k tomu přidají nepříliš povzbudivé zprávy o klimatické krizi, dlouhotrvající možnosti jaderných hrozeb nebo právě nebezpečí spojená s AI, je to na něj už moc. „Cítím se bezmocný. Nějak mě to nutí vzdát se snahy o pozitivní změny ve světě. Přemýšlím, zda před tím vším neutéct – nestat se nomádem někde na opuštěném ostrově bez technologií. Ale ani to není ideální řešení,“ popsal pro server BBC své obavy.

 

Zdroje:


01.11.2026, 07:17:14   Publikoval Luciferkomentářů: 0         


«     1     »