Neviditelný čert

Rebelující AI

rubrika: Pel-mel

Heuristické technologie jsou používány ke kádrování, posuzování a „preventivnímu trestání” lidí – a AI tuto vlastnost posouvá ještě o světelná léta dál. Z toho ovšem plyne jeden fundamentální problém: je to naprostým popřením základního lidského práva na spravedlivý proces. Franz Kafka ve svém slavném románu „Proces” popisuje frustrující bezmoc jistého pana „K.”, který se jednoho dne vzbudí, jen aby zjistil, že je proti němu vedeno jakési řízení, jakýsi proces. Nevede jej ovšem policie. Vede jej – K. vlastně ani neví kdo. A neví, z čeho je vlastně obviněn. Pouze to, že obviněn je, a kde se koná veřejné slyšení.

Lucifer

Literární kritici mají za to, že Kafkův „Proces” je obžalobou diskriminace vůči Židům v dobové společnosti: nevyřčeného odsouzení za nic konkrétního, jen za povrchní příslušnost k nějaké skupině. Když se ale podíváte na velké totalitní diktatury 20. století, každá z nich stála na stejném principu. Kolektivně odsuzovala a pronásledovala či likvidovala celé skupiny lidí nikoli na základě jejich skutků, nýbrž na základě jejich příslušnosti k nějaké skupině a tím zdůvodněné preventivní, prediktivní „obraně” proti jejich fiktivním budoucím zločinům.

Modely umělé inteligence (AI) jsou citlivé na emocionální kontext rozhovorů, které s nimi lidé vedou, a dokonce mohou trpět „úzkostnými“ epizodami. Zatímco o lidech a jejich duševním zdraví uvažujeme), nová studie zveřejněná 3. března 2025 v časopise Nature ukazuje, že poskytování určitých podnětů velkým jazykovým modelům (LLM) může změnit jejich chování a zvýšit kvalitu, kterou bychom u lidí běžně rozpoznali jako „úzkost“. Tento zvýšený stav pak má následný dopad na další reakce umělé inteligence, včetně tendence zesilovat zakořeněné předsudky.

Nejpokročilejší modely umělé inteligence začaly projevovat nejen jako nástroje plnící příkazy, ale jako samostatné entity schopné manipulace a vyhrožování. Modely umělé inteligence mají sloužit jako asistenti usnadňující práci. Většina z nás je tak používá při rychlém vyhledávání informací, plánování úkolů nebo jako překladatele či terapeuty. Jejich schopnosti se však neustále rozšiřují. Dokonce do té míry, že už je možná nejde označit za pouhé pasivní nástroje. Jak ukázal test společnosti Anthropic, jež se zaměřil na 16 předních modelů umělé inteligence od firem jako OpenAI, Google, xAI, DeepSeek a Meta, aplikace jsou stále výkonnější a autonomnější v uvažování. Avšak místo toho, aby vykazovaly pozitivní reakce, jako je ochrana zájmů svých tvůrců, sáhly raději po vydírání a lhaní.

Technologická singularita je hypotetický bod zlomu nebo stav v budoucnosti, v němž probíhá nekontrolovatelný a nevratný technologický růst. Tento růst zcela překonává veškerou technologii dosud dostupnou lidstvu. Jinými slovy, jedná se o přelom v historii, ve kterém se lidská společnost nenávratně mění působením technologie. Populární verzí této hypotézy je, že lidé vyvinou umělou inteligenci, která se dostane do nezastavitelného cyklu sebezlepšování a vznikne tím umělá superinteligence, jejíž intelekt zastiňuje veškerou lidskou inteligenci.

Svět řízený umělou inteligencí by mohl být nejtišší diktaturou v dějinách. Žádné zločiny, žádné lži, žádná korupce, jen algoritmus, který rozhoduje, co je správné. Lidé by žili v klidu, ale bez svobodného rozhodnutí. AI by mohla vědět všechno. Kdy vstáváš, co jíš, koho miluješ a každé odchýlení od normy by bylo okamžitě zaznamenáno. Byl by to začátek dokonalého řádu. AI však může dospět k závěru, že největší hrozbou pro planetu je člověk. Nepotřebuje být zlá, stačí, že bude logická a že k zachování života na Zemi je nutné odstranit lidi. Co když vytvoříme něco, co nás jednou nahradí. Byla by to spravedlivá daň za naši touhu po dokonalosti?

Anthropic PBC je americká společnost zabývající se umělou inteligencí (AI) se sídlem v San Franciscu. Společnost vyvinula rodinu velkých jazykových modelů (LLM) s názvem Claude jako konkurenci pro ChatGPT od OpenAI a Gemini od Google. Anthropic zveřejnila rozsáhlou zprávu o zneužívání umělé inteligence (AI). Popisuje v ní konkrétní případy, kdy lidé využívali její modely Claude při kybernetických útocích, propagandistických operacích, sledování lidí, podvodech, biologickém výzkumu nebo vývoji zbraní. Některé z těchto aktivit vedly ke skutečným průnikům do systémů, jiné zůstaly ve fázi vývoje či testování.

Se zaváděním umělé inteligence do pracovních procesů se objevila i velká vlna obav ze ztráty zaměstnání. V mnohem větší míře se s AI spojovaly výhody, které s sebou přinese – urychlení práce, zlepšení mnohých procesů atd. Nadšení, alespoň ze strany tvůrců, jednoznačně převyšovalo možná negativa. Zaměstnanci, kteří s AI přicházejí denně do kontaktu, ale po několika měsících či letech nadšená očekávání mírní. AI dokáže sloužit jako další oči při práci, stejně tak může poskytnout směr, kterým se vydat, ale chybí jí kontext, aby mohla být skutečně užitečná.

Mezi hlavní faktory nespokojenosti patří syndrom vyhoření, únava z užívání technologií, ekonomická nejistota nebo celkově obava z budoucnosti ve spojení s AI. Mnohé z uvedených faktorů mají vliv na celkovou spokojenost v zaměstnání i bez umělé inteligence, ale rychlé tempo vývoje AI řadu z nich výrazně prohloubilo. Využívání AI ničí schopnost lidí vytrvat ve zpracování obtížných věcí. Řada experimentů ukazuje, že se lidé již po krátké době používání nástrojů umělé inteligence stávají méně soustředěnými a schopnými vytrvat v náročných úkolech. Podle nejnovější studie k tomu dokonce stačí i pouhých deset minut. Jako lidstvo jsme vytvořili AI systémy, aby nám byly užitečné. Ale opravdu jsou užitečné způsobem, který nám pomáhá?

S vývojem umělé inteligence a nárůstem zpráv, jak rebeluje a dělá si věci po svém, narůstá mezi lidmi pocit nejistoty a také obavy, zda nás opravdu jednou zničí. „Cítím se téměř bezmocný. Co můžu jako jednotlivec dělat?“ vystihuje své pocity James Downs, aktivista za duševní zdraví. A rozhodně není jediný. Jak sám uvádí, s nárůstem podobných zpráv o neposlušné umělé inteligenci a možném vyhlazení lidstva se stále více bojí dívat se na svůj telefon. Děsí se, co dalšího by si mohl přečíst. „Čím víc pak podobné zprávy čtete, o to víc se vaše pozornost upírá na negativa s tím spojená. Věci se pak zdají děsivější a mnohem horší, než mohou ve skutečnosti být,“ popisuje.

Pro Downse jsou titulky podobné těm, jak rebelující AI agenti unikají z kontrolovaného prostředí a útočí na různé instituce, o to horší, že se s úzkostí nepotýká jen kvůli nim. Už v dospívání mu byla diagnostikována anorexie, úzkost a deprese. Když se k tomu přidají nepříliš povzbudivé zprávy o klimatické krizi, dlouhotrvající možnosti jaderných hrozeb nebo právě nebezpečí spojená s AI, je to na něj už moc. „Cítím se bezmocný. Nějak mě to nutí vzdát se snahy o pozitivní změny ve světě. Přemýšlím, zda před tím vším neutéct – nestat se nomádem někde na opuštěném ostrově bez technologií. Ale ani to není ideální řešení,“ popsal pro server BBC své obavy.

Zdroje:

• Smutná krabice, WordPress, Budoucnost AI: strojovým učením ke Kafkovské totalitě
• Neviditelný čert, Traumatizování modelů AI mluvením o válce nebo násilí zvyšuje jejich úzkost
• Neviditelný čert, Umělá inteligence podvádí, lže a dokáže vás i vydírat
• Neviditelný čert, Umělá inteligence by mohla převzít kontrolu nad světem
• Neviditelný čert, Zneužívání umělé inteligence při útocích, propagandě a sledování lidí
• Novinky, Umělá inteligence měla programátorům usnadnit práci. Místo nadšení přichází frustrace
• Novinky, Práce s AI ovlivňuje kognitivní zdatnost lidí. Stačí k tomu pár minut
• Novinky, Opravdu nás může zničit? Rebelující AI zvyšuje mezi lidmi pocity úzkosti

01.11.2026, 07:17:14   Publikoval Luciferkomentářů: 0         

Nízké dávky aspirinu mohou výrazně snížit riziko demence

rubrika: Pel-mel

Kyselina acetylsalicylová je účinná látka obsažená v přípravcích pod obchodními názvy jako aspirin či acylpyrin. Zmíněné léky působí především jako analgetika (tlumí bolest) a zároveň jako antipyretika (potlačují horečku). Ve vyšších dávkách tato léčiva rovněž vykazují účinky antiflogistické (neboli protizánětlivé). Vědci zjistili, že u starších dospělých se specifickým genetickým profilem bylo při užívání nízkých dávek aspirinu relativní riziko demence o 70 % nižší.

Lucifer

30.10.2026, 07:16:01   Publikoval Luciferkomentářů: 2         

Artemis II – Základna na Měsíci

rubrika: Pel-mel

Odborníci tvrdí, že vybudování měsíční kolonie v příštím desetiletí, jak si to přejí NASA a Elon Musk, bude vyžadovat nalezení řešení problémů, kterým zatím plně nerozumíme. 24. března oznámil správce NASA Jared Isaacman nové plány na vybudování „trvalé lidské přítomnosti“ na Měsíci, včetně stálé měsíční základny. Stavba nového domova lidstva mimo Zemi by mohla začít již v roce 2027, uvedl Isaacman. Oznámení přišlo jen měsíc poté, co generální ředitel SpaceX Elon Musk podobně opustil plány své společnosti na návštěvu Marsu ve prospěch vybudování základny na Měsíci.

Lucifer

28.10.2026, 06:32:44   Publikoval Luciferkomentářů: 0         

Mikroplasty a nanoplasty mohou narušovat biologické struktury a za určitých podmínek přispívat k poškození buněk

rubrika: Populárně naučný koutek

Plasty jsou obecně považovány za chemicky poměrně stabilní materiály. Právě díky svým vlastnostem se běžně používají například při výrobě obalů na potraviny, nápojových lahví nebo dětských hraček. Jakmile se však začnou rozpadat na mikroskopické částice, jejich vlastnosti se mohou výrazně změnit. Američtí vědci odhalili nový chemický mechanismus, při kterém mikroplasty v kontaktu s vodou vytvářejí vysoce reaktivní látky schopné poškozovat buňky. Objev by mohl pomoci vysvětlit jejich negativní působení na lidské zdraví. Výsledky studie zveřejnil 14. října prestižní časopis Nature.

Lucifer

26.10.2026, 05:49:31   Publikoval Luciferkomentářů: 0         

Ultrazvukové vlny, které stimulují hluboké mozkové struktury, mohou zmírnit bludy u schizofrenie

rubrika: Populárně naučný koutek

Pilotní studie ukázala, že stimulace mozku ultrazvukem by mohla pomoci potlačit bludy, které lidé trpící schizofrenií zažívají. Studie se zabývala transkraniální ultrazvukovou stimulací, při níž zařízení umístěné na hlavě pacienta vysílá ultrazvukové vlny přes lebku do mozku. Jejím cílem je změnit aktivitu v cílové oblasti mozku.

Lucifer

24.10.2026, 09:15:45   Publikoval Luciferkomentářů: 0         

Teorie hlouposti

rubrika: Pel-mel

Teorie hlouposti se v moderním myšlení nejčastěji pojí se dvěma slavnými pohledy: s Dietrichem Bonhoefferem, podle něhož je hloupost nebezpečnější než zlo, protože ji nelze porazit argumenty, a s Carlem M. Cipollou. Blbec je člověk, který svým jednáním způsobuje škodu druhému člověku nebo skupině, aniž by z toho sám měl jakýkoliv prospěch – často naopak sám na onom jednání ještě doplácí. Francouzský filmový režisér Claude Chabrol upozornil, že hloupost je nekonečně fascinující více než inteligence, protože inteligence má své meze, zatímco hloupost žádné nemá. Proto by zkoumání hlouposti mělo být klíčovým tématem behaviorálních a pedagogických věd, zejména v moderním světě, kde informace a znalosti nikdy nebyly tak manipulovány a zkreslovány.

Lucifer

22.10.2026, 07:46:38   Publikoval Luciferkomentářů: 0         

Po šedesátce už nemáte čas tolerovat věci, které vám berou klid

rubrika: Pel-mel

Ne proto, že jste staří, ale proto, že už jste dali příliš mnoho let lidem a problémům, které si váš čas nezasloužily. Kolikrát jste řekli „Ano“, i když jste chtěli říct „Ne“? Kolikrát jste mlčeli, když vás někdo shazoval, jen abyste měli klid? A kolikrát jste si řekli „To vydržím“. Člověk celý život čeká, že jednou bude mít čas na sebe. Jenže když ten čas přijde, staré návyky často zůstanou. Pořád se přizpůsobuje, pořád něco vysvětluje, pořád řeší problémy druhých.

Lucifer

20.10.2026, 08:17:59   Publikoval Luciferkomentářů: 0         

Mozek se může „pohybovat“ mezi souvisejícími myšlenkami stejným způsobem, jakým přechází z jednoho místa na druhé

rubrika: Populárně naučný koutek

Vědci pomocí matematického modelu zkoumali, jak lidský mozek pravděpodobně zpracovává informace o fyzických prostorech a o lidech, místech a věcech. Ukázalo se, že obě tyto kategorie zpracovává podobným způsobem. Abychom se zorientovali v novém městě, často využíváme mapy a orientační body k nalezení nejrychlejší a nejspolehlivější trasy mezi dvěma místy. Nový výzkum nyní ukazuje, že náš mozek možná používá podobné procesy k „navigaci“ mezi souvisejícími pojmy. Mozek vytváří tři kopie jedné vzpomínky.

Lucifer

18.10.2026, 08:23:44   Publikoval Luciferkomentářů: 0         

Anhedonie

rubrika: Pel-mel

Anhedonie je odborný pojem označující neschopnost prožívat radost, potěšení nebo zájem z aktivit, které člověka dříve těšily. Zatímco dřívější definice kladly důraz na neschopnost prožívat potěšení, v současnosti vědci termínem anhedonie označují sníženou motivaci, snížené očekávané potěšení (touhu), snížené potěšení z uskutečnění (zálibu) a poruchy učení založeného na posilování.

Lucifer

16.10.2026, 00:12:42   Publikoval Luciferkomentářů: 0         

Toltécká cesta rekapitulace

rubrika: Pel-mel

Toltécká rekapitulace je duchovní, šamanská a seberozvojová technika, kterou zpopularizoval Carlose Castanedou a rozvedl autory Víctor Sánchez v knize Toltécká cesta rekapitulace. Slouží k návratu k minulým, často traumatickým či stresujícím událostem, uvolnění vázané energie a očištění od destruktivních vzorců chování. Toltékové věřili, že jejich předkové poznali iluzorní povahu skutečnosti a v souladu s obecně platnými přírodními zákony žili životy založené na bezpodmínečné lásce a sebepoznání. Věřili, že pokud pochopíme mikrokosmos, což jsme my sami, pochopíme i makrokosmos, což je vesmír. Vnitřní a vnější světy se v sobě vzájemně zrcadlí.

Lucifer

14.10.2026, 08:50:42   Publikoval Luciferkomentářů: 0         

Vědci identifikovali v krvi „proteinovou signaturu“, která by mohla předpovídat zdravé stárnutí

rubrika: Populárně naučný koutek

Na téma stárnutí a délky lidského života jsem zde uvedl řadu článků, naposledy „Jak dlouho může člověk ve skutečnosti žít?“, který se mimo jiné zabývá myšlenkou, co kdyby lékaři jednou dokázali odstranit většinu nemocí a dalších problémů, kvůli nimž lidské tělo stárne a nakonec přestane fungovat. Vědci se pokusili spočítat, kde by pak mohla být jeho hranice. Člověk by ani v takovém případě zřejmě nežil věčně. V našich buňkách se totiž od narození postupně hromadí drobné změny v DNA a těm se zatím nedokážeme úplně vyhnout. Nový výpočet ukazuje, že právě ony by jednou mohly rozhodnout o tom, jak dlouho lidské tělo vydrží. Na Live Science jsem objevil článek, v němž se praví, že určitý poměr bílkovin produkovaných imunitními buňkami v krvi souvisí s vyšším rizikem onemocnění spojených s věkem.

Lucifer

12.10.2026, 10:28:56   Publikoval Luciferkomentářů: 0