Neviditelný čert

Umělá inteligence (artificial intelligence, AI) je inteligence projevovaná stroji, zejména počítači s vhodným programovým vybavením, a zároveň je to obor informatiky zabývající se tvorbou takových počítačových systémů. Ty řeší komplexní úlohy jako je rozpoznávání či klasifikace, např. v oblastech zpracování obrazu (ve formě pixelů) či zpracování psaného textu či mluveného jazyka (ve formě počítačového kódu), nebo plánování či řízení na základě zpracování velkých objemů dat. Na Live Science jsem nedávno objevil článek, ve kterém se praví, že překotný vývoj umělé inteligence může pro lidstvo znamenat nebezpečí. Následuje citace z první částí, v níž se k tomu vyjadřují Yoshua Bengio a Ben Turner, dva význační tvůrci umělé inteligence.

Lucifer

Yoshua Bengio je jedním z nejcitovanějších výzkumníků v oblasti umělé inteligence. Bengio, který je průkopníkem v oblasti vytváření umělých neuronových sítí a algoritmů hlubokého učení, obdržel spolu s hlavním vědcem společnosti Meta Yann LeCunem a bývalým výzkumným pracovníkem společnosti Google v oblasti umělé inteligence Geoffreym Hintonem v roce 2018 Turingovu cenu (známou jako „Nobelova cena“ za výpočetní techniku) za svůj klíčový přínos v této oblasti.

Bengio, který je spolu se svými kolegy držiteli Turingovy ceny často označován za jednoho z „kmotrů“ umělé inteligence, je však nyní znepokojen rychlostí vývoje a zavádění své technologie. Je přesvědčen, že umělá inteligence může poškodit strukturu společnosti a přináší nepředvídatelná rizika pro lidi.

Yoshua Bengio: „Je těžké jít proti vlastní církvi, ale pokud o věcech přemýšlíte racionálně, nelze popřít možnost katastrofických následků, až dosáhneme úrovně umělé inteligence. Důvod, proč jsem se otočil, je ten, že před tímto okamžikem jsem chápal, že existují scénáře, které jsou špatné, ale myslel jsem si, že na to přijdeme. Existují důležitá technická řešení, která jsou součástí širšího politického řešení, pokud chceme přijít na to, jak nepoškozovat lidi konstrukcí umělé inteligence.

Společnosti by rády tato technická řešení zahrnuly, ale v tuto chvíli nevíme, jak to udělat. Stále chtějí získat kvadrilionové zisky, které se předpovídají z toho, že umělá inteligence dosáhne lidské úrovně – takže jsme ve špatné pozici a musíme najít vědecké odpovědi.

Jeden z obrazů, který často používám, je, jako by celé lidstvo jelo po silnici, kterou moc dobře neznáme, a před námi byla mlha. Jedeme směrem k té mlze, můžeme být na horské silnici a může tam být velmi nebezpečný průsmyk, který nevidíme dostatečně jasně.

Co tedy uděláme? Budeme se dál předhánět v naději, že všechno bude v pořádku, nebo se pokusíme přijít s technologickými řešeními? Politické řešení říká, že je třeba uplatnit zásadu předběžné opatrnosti: zpomalit, pokud si nejste jisti. Technické řešení říká, že bychom měli vymyslet způsob, jak nahlédnout skrz mlhu, a možná vybavit vozidlo ochrannými prvky.“

Ben Turner: „Lidé vždy říkají, že tato rizika jsou sci-fi, ale není tomu tak. V krátkodobém horizontu už vidíme, jak se umělá inteligence používá v americké volební kampani, a bude to ještě mnohem horší. Nedávno proběhla studie, která ukázala, že ChatGPT-4 je v přesvědčování mnohem lepší než lidé, a to je jen ChatGPT-4 – nová verze bude horší. Proběhly také testy, jak tyto systémy mohou pomoci teroristům. Nedávný projekt ChatGPT o1 posunul toto riziko z nízkého na střední.

Pokud se podíváme dále, až dosáhneme úrovně superinteligence, existují dvě hlavní rizika. Prvním je ztráta lidské kontroly, pokud mají superinteligentní stroje sebezáchovný cíl, jejich cílem by mohlo být zničení lidstva, abychom je nemohli vypnout. Druhé nebezpečí, pokud se první scénář nějak neuskuteční, spočívá v tom, že lidé využijí sílu umělé inteligence k tomu, aby převzali kontrolu nad lidstvem v celosvětové diktatuře. Můžete mít mírnější verze a může to existovat ve spektru, ale technologie dá obrovskou moc tomu, kdo ji bude ovládat.

V současné době mají neuronové sítě spoustu působivých aplikací. Stále však mají problémy: potýkají se s neřízeným učením a špatně se přizpůsobují situacím, které se v jejich trénovacích datech objevují jen zřídka a kterých musí spotřebovat ohromující množství. Jistě, jak jsme viděli u samořiditelných automobilů, tyto chyby také přinášejí svá vlastní rizika?“

Zdroj: Live Science, Humanity faces a 'catastrophic' future if we don’t regulate AI, 'Godfather of AI' Yoshua Bengio says

Moje poznámka

V mém příspěvku Šílenství doby IV jsem zmínil knížku Návrat z ráje od Čestmíra Vejdělka. Cituji:

„Hlavním hrdinou románu je novinář Řehoř Janda, který přilétá ze Živohoště na planetu Lucie, aby odhalil tajemství její podivně se chovající civilizace a zjistil to, co oficiální inspekce přehlédly. Během cesty se Řehoř začetl do stohů materiálů, nashromážděných předchozími výpravami a královsky se bavil.

Dalo se říci, že si Lucie ze všech šesti expedic vystřelila. Profesor Espolin, paleontolog se specializací na oligocén, našel tam kromě čtyř záhadných tvorů, oblečených do žaketů myší barvy, a kromě bezpečných známek vyspělé civilizace vesměs pouze machairody, kdežto akademik Štejn, entomolog, zaměřený na škůdce, popisuje rovněž čtyři muže v šedivých žaketech, ale jinak výlučně sarančata, zejména typu Pachytylus migratorius, a po probádání celé planety výslovně popírá byť i jediný nález machairoda. A tak dále. Shodní se zdají být jen lucijští ceremoniáři a formule, kterou centrální lucijský počítač Starý navádí rakety na přistání: "Lucie. Starý vás nevede na Sheet. Bereme recepturu." Sheet je hlavní pracovní pevnina a receptura je hlavní bezpečnostní opatření.

Zatímco pilot Honza přistál s raketou na přijímacím kosmodromu, kde se o něj začali standardně starat lucijští ceremoniáři v šedivých žaketech, Řehoř před přistáním opustil raketu v cellule a přistál nepozorovaně na jakési opuštěné pláži, kde se započala jeho poznávací cesta na planetě Lucii. Lucie byla původně spravována centrálním počítačem jménem Starý, který lucijany choval jako v bavlnce a jeho základním úkolem bylo uspokojit všechny jejich potřeby. Ambiciózní počítač Ben však měl lepší řešení, a tak převzal nadvládu a odstavil Starého na vedlejší kolej. Ben usoudil, že neracionálně se chovající obyvatele nahradí Umělými, kteří budou splňovat jeho představu dokonalé, spokojené společnosti. Nemyslel tím nic zlého, snažil se pouze najít efektivnější řešení úkolu centrálního počítače.

A jak to dopadlo? Inu, samozřejmě že dobře. Řehořovi se podařilo odstavit Bena, který byl překvapivě velmi malý a lehký, a jako osmnáctinohý pavouk seděl v cihlově červeném okruží na osmnácti kontaktech a občas se na nich zavrtěl. Z umělé lucijské oblohy začaly padat drobné růžové krystalky a lucijané se započali učit znovunalezenému přirozenému životu.“

Není vyloučeno, že podobným způsobem můžeme skončit i my v pečovatelské náruči umělé inteligence. Lidé budou žít šťastně a užívat si zábavy. Jakákoli tvůrčí činnost bude lidem naprosto cizí. Vše zařídí umělá inteligence s pomocí dokonalých robotů a automatů.

19.10.2024, 00:00:00   Publikoval Luciferkomentářů: 0