Neviditelný čert

Počítačový expert Hans Moravec říká, že zcela inteligentních strojů dosáhneme v okamžiku, kdy se nám podaří sjednotit oba přístupy, shora dolů a zdola nahoru, k čemuž patrně dojde během příštích čtyřiceti let. Mohou však roboti (poznámka k životnému rodu bude uvedena na konci) mít lidské city? A byly by jim vůbec k něčemu dobré?

Lucifer

Jedním ze stálých témat literatury a umění je mechanický tvor, který touží po tom stát se člověkem, mít lidské city. Nestačí mu, že se skládá z drátů a chladného kovu, přeje si smát se, plakat, sdílet všechna citová vzrušení lidského tvora. Ze dřeva vytesaný Pinocchio se chtěl stát skutečným chlapcem. Plechový dřevorubec z Čaroděje ze země Oz chtěl mít srdce. Robot Data ze seriálu Star Trek všechny předčí svou silou a inteligencí, i přesto se však touží stát člověkem. Podle některých jsou city tím nejdůležitějším, co činí lidi lidmi. Říká se, že není možné, aby stroje někdy měly city, protože právě city představují vrchol lidského vývoje. Ovšem vědci, kteří pracují na vývoji AI a usilují o analýzu emocí, jsou jiného názoru. City pro ně zdaleka nejsou podstatou lidství, nýbrž spíše vedlejšími produkty vývoje. Jednoduše řečeno, city jsou pro nás výhodné. Pomohly nám přežít v pralese a i dnes nám jsou nápomocny, když proplouváme úskalími života.

Například "mít něco rád" je z evolučního hlediska velmi důležité, protože většina věcí nám škodí. "Mít něco rád" znamená rozlišit jednu z malého zlomku věcí, které nám mohou prospět. Obdobně je důležitá i žárlivost, neboť náš úspěch v rozmnožování je rozhodující pro to, aby naše geny přežily následující generace. Stud a lítost jsou důležité, protože nám pomáhají osvojit si sociální dovednosti potřebné ve společnosti založené na spolupráci. Jestliže nikdy neřekneme "promiňte", nakonec nás z našeho kmene vyženou, čímž se zmenší naše šance přežít a předat své geny dalším. Stesk je také podstatný. Touha být se svými druhy je opět důležitá pro naše přežití, neboť závisíme na zdrojích celého našeho kmene.

Jinými slovy, dokonalejší roboti budou potřebovat emoce. Možná že budou naprogramováni tak, aby přilnuli ke svým vlastníkům a ošetřovatelům, a díky tomu neskončili v odpadním kontejneru. Když budou mít city, snáze se začlení do společnosti, takže budou ochotnými společníky a ne soupeři svých vlastníků (tedy alespoň naoko ];-). Hans Moravec je přesvědčen, že roboti budou naprogramováni tak, aby kupříkladu cítili strach a měli potřebu se chránit. Když robotovi například bude docházet baterie, začne "projevovat znepokojení, dokonce paniku, a dávat lidem srozumitelné signály. Zajde k sousedů a požádá je, aby mohl použít jejich zásuvku. 'Prosím prosím, potřebuji to! Je to důležité a vás to skoro nic nestojí! My vám to nahradíme!' řekne."

Emoce jsou životně důležité i pro přijímání rozhodnutí. Lidé po určitém poškození mozku ztrácejí schopnost citových prožitků. Neurolog Antonio Damasio z lékařské fakulty univerzity v Iowě zjistil, že tito lidé často nejsou schopni udělat sebemenší rozhodnutí. Když je nevedou emoce, donekonečna zvažují různé možnosti, což vede k ochromující nerozhodnosti. Jeden z jeho pacientů strávil půl hodiny úsilím rozhodnout se ohledně data příští návštěvy. Vědci vycházejí z toho, že city se zpracovávají v tzv. limbickém systému, uloženém hluboko ve středu mozku. Když pacient utrpí poškození vedoucí ke ztrátě spojení mezi šedou kůrou (ovládající racionální uvažování) a limbickým systémem, je jeho schopnost uvažovat nedotčena, nemá však city, které by jej v rozhodování vedly. Roboti budoucnosti budou možná muset mít v mozku napevno naprogramovány emoce, které jim budou vodítkem. Rosalind Picardová z mediální laboratoře MIT říká o nedostatku citů u robotů toto: "Necítí, co je nejdůležitější. Je to jedna z největších slabin. Počítačům to prostě nedojde."

Mohli by být roboti nebezpeční?

Mooreův zákon říká, že výkonnost počítačů se zdvojnásobuje každých 18 měsíců. Je tedy možné, že během několika desetiletí vzniknou roboti s inteligencí řekněme psa nebo kočky. Kolem roku 2020 by ovšem Mooreův zákon mohl zkolabovat a křemíkový věk by skončil. Čip Pentium v našem laptopu má vrstvy, jejichž tloušťka přibližně odpovídá dvaceti atomům. K roku 2020 by tento čip mohl mít vrstvy s pouhými pěti atomy. Zde vstoupí do hry Heisenbergův princip neurčitosti, a my ztratíme přehled o poloze jednotlivých elektronů. Elektřina začne z čipu prosakovat a v počítači dojde ke zkratu. V tu chvíli počítačová revoluce a Mooreův zákon narazí na své meze kvůli zákonům kvantové teorie.

Fyzikové nyní pracují na postkřemíkové technologii, která ovládne počítačový svět po roce 202O. Jejich úspěchy jsou však prozatím rozpačité. Zkoumají se nejrůznější technologie, které by měly nakonec nahradit technologii křemíku, jako jsou kvantové počítače, počítače na bázi DNA, optické počítače, atomové počítače a podobně. Avšak dříve, než budou moci převzít žezlo křemíkových čipů, bude každá z nich muset překonat obrovské překážky. Technologie manipulace s jednotlivými atomy a molekulami je stále ještě v plenkách a vyrobit miliardy tranzistorů atomové velikosti je prozatím mimo naše možnosti.

Předpokládejme však, že se fyzikům podaří překlenout propast mezi křemíkovými čipy a řekněme kvantovými počítači. A předpokládejme, že určitá obměna Mooreova zákona bude platit i po skončení éry křemíku. Pak se umělá inteligence může stát skutečností. Roboti si osvojí lidskou logiku i city a pokaždé uspějí v Turingově testu. Steven Spielberg se tímto tématem zabýval ve filmu A. I. Umělá inteligence, kde se objevuje první robotický chlapec schopný projevovat city, a tudíž vhodný k adopci do lidské rodiny.

Vzniká tak otázka: mohli by být takoví roboti nebezpeční? Odpověď je nejspíš kladná. Mohli by být nebezpeční, jakmile by dosáhli inteligence opice, která si sama sebe uvědomuje a dovede se řídit svými představami. Patrně bude trvat mnohá desetiletí, než se něčeho takového dosáhne, a tak mají vědci dostatek času pozorovat, zda se roboti nestávají hrozbou. Do jejich procesoru by mohli například vložit speciální čip, který by jim zabránil začít ničit. Nebo by mohli mít vybudovaný sebeničivý nebo deaktivační mechanismus, který by je v případě nebezpečí vypnul.

Přízemnější hrozbou je, že na počítačích bude záviset naše infrastruktura. Vodovodní i elektrická síť, nemluvě o dopravních a komunikačních sítích, budou v budoucnosti stále více záviset na počítačích. Naše města jsou již tak složitá, že jen složité a promyšlené počítačové sítě jsou schopny naši rozsáhlou infrastrukturu sledovat a řídit. Závada nebo zhroucení této všudypřítomné počítačové infrastruktury by mohla ochromit město, zemi, dokonce i celou civilizaci.

Předstihnou nás nakonec počítače v inteligenci? Z hlediska fyzikálních zákonů zajisté neexistuje nic, co by tomu mohlo zabránit. Jestliže jsou roboti založeny na neuronových sítích schopných učení, a jsou už tak pokročilí, že se učí rychleji a účinněji než my, pak je logické, že nás nakonec v uvažování předstihnou. Někteří vynálezci, jako například Ray Kurzweil, dokonce předpověděli, že tento čas nastane brzy, spíš dříve než později, dost možná během několika nejbližších desetiletí. Možná že vytváříme své vlastní vývojové následníky. Někteří počítačoví odborníci už očekávají bod, který nazývají "singularita", kdy roboti zvládnou zpracování informace s exponenciálně rostoucí rychlostí, přičemž budou vytvářet nové roboty, až jejich kolektivní schopnost vstřebávat informace poroste téměř bez omezení.

V další perspektivě proto někteří navrhují spojení uhlíkové a křemíkové technologie, místo aby se čekalo na naše vyhubení. Lidská těla fungují na bázi uhlíku, roboti (alespoň prozatím) na bázi křemíku. Řešením možná bude smísit se s našimi výtvory.

Zdroj: Michio Kaku, Fyzika nemožného


Poznámka na okraj:

U předchozího dílu jeden komentátor oponoval, že místo "neurální síť" má být správně česky použita "neuronová síť", a že roboti jsou správně česky neživotného původu, takže roboty. Odpověděl jsem, ale pro jistotu to zopakuji. Neuronová síť se nachází (mimo jiné) v lidském mozku a překlad stejné knížky, stejného autora to také uvedl, což bylo již publikováno i zde: Vědecký výzkum telepatie III. Roboti nemají neurony, a tak jsem pochopil, že výše zmíněný autor to takto odlišil. Pokud jde o životný či neživotný rod robotů, tak podle pravidel českého pravopisu je možné obojí. Vzhledem k tomu, že se bavíme o tvorech, kteří by měli nahradit člověka, tak je raději považujme za živé ];-)

21.03.2011, 00:00:00   Publikoval Luciferkomentářů: 7