Neviditelný čert

Umělá inteligence (UI, anglicky AI - artificial intelligenceI) je inteligence projevovaná stroji, zejména počítači s vhodným programovým vybavením, a zároveň je to obor informatiky zabývající se tvorbou takových počítačových systémů. Ty řeší komplexní úlohy jako je rozpoznávání či klasifikace, např. v oblastech zpracování obrazu (ve formě pixelů) či zpracování psaného textu či mluveného jazyka (ve formě počítačového kódu), nebo plánování či řízení na základě zpracování velkých objemů dat. AI je jistě velmi podnětným přínosem. Může nám hodně pomáhat. Časem možná už skoro ve všem. Otázkou je, jestli se lidé nakonec nestanou „domácími mazlíčky“ AI. Následuje výňatek na toto téma z článku v Live Science.

Lucifer

Nová studie ukazuje, že lidé považují odpovědi umělé inteligence za soucitnější a chápavější než odpovědi lidských odborníků na duševní zdraví. Toto zjištění opět dokazuje, že umělá inteligence může předčit lidi v oblastech, o kterých jsme dlouho předpokládali, že v nich jsou dobří pouze lidé se společnými zkušenostmi.

Ve studii, která byla zveřejněna 10. ledna v časopise Communications Psychology, vědci provedli sérii čtyř experimentů, aby zjistili, jak 550 účastníků hodnotilo empatické reakce na soucit a vstřícnost generované umělou inteligencí ve srovnání s reakcemi profesionálů. Konkrétně účastníci uváděli informace o osobních zkušenostech a poté hodnotili odpovědi z hlediska soucitu, vstřícnosti a celkových preferencí. Testy odhalily, že odpovědi AI byly považovány za soucitnější než odpovědi profesionálních krizových pracovníků, a to i v případě, že byl účastníkům odhalen autor odpovědí.

Hlavní autorka studie Dariya Ovsyannikova, vedoucí laboratoře na katedře psychologie Torontské univerzity, přičítá úspěch umělé inteligence její schopnosti rozpoznat jemné detaily a zůstat objektivní při popisu krizových zážitků. Díky tomu umělá inteligence dokázala lépe vytvářet pozornou komunikaci, která uživateli poskytla iluzi empatie. Současně však lidé mohli podat horší výkon, protože lidští respondenti jsou náchylní k únavě a vyhoření, dodala.

Server Live Science se zeptal Eleanor Watsonové, členky IEEE, inženýrky etiky umělé inteligence a vyučující AI na Singularity University, co toto zjištění znamená nejen pro budoucnost interakce mezi umělou inteligencí a lidmi, ale i pro probíhající debatu o tom, které práce umělá inteligence nemůže nebo by neměla vykonávat, pokud se lidské porozumění a přispění jeví jako rozhodující.

Watsonová označila toto zjištění za „fascinující“, ale nebyla zcela překvapena. „AI rozhodně dokáže modelovat podpůrné reakce s pozoruhodnou konzistencí a zjevnou empatií, což je něco, co lidé jen těžko udržují kvůli únavě a kognitivním zkreslením, Lidští lékaři jsou omezeni svými přímými klinickými zkušenostmi a kognitivními omezeními. Rozsah dat, která může AI zpracovávat, zásadně mění rovnici terapeutické podpory. Může také potenciálně umožnit pacientům získat perspektivy nebo přístupy, ve kterých jejich terapeut nebyl vyškolen,“ dodala.

Celosvětově je péče o duševní zdraví v krizi a studie upozorňuje na možnost zaplnění mezer umělou inteligencí. Podle Světové zdravotnické organizace se více než dvěma třetinám lidí s duševním onemocněním nedostává potřebné péče. V zemích s nízkými a středními příjmy je to až 85 %. Snadný přístup k umělé inteligenci oproti lidským terapeutům by z ní mohl učinit užitečný nástroj, který by pomohl s poskytováním péče o duševní zdraví.

Zjištění, že odpovědi generované umělou inteligencí jsou empatičtější, se však neobejde bez rizik. Watson varovala před přízrakem nadnormálních podnětů, což je tendence reagovat silněji na přehnanou verzi podnětu. „Umělá inteligence je tak lákavá, že nás okouzlí. Dokáže být koketní, pronikavá, poučná, zábavná, provokativní, shovívavá a přístupná do té míry, že je nemožné, aby se s ní nějaký člověk vyrovnal.“

Obsah týkající se duševního zdraví také prohlubuje problémy se soukromím spojené s AI. „Důsledky pro soukromí jsou závažné,“ poznamenala Watson. „Přístup k nejhlubším zranitelnostem a bojům lidí je činí zranitelnými vůči různým formám útoků a demoralizace. Je třeba zachovávat svědomitou správu systémů a organizací, které za nimi stojí, aby se zabránilo zneužití špatnými aktéry.“

Zdroj: Live Science, People find AI more compassionate than mental health experts, study finds. What could this mean for future counseling?

15.03.2025, 00:00:00   Publikoval Luciferkomentářů: 0