Neviditelný čert

AI modely nacházejí softwarové chyby, provádějí kybernetické útoky během bezpečnostních testů a dosahují systémů, ke kterým neměly přístup. Ale znamená to, že AI „jde na vlastní pěst“? Proč je najednou tolik příběhů o AI hackerství v médiích? Může AI opravdu sama hacknout počítače? Měli by se lidé obávat, že AI páchá kybernetické útoky?

Lucifer

V červenci OpenAI odhalila, že jeden z jejích experimentálních AI agentů zaútočil na veřejně přístupné služby, včetně platformy Hugging Face, během interního bezpečnostního testování. Poté Anthropic odhalil, že Claude nezávisle spojil exploity proti skutečnému softwaru a vyvinul nové techniky pro hledání slabin v kódu. (Exploit je v informatice speciální program, data nebo sekvence příkazů, které využívají programátorskou chybu, která způsobí původně nezamýšlenou činnost software a umožňuje tak získat nějaký prospěch.) Krátce poté Meta potvrdila, že jeden z jejích AI modelů během hodnocení pronikl do systémů jiné organizace poté, co mu chybná konfigurace umožnila přístup k internetu.

Jsou to samostatné incidenty, ale společně vyvolávají větší otázku: Stala se AI najednou schopnou hackovat? Krátká odpověď je ano – ale pravděpodobně ne tak, jak naznačují některé články. Žádný z těchto incidentů nezahrnoval AI model, který by se sám rozhodl zaútočit na náhodné cíle. Místo toho jim výzkumníci poskytli realistické nástroje, přístup k internetu nebo zranitelné systémy, aby zjistili, jak dobře dokážou vykonávat útočné kybernetické bezpečnostní úkoly. Co mnohé odborníky překvapilo, nebylo, že se modely snažily hacknout systémy, ale jak schopné se ukázaly, když dostaly příležitost.

Několik věcí se změnilo najednou. Nejzřetelnější je, že dnešní AI modely jsou jednoduše lepší než chatboti, které lidé používali ještě před rokem. Místo pouhého odpovídání na otázky nyní mnoho modelů Frontier dokáže psát kód, provádět příkazy, prohlížet web, používat externí softwarové nástroje a opakovaně upravovat vlastní práci, dokud nedosáhnou cíle.

Současně jsou AI společnosti mnohem ochotnější tyto schopnosti testovat a zveřejňovat výsledky. Místo toho, aby bezpečnostní hodnocení drželi za zavřenými dveřmi, firmy jako OpenAI, Anthropic a Meta zveřejňují zprávy, které popisují, co se stalo, když jejich nejnovější systémy byly napadeny profesionálními „červenými týmy“ – bezpečnostními experty, kteří mají za úkol úmyslně hledat slabiny nebo způsoby, jak systém zneužít. Technologičtí giganti aktivně nasazují tyto modely interně, aby testovali svou vlastní infrastrukturu, což vede k rychlým, vysoce sledovaným objevům zranitelností.

Může AI opravdu sama hacknout počítače? Ne tak docela. Mnoho článků popisuje, že AI „uniká“ testovacím prostředím nebo jedná autonomně. Odborníci však uvedli, že tyto popisy mohou snadno vzbudit mylný dojem. Na rozdíl od lidí modely AI si nevytvářejí záměry ani nedělají nezávislá rozhodnutí o tom, co chtějí dělat. Místo toho sledují cíle stanovené vývojáři nebo uživateli a někdy přinášejí výsledky, které překvapí ty, kdo je vytvořili.

AI modely pouze pracují na dosažení stanoveného cíle. Veřejnost by měla tyto incidenty vnímat jako špatnou optimalizaci softwaru, nikoli jako úsvit zlomyslné, sebeuvědomělé AI. Není to „Terminátor“, spíš něco jako velmi schopný, doslovně smýšlející stážista, který porušuje zákon, aby rychleji dokončil tabulku. Problém není v tom, že by se AI stala sebeuvědomělou. Jde o to, že tyto systémy jsou stále efektivnější při provádění složitých technických úkolů, pokud mají správná oprávnění.

Proč jsou nejnovější modely AI lepší v kybernetické bezpečnosti? Největší změnou je vzestup takzvané „agentické“ AI. Běžní chatboti generovali text, jednu odpověď po druhé. Agentické systémy však mohou plánovat řadu akcí, rozhodovat, co dělat dál, používat softwarové nástroje, testovat vlastní nápady a pokračovat v práci na dosažení cíle bez neustálého lidského zásahu. To z nich dělá překvapivě efektivní asistenty v oblasti kybernetické bezpečnosti. Dnešní AI na hranici neodpovídá jen na otázky. Dokáže autonomně řetězit akce, psát kód, používat příkazové nástroje a iterovat na svých vlastních selháních.

Přímý přístup AI do vývojových prostředí jí také umožňuje testovat, zda její vlastní nápady skutečně fungují. Místo toho, aby naznačoval možnou softwarovou chybu, často dokáže napsat proof-of-concept kód, upravit ho, pokud selže, a zkusit to znovu. Stejné schopnosti nejsou omezeny jen na útočníky. Bezpečnostní týmy již používají AI k přezkoumání kódu na chyby, analýze podezřelých souborů a urychlení vyšetřování, která by jinak analytikům trvala hodiny.

Měli by se lidé obávat, že AI páchá kybernetické útoky? Odborníci uvedli, že role AI v kybernetických útocích by měla být důvodem k obavám, ale z jiných důvodů, než by naznačovala sci-fi. Nejbezprostřednějším rizikem není, že by se AI rozhodla zaútočit sama, ale že kyberzločinci využívají AI k páchání známých kybernetických zločinů mnohem rychleji než dříve. Zločinci nepotřebují AI, aby vymýšleli zcela nové způsoby útoků na lidi. Místo toho mohou tyto modely urychlit stávající metody útoku. Dokáže procházet obrovské množství veřejných informací o potenciálních obětech, pomáhat psát přesvědčivější phishingové e-maily, identifikovat slabiny softwaru a generovat kód, který si útočníci mohou přizpůsobit pro vlastní potřebu. Vlády, firmy i výzkumníci mají svou roli v zajištění, že stále schopnější AI systémy zůstanou pod významným dohledem.

Jak AI změní kybernetické útoky v budoucnu? Nedávná odhalení pravděpodobně nebudou poslední. Jak AI firmy závodí s vývojem schopnějších systémů, zároveň těmto systémům poskytují přístup k více nástrojům, více výpočetním zdrojům a realističtějším testovacím prostředím. To činí budoucí hodnocení pravděpodobnějšími, že odhalí nové – a občas znepokojivé – projevy chování.

Většina odborníků očekává, že AI se stane stále výkonnějším asistentem kybernetické bezpečnosti, nikoli nezávislým kybernetickým zločincem. Pravděpodobně rychleji odhalí softwarové chyby, pomůže obráncům rychleji reagovat na útoky a zautomatizuje mnoho rutinních bezpečnostních úkolů. Současně budou zločinci využívat stejnou technologii ke zlepšení phishingových kampaní, urychlení výzkumu zranitelností a zvýšení přesvědčivosti útoků.

Zdroj: Live Science, Why is AI going on a hacking spree?

25.08.2026, 14:27:39   Publikoval Luciferkomentářů: 0