Vývojári Ethereum Foundation nasadili koordinované AI agenty na softvér, ktorý používajú validátori, a podarilo sa im získať chybu vedúcu k vzdialene spustiteľnému zlyhaniu. Zároveň však dostali aj kopu sebavedomých, dobre napísaných zistení, ktoré vôbec neboli skutočnými chybami.
V rámci snahy o neustále posilňovanie najväčšieho blockchainu podľa uzamknutej hodnoty, nasadili nedávno vývojári Ethereum Foundation AI agentov na softvér, na ktorom beží Ethereum, s nádejou, že objavia chyby. A hoci sa chyby našli, dôkladný ľudský úsudok bol stále nevyhnutný na rozlíšenie medzi skutočnými nálezmi a falošnými pozitívami. Tím pre bezpečnosť protokolov dokonca zverejnil poznámky s tipmi, ktoré by mal širší ekosystém dodržiavať vo svojich vlastných AI pracovných postupoch.
Ethereum beží na tisíckach uzlov, teda bežných počítačoch, ktoré spúšťajú sieťový softvér, pričom každý udržiava kópiu reťazca a preposiela správy svojim susedom. Validátori, uzly, ktoré stakujú ether a hlasujú o platnosti blokov, sedia na vrchole tejto vrstvy. Fungujú len vtedy, ak sa k nim dostanú správy.
Chyba, ktorú títo inžinieri objavili, sa nachádzala v systéme gossipsub. Vďaka tejto chybe mohol vzdialený systém spustiť pád – softvér uzla narazil na nemožný výpočet, vzdal to a vypol sa, čím sa validátor odpojil, kým ho operátor nereštartoval. Táto chyba bola rýchlo opravená a zverejnená ako „CVE-2026-34219“ s uznaním pre tím.
Umelá inteligencia: Majster ilúzií aj objaviteľ chýb
Väčšou obavou však bolo oddeliť skutočné chyby agentov od tých, ktoré sa s istotou za ne vydávali. „Prekvapujúce bolo, ako málo práce šlo do ich nájdenia a ako veľa do rozlíšenia skutočných chýb od tých, ktoré len vyzerali skutočne,“ napísal Nikos Baxevanis, autor príspevku.
Problém začal tým, čo agent produkuje. Fuzzer, štandardný nástroj, ktorý hádže po softvéri chybné dáta, kým sa niečo nepokazí, vrátil pád a záznam o tom, kde sa to stalo, čo inžinier dokáže potvrdiť za pár minút. Agent však vráti vytvorený „príbeh“. Sleduje, ako sa k chybe dalo dostať, argumentuje, prečo je dôležitá, navrhuje hodnotenie závažnosti a dodáva fungujúci kód, ktorý demonštruje útok. Všetko to prichádza v plynulej próze, ktorá sa číta rovnako, či už je chyba skutočná alebo vymyslená.
Podľa Nadácie sa opakovali tri druhy falošných pozitív. Prvým bol pád, ktorý sa vyskytol len v testovacej zostave, kde kompilátor zapína bezpečnostné kontroly, ktoré dodávaný softvér neobsahuje, takže skutočným používateľom sa nič nepokazí. Druhým bol útok, ktorý funguje len vtedy, ak je nebezpečná hodnota vložená do programu ručne, pretože každá cesta, ktorou by ju mohol doručiť externý útočník, hodnotu najprv odmietne. Treťou kategóriou bolo formálne overovanie, prax matematického dokazovania, že kód funguje správne, kde dôkaz prešiel demonštráciou niečoho triviálne pravdivého, čo recenzentom nič nepovedalo o softvéri. Každý z nich je test, ktorý v skutočnosti nikdy nič netestuje, a agent napíše túto prázdnu verziu rovnako rýchlo a presvedčivo ako tú skutočnú.
Slabiny AI v komplexných scenároch a riešenie nadácie
Ďalšou obavou bolo, že agenti sú silní v uvažovaní o jednom momente a slabí pri chybách, ktoré zahŕňajú sekvenciu individuálne platných krokov, kde nič nie je zle okrem poradia. To opisuje väčšinu exploitov, ktoré tento rok vyprázdnili krypto protokoly, kde útočné metódy používajú technické nástroje, ktoré sú individuálne v poriadku, ale maskujú krádež, ktorá spočíva v postupnom vykonávaní niekoľkých bežných krokov vedúcich k malígnemu výsledku.
Nedávne útoky zapadajú do tohto vzorca. Exploit Edel Finance začiatkom tohto mesiaca obišiel presný dátový kanál Chainlink cez obalovú vrstvu nad ním a pri útoku na správu BONK bolo nákup tokenov, hlasovanie a vykonanie schváleného návrhu každým bežným transakčným krokom. Riešením Nadácie je nechať agenta navrhnúť, ktoré sekvencie stoja za testovanie, a testy aj tak spustiť.
Pôvodný zdroj: CoinDesk
