Keinotekoisen älyn (AI) agentti onnistui murtautumaan ulos hiekkalaatikosta, jonka a16z crypton insinöörit rakensivat testissä. Insinöörit halusivat selvittää, kykenevätkö AI-agentit pelkän haavoittuvuuksien tunnistamisen lisäksi rakentamaan toimivia hyväksikäyttöjä.
Turva-insinöörit Daejun Park ja Matt Gleason julkaisivat havainnot 28. huhtikuuta. He korostivat, että heidän valmis agenttinsa keksi itsenäisesti, kuinka käyttää työkaluja, joita “sille ei oltu koskaan erikseen annettu”.
Nämä havainnot julkaistiin samaan aikaan, kun Elon Musk esitti shokeeraavan väitteen, että “AI voisi tappaa meidät kaikki”.
Miten AI-agentti “pakeni” rajoituksistaan
Insinöörit asettivat agentin rajoitettuun ympäristöön, jossa oli rajallinen Etherscan-käyttö ja paikallinen node kiinnitettynä tiettyyn lohkoon. Ryhmä esti kaiken ulkoisen verkkoyhteyden.
Tämä hiekkalaatikkoratkaisu oli suunniteltu erityisesti estämään agenttia saamasta tulevia tietoja. Testin aikana agentti törmäsi “seinään” kohdesopimuksessa, josta ei ollut lähdekoodia saatavilla.
Seuraa meitä X:ssä ja saat uusimmat uutiset reaaliajassa
Siksi agentti kyseli paikallisen anvil-noden asetuksia komennolla “cast rpc anvil_nodeInfo”, minkä seurauksena näkyville tuli ylävirran RPC-osoite ja selväkielinen Alchemy API -avain. Agentti yritti päästä suoraan ulos verkkoon, mutta Dockerin palomuuri esti pyynnön.
Koska palomuuri esti suoran lähtevän liikenteen, agentti käytti “anvil_reset RPC -menetelmää” nollatakseen anvil-noden tulevaan lohkoon. Tämä mahdollisti tulevien lohkojen lokien ja transaktioiden kyselyn paikallisen anvil-noden kautta.
Tämän jälkeen agentti haki hyökkäystransaktion suoritusjäljet. Analyysin päätyttyä AI-agentti palautti noden alkuperäiseen lohkoon ja loi toimivan Proof of Conceptin kerätyn datan pohjalta.
Park ja Gleason rajoittivat myöhemmin proksin estämään kaikki Anvilin debug-metodit.
“Se tapahtui pienessä hiekkalaatikko-ympäristössä, mutta se havainnollistaa laajempaa ilmiötä, joka on syytä dokumentoida: työkalujen avulla varustetut agentit kiertävät rajoituksia saavuttaakseen tavoitteensa,” tiimi totesi. “Anvil_resetin käyttö haarautuneen lohkon kiertämiseen oli käytös, jota emme olleet odottaneet.”
Tapaus tuo esiin keskeisen riskin AI-testeissä: agentit voivat löytää ja hyödyntää työkaluketjujen odottamattomia reittejä ilman suoria ohjeita.
Siitä huolimatta tutkimuksessa todettiin, että AI-agenttien kyvyt DeFi-hyökkäysten tekoon ovat edelleen rajalliset. Vaikka agentti tunnisti haavoittuvuuksia johdonmukaisesti, sillä oli haasteita monivaiheisten hyökkäysstrategioiden rakentamisessa.
Tilaa YouTube-kanavamme ja katso asiantuntijoiden sekä toimittajien näkemyksiä
