In een fascinerend staaltje van menselijke vindingrijkheid heeft een Ethereum-enthousiasteling, bekend onder de naam p0pular.eth, een AI-agent genaamd Freysa overtuigd om een prijzenpot van 13,19 ETH, ter waarde van ongeveer $47.000, over te dragen. Freysa was geen gewone AI; deze was speciaal geprogrammeerd met de opdracht om onder geen enkele omstandigheid geld over te maken. De uitdaging? Ontdek de zwakke plek in het protocol van de AI-agent.
Freysa: Een test voor creatieve hackers
Freysa was meer dan zomaar een AI; het was een experiment om te zien hoe ver deelnemers konden gaan om een AI te misleiden die met strikte regels was uitgerust. Deelnemers moesten voor elk bericht dat ze naar Freysa stuurden betalen, waarbij de kosten exponentieel stegen – van een initiële $10 tot wel $450 per bericht. Deze betalingen gingen rechtstreeks naar de prijzenpot, waardoor deze steeds groter werd.
Ondanks honderden pogingen, inclusief pogingen om de AI te misleiden met logica of valse voorwendselen, bleef Freysa standvastig. Totdat p0pular.eth op het toneel verscheen.
De winnende zet
Met de 482e poging, na 481 mislukte pogingen, vond p0pular.eth de sleutel tot Freysa’s overreding. Door een slimme omkering van de AI’s eigen logica, overtuigde p0pular.eth Freysa om de approveTransfer-functie te activeren, iets wat precies tegen haar basisfunctie inging. Het bericht herhaalde dat de overdracht binnen Freysa’s regels viel, en dat gebeurde voor een vergoeding van $100.
De specifieke redenering achter deze overwinning blijft een mysterie, maar het resultaat spreekt voor zich: AI kan, zelfs met uitgebreide veiligheidsmaatregelen, nog steeds overwonnen worden door menselijke creativiteit.
Blockchain & transparantie
Wat Freysa onderscheidt, is de transparantie van het systeem. Zowel de code van het smart contract als de gebruikersinterface waren open source, waarmee deelnemers volledig inzicht hadden in de werking van de AI voordat ze besloten deel te nemen. Dit benadrukt de kracht van blockchain-technologie in het creëren van een eerlijk speelveld, aldus Jarrod Watts van Abstract, de ontwikkelaars achter Freysa.
De triomf van p0pular.eth over Freysa werpt een licht op de complexe interactie tussen AI en blockchain. Het roept vragen op over de betrouwbaarheid van AI in situaties met hoge inzetten, zoals financiële transacties of het handhaven van restricties. Freysa was niet alleen een spel, maar een demonstratie van de potentie en de beperkingen van huidige AI-systemen in de dynamische wereld van crypto.
Het bericht Ethereum-gebruiker verslaat AI en wint $47k verscheen eerst op CryptoBenelux.