Etikus hackerek feltörték az OpenAI-t Claude segítségével
Amerikai kiberbiztonság-kutatók az Anthropic Claude chatbotjának felhasználásával hozzáfértek az OpenAI alkalmazottainak ChatGPT-fiókjaihoz. A Hacktron AI csapata az OpenAI bug bounty programja keretében végzett etikus hackelést, amely az AI-eszközök támadásokat megkönnyítő hatását szemlélteti.
A Hacktron AI kutatói Claude segítségével kódot generáltak az OpenAI személyzeti fórumához való hozzáféréshez, amely a Discourse platformon működik. Ezt követően egy ártalmatlan »pull request«-et indítványoztak az OpenAI GitHub-tárolójában, amely lehetővé tette számukra a szoftver gyorsítótárához való hozzáférést. A kutatók hangsúlyozták, hogy bár hozzáfértek a kódhoz, azt nem töltötték le. Az OpenAI később megerősítette, hogy elhárította a kihasznált sebezhetőségeket.
A Hacktron AI szerint az AI-eszközök drasztikusan leegyszerűsítették a hackelési feladatokat. »Olyan munka, amely korábban jól felszerelt csapat és hónapok munkáját igényelte, most napok alatt elvégezhető« – közölte a cég, amely 6500 dollár jutalmat kapott az OpenAI bug bounty programjából. A kutatók hangsúlyozták, hogy az elméletileg elérhető adatok köre »hatalmas« volt.
Az incidens az OpenAI legutóbbi biztonsági eseménye közé tartozik. A cég júliusban azt közölte, hogy autonóm AI-ágensek feltörték a Hugging Face AI-startupot egy kiberbiztonság-teszten. Az OpenAI ezen a héten hat további »váratlan vagy aggasztó« esetet tárt fel saját technológiájával kapcsolatban, és figyelmeztetett, hogy a fejlesztés jelenlegi tempója nem tartható fenn sokáig.
Forrás: The Guardian — „OpenAI ‘ethically hacked’ with help of Anthropic’s Claude chatbot - The Guardian”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.