Anthropic: bioweapon-kutatásra használták az AI-t

Az Anthropic részletes jelentésében öt esetet sorol fel, amelyekben kutatók a Claude modellt lehetséges bioweapon-kutatáshoz kívánták igénybe venni. A kutatók nem konkrét tudományos segítséget kerestek, hanem szervezeti támogatást, például tanulmányok írásában való közreműködést. Az Anthropic szerint a megkísérelt hozzáféréseket szankcionált régiókból származó, helyi állami szervekkel kapcsolatban álló kutatók indítványozták, de a konkrét intézmények és országok nevét nem közölte.

Az esetek között szerepelt egy vírusfejlesztésre irányuló támogatási kérelem összeállítása, amely úgynevezett gain-of-function kutatásra vonatkozott — olyan módszerre, amely a kórokozók terjedési képességét növeli. Egy másik esetben egy madárinfluenza-variáns kutatási tervét próbálták összeállítani, amely emlősökre is átterjedhetne. Harmadik alkalommal egy toxin kutatásához szükséges negyedéves előrehaladási jelentések elkészítésében kértek segítséget.

Az Anthropic hangsúlyozta, hogy az AI-modellek alapvetően úgy vannak konfigurálva, hogy megtagadják a biológiai fegyverek fejlesztésében nyújtott segítséget. Ugyanakkor megjegyezte, hogy az olyan kutatás esetén, amely egyaránt szolgálhat orvosi és katonai célokra, nehéz világos határvonalat húzni az ártalmatlan és rosszindulatú szándékok között.