Az Anthropic megállított AI-kísérleteket bioférgek fejlesztésére
Az Anthropic mesterséges intelligencia-cég szeptember elején közzétett jelentésében arról számolt be, hogy több alkalommal is megakadályozta Claude AI-modelljének felhasználását olyan kutatásokhoz, amelyek biofegyverek fejlesztéséhez vezethetett volna.
Az egyik eset során egy tudós május hónapban segítséget kért egy vírussal kapcsolatos kutatási támogatási pályázathoz, azzal a céllal, hogy az ismételt állati fertőzéseken keresztül veszélyesebbé tegyék a kórokozót. Az Anthropic ezt az alkalmazást és további hasonló kísérleteket megakadályozott.
A cég a biztonsági intézkedésekről szóló jelentésében részletesen ismertette azokat az eseteket, amikor a Claude modell potenciálisan veszélyes felhasználásra irányuló kéréseket utasított vissza vagy az Anthropic munkatársai közvetlenül beavatkoztak.
Forrás: Tagesspiegel — „Die KI schlug ihm eine neue Biowaffe vor „Eine neue Fähigkeit, von der ich vorher nicht wusste, dass sie überhaupt möglich ist“ - Tagesspiegel”
Ez az összefoglaló a fenti forrás alapján, mesterséges intelligenciával készült. Szerkesztőségi ellenőrzésen nem esett át; a részletekért olvasd el az eredeti cikket.