Újra elérhető lehet az Anthropic Fable 5 és Mythos 5

Az Anthropic Fable 5 ügye azért került gyorsan szabályozási pályára, mert a június 12-i exportkorlátozás nem egy fokozatos hozzáférés-szűkítés volt: a vállalatnak azonnal le kellett állítania a nyilvános hozzáférést a Fable 5 és a Mythos 5 modellekhez.

A döntés hátterében egy olyan beszámoló állt, amelyben kutatók megkerülték a Fable 5 biztonsági védelmeit. Washington ezt nem egyszerű termékhibaként kezelte, hanem potenciális nemzetbiztonsági kiberkockázatként, ha hasonló modelleket rosszindulatú célokra használnának.

A szerdai feloldás így nemcsak technikai engedmény: azt jelzi, hogy az amerikai kormány a hozzáférés visszaadását feltételekhez és új védelmi lépésekhez kötötte.

Az engedélyt két hét kormányzati egyeztetés előzte meg, amelyben az Anthropic és az amerikai kormány a Fable 5 elemzésén és jóváhagyásán dolgozott. Howard Lutnick amerikai kereskedelmi miniszter szerdán az X-en arról írt, hogy a cél az amerikai kormányzaton belüli összhang és az Egyesült Államok AI területén betöltött vezető szerepének erősítése volt.

Az Anthropic közlése szerint a modell új osztályozókkal tér vissza, amelyek több kiberbiztonsági feladatot felismernek és blokkolnak. Susie Wiles, a Fehér Ház kabinetfőnöke szintén az X-en azt írta, a prioritás továbbra is az, hogy a legjobb AI-technológiát „minél gyorsabban és biztonságosabban” lehessen bevezetni.

A vita közvetlen kiváltó oka az volt, hogy az Amazon kutatói találtak egy módszert a Fable 5 védelmeinek megkerülésére. A megkerült modell több szoftveres sérülékenységet azonosított, ami elég volt ahhoz, hogy a kormány exportkorlátozás alá vonja a nyilvános hozzáférést.

Az Anthropic egy blogbejegyzésben azzal érvelt, hogy a kockázat nem kizárólag a Fable 5 sajátossága. A vállalat szerint gyengébb modellek is képesek lehetnek ugyanazokat a sérülékenységeket felismerni és ugyanazt az exploitot előállítani.

A helyzetet tovább élezte, hogy egy ismert AI-kutató azt állította: a júniusi indulás után 48 órán belül megkerülte a Fable 5 biztonsági korlátait, és képernyőfotókat is megosztott erről.

A Project Glasswing célja, hogy közös mércét adjon arra, mennyire súlyos egy AI jailbreak. Az Anthropic az Amazonnal, a Microsofttal, a Google-lel és más partnerekkel kezdett konszenzusos keretrendszert kidolgozni a jailbreak-ek értékelésére.

A kezdeményezést áprilisban jelentették be, kifejezetten az AI-hoz kapcsolódó kiberbiztonsági fenyegetések kezelése miatt. A mostani Fable 5-ügy ennek gyakorlati tétet adott: nem mindegy, hogy egy megkerülés csak szabályszegő válaszokat eredményez, vagy sérülékenységek és exploitok előállításához vezet.

Az Anthropic emellett bővíti az együttműködést az amerikai kormánnyal a modellek tesztelésében és a védelmi megoldások értékelésében. Ez előzetes modellhozzáférést, jailbreak-ekről és visszaélésekről szóló információcserét, valamint közös kutatási erőforrásokat is jelent.