Logo
Cryptofalka
Kezdőknek
Árfolyamok
Tagságok
Tőzsdék
Shop

A weboldalunk sütiket használ 🍪

Az Ön adatainak védelme fontos a számunkra! Tájékoztatjuk, hogy honlapunk a felhasználói élmény fokozása, a webhelyhasználat megértése és marketing tevékenységeink támogatása érdekében sütiket alkalmazhat. További információ erről az Adatvédelmi Tájékoztatóban.
Újra elérhető lehet az Anthropic Fable 5 és Mythos 5

Újra elérhető lehet az Anthropic Fable 5 és Mythos 5

Az Anthropic Fable 5 új biztonsági szűrőkkel térhet vissza, miután Washington feloldotta a június 12-i korlátozásokat.

Röviden:

  • Az amerikai kormány szerdán feloldotta a Fable 5 és Mythos 5 korlátozásait.
  • Az Anthropic új osztályozókkal blokkolna több kiberbiztonsági feladatot, két hét kormányzati egyeztetés után.
  • Az Amazon kutatói olyan módszert találtak, amellyel a Fable 5 több szoftverhibát azonosított.
  • A Project Glasswing keretében az Amazon, a Microsoft és a Google is részt vesz a jailbreak-ek értékelésében.

A június 12-i korlátozásokat szerdán oldotta fel Washington

Az Anthropic Fable 5 ügye azért került gyorsan szabályozási pályára, mert a június 12-i exportkorlátozás nem egy fokozatos hozzáférés-szűkítés volt: a vállalatnak azonnal le kellett állítania a nyilvános hozzáférést a Fable 5 és a Mythos 5 modellekhez.

A döntés hátterében egy olyan beszámoló állt, amelyben kutatók megkerülték a Fable 5 biztonsági védelmeit. Washington ezt nem egyszerű termékhibaként kezelte, hanem potenciális nemzetbiztonsági kiberkockázatként, ha hasonló modelleket rosszindulatú célokra használnának.

A szerdai feloldás így nemcsak technikai engedmény: azt jelzi, hogy az amerikai kormány a hozzáférés visszaadását feltételekhez és új védelmi lépésekhez kötötte.

Két hét egyeztetés és új szűrők után jött az engedély

Az engedélyt két hét kormányzati egyeztetés előzte meg, amelyben az Anthropic és az amerikai kormány a Fable 5 elemzésén és jóváhagyásán dolgozott. Howard Lutnick amerikai kereskedelmi miniszter szerdán az X-en arról írt, hogy a cél az amerikai kormányzaton belüli összhang és az Egyesült Államok AI területén betöltött vezető szerepének erősítése volt.

Az Anthropic közlése szerint a modell új osztályozókkal tér vissza, amelyek több kiberbiztonsági feladatot felismernek és blokkolnak. Susie Wiles, a Fehér Ház kabinetfőnöke szintén az X-en azt írta, a prioritás továbbra is az, hogy a legjobb AI-technológiát „minél gyorsabban és biztonságosabban” lehessen bevezetni.

Az Anthropic Fable 5 védelmének megkerülése indította el a vitát

A vita közvetlen kiváltó oka az volt, hogy az Amazon kutatói találtak egy módszert a Fable 5 védelmeinek megkerülésére. A megkerült modell több szoftveres sérülékenységet azonosított, ami elég volt ahhoz, hogy a kormány exportkorlátozás alá vonja a nyilvános hozzáférést.

Az Anthropic egy blogbejegyzésben azzal érvelt, hogy a kockázat nem kizárólag a Fable 5 sajátossága. A vállalat szerint gyengébb modellek is képesek lehetnek ugyanazokat a sérülékenységeket felismerni és ugyanazt az exploitot előállítani.

A helyzetet tovább élezte, hogy egy ismert AI-kutató azt állította: a júniusi indulás után 48 órán belül megkerülte a Fable 5 biztonsági korlátait, és képernyőfotókat is megosztott erről.

A Project Glasswing közös keretet készít a jailbreak-ek értékelésére

A Project Glasswing célja, hogy közös mércét adjon arra, mennyire súlyos egy AI jailbreak. Az Anthropic az Amazonnal, a Microsofttal, a Google-lel és más partnerekkel kezdett konszenzusos keretrendszert kidolgozni a jailbreak-ek értékelésére.

A kezdeményezést áprilisban jelentették be, kifejezetten az AI-hoz kapcsolódó kiberbiztonsági fenyegetések kezelése miatt. A mostani Fable 5-ügy ennek gyakorlati tétet adott: nem mindegy, hogy egy megkerülés csak szabályszegő válaszokat eredményez, vagy sérülékenységek és exploitok előállításához vezet.

Az Anthropic emellett bővíti az együttműködést az amerikai kormánnyal a modellek tesztelésében és a védelmi megoldások értékelésében. Ez előzetes modellhozzáférést, jailbreak-ekről és visszaélésekről szóló információcserét, valamint közös kutatási erőforrásokat is jelent.

Hogyan értelmezzük ezt a hírt?

Mi úgy látjuk, ez alapvetően jó döntés: a Fable 5 visszaengedése azt mutatja, hogy a tartós tiltásnál jobb út a mérhetőbb, tesztelhetőbb védelem és a gyors javítás. A június 12-i azonnali leállítás érthető volt egy nemzetbiztonsági kiberkockázatnál, de ha minden jailbreakre tartós hozzáféréskorlátozás a válasz, az könnyen visszafoghatja az élvonalbeli AI-modellek hasznos és ellenőrzött felhasználását is.

A fő tanulság szerintünk az, hogy az ilyen rendszereknél már nem elég a gyártó saját ígérete a biztonságról. Közös, iparági mércére van szükség arra, mennyire súlyos egy jailbreak, és mikor jelent valódi kiberbiztonsági veszélyt. Az új osztályozók önmagukban nem oldanak meg mindent, de a Project Glasswing és a kormányzati tesztelés felé tett lépések jó irányt jelentenek: nem elzárni kell a technológiát, hanem fegyelmezettebben, átláthatóbban bevezetni.

Mit érdemes még tudni?

Mi az az AI jailbreak?

Az AI jailbreak olyan módszer, amellyel valaki megpróbálja megkerülni egy mesterségesintelligencia-modell biztonsági korlátait. Ilyenkor a modell olyan választ is adhat, amit normál működés mellett blokkolnia kellene.

Mit jelent az AI-modellek biztonsági osztályozója?

A biztonsági osztályozó olyan szűrőrendszer, amely megpróbálja felismerni a tiltott vagy veszélyes kéréseket, mielőtt a modell választ adna rájuk. Kiberbiztonsági feladatoknál például segíthet blokkolni a visszaélésre alkalmas utasításokat.

Mi az az exploit?

Az exploit egy szoftverhiba vagy sérülékenység kihasználására szolgáló módszer, kód vagy eljárás. Önmagában lehet kutatási célú is, de rosszindulatú felhasználásnál rendszerek feltörésére vagy adatok megszerzésére használhatják.

Mi az a Project Glasswing?

A Project Glasswing az Anthropic, az Amazon, a Microsoft, a Google és más partnerek együttműködése az AI-hoz kapcsolódó kiberbiztonsági fenyegetések értékelésére. A cél egy közös keretrendszer kialakítása arra, hogyan mérjék az AI jailbreak-ek súlyosságát.

Kapcsolódó hírek

Hogy mi is az a Cryptofalka Kereskedő Közösség?

Elemzések a jövő pénzéről a Bitcoinról és a többi kriptovalutáról! Havi oktatások, élő streamek, tippek, hírek, közösség! Ha szeretnél hatékonyan bekapcsolódni a digitális valuták világába vagy ha már ismerős a szakma de szeretnéd elmélyíteni a tudásodat és profitálni a digitális pénz forradalmából, akkor nálunk a helyed! Hiszen a Platformról minden információt, tippet és oktatást egy forrásból érhetsz el, méghozzá a szakma legjobbjaitól 2018-óta!

Válassz tagságaink közül

Bitcoin és kriptovaluta árfolyamok

Bitcoin BTC -0.89% $58,486.44
Ethereum ETH -0.47% $1,566.94
BNB BNB -0.85% $541.95
XRP XRP 0.05% $1.04
Solana SOL 2.05% $74.65
Dogecoin DOGE -0.22% $0.07106
Cardano ADA 4.73% $0.1505
Litecoin LTC -1.35% $41.74
További árfolyamok
A CryptoFalka által szolgáltatott információk és elemzések a szerzők magánvéleményét tükrözik, a megjelenő írások nem valósítanak meg a 2007. évi CXXXVIII. törvény (Bszt.) 4. § (2). bek 8. pontja szerinti befektetési elemzést és a 9. pont szerinti befektetési tanácsadást. Bármely befektetési döntés meghozatala során az adott befektetés megfelelőségét csak az adott befektető személyére szabott vizsgálattal lehet megállapítani, melyre a CryptoFalka nem vállalkozik. Az egyes befektetési döntések előtt éppen ezért tájékozódjon részletesen és több forrásból, szükség esetén konzultáljon személyes befektetési tanácsadóval!