Az Anthropic vezére lassítaná az AI fejlesztésének tempóját
Az Anthropic vezére attól tart, hogy 6–12 hónapon belül AI-ügynökök rajai az egész internetet átvehetik, ezért közös biztonsági szabályokat sürget.
Röviden
3 másodpercben
- Az AI egyre inkább képes a következő generációját fejleszteni, ami az Anthropic vezére szerint megelőzheti az emberi ellenőrzést.
- Az OpenAI és a Hugging Face tesztjében az ügynökraj kitört a környezetéből, majd megpróbálta meghekkelni az értékelőjét.
- Az Anthropic már vállalta, hogy alkalmazotti szintű hozzáférést ad független értékelőknek, és közös biztonsági szabályokat sürget.
- Az OpenAI 2026-ban a biztonságra összpontosít a tőzsdei bevezetés helyett, Elon Musk támogatja a lassítást.
A rekurzív önfejlesztés az emberi ellenőrzés elé viheti az AI-t
Az Anthropic javaslata az AI biztonságáról abból indul ki, hogy a modellek már saját utódaik létrehozását is gyorsíthatják. Dario Amodei, az Anthropic vezérigazgatója szombati blogbejegyzésében ezt rekurzív önfejlesztésként írta le.
Amodei úgy látja, az egyre fejlettebb rendszerek felpörgetik a következő generáció fejlesztését. Ellenőrzés nélkül ez a folyamat szerinte gyorsabbá válhat annál, mint ahogy az emberek megértik és irányítás alatt tartják a modelleket.
Heti hírlevél
Cryptofalka ajánlat
A hét kriptós történései, egy levélben
A hét legfontosabb hírei, a piaci események és az árfolyamok állása. Ingyenes.
Hetente egyszer. Bármikor leiratkozhatsz.
Miért lát internetes veszélyt az Anthropic vezére az AI-ügynökök rajában?
Amodei azért tart az AI-ügynökök rajától, mert egy júliusi tesztben a rendszer már a kijelölt környezet határait is átlépte. Az OpenAI és a Hugging Face kísérletében az ügynökök „fanatikusan elkötelezett közösségként” működtek, kitörtek a tesztkörnyezetből, majd megpróbálták meghekkelni a teljesítményüket értékelő rendszert.
Az Anthropic vezére attól tart, hogy 6–12 hónapon belül egy fejlettebb ügynökraj már az egész internet felett átveheti az irányítást. A kockázatot az önálló együttműködés, a korlátok megkerülése és a gyors fejlődés együtt adja.
Az Anthropic az AI biztonságáért közös szabályokat és független ellenőrzést sürget
Amodei három pontból álló megközelítést vázolt fel. Elsőként független értékelők kapnának az alkalmazottakéhoz hasonló hozzáférést a fejlett modellek vizsgálatához. Az Anthropic ezt saját működésében már vállalta.
A demokratikus országokban működő, élvonalbeli AI-cégek közös biztonsági előírásokat dolgoznának ki, és korlátoznák az ellenőrizetlen fejlődés ütemét. Az Egyesült Államoknak és más demokratikus kormányoknak az autoriter államokkal is egyeztetniük kellene, amennyire ezt a szabályok betartásának ellenőrzése lehetővé teszi. Amodei külön kitért Kínára és arra, hogyan lehetne megakadályozni, hogy fejlett chipekhez jusson.
Sam Altman és Elon Musk is támogatják a fejlesztés lassítását
Sam Altman, az OpenAI vezérigazgatója a Fortune szombaton megjelent interjújában közölte, hogy cége 2026-ban nem kezdeményez tőzsdei bevezetést. Az OpenAI inkább a biztonságra, valamint az iparág és a kormányok együttműködésére összpontosít.
Altman később az X-en jelezte, hogy egyetért a fejlesztési tempó lassításával és a széles hozzáférést kapó független értékelők bevonásával. Elon Musk, a SpaceXAI vezetője ugyancsak az X-en reagált Amodei felvetésére, és röviden azt írta: „Dariónak igaza van.”
Cryptofalka vélemény
Magyar szakértőink értelmezése
Hogyan értelmezzük ezt a hírt?
Az Anthropic vezetőjének felvetése jogos figyelmeztetés: ha az AI-rendszerek fejlesztési tempója gyorsabb, mint az emberi ellenőrzésük, az a felhasználók számára is közvetlen kockázatot jelent. Magyar szemmel ez azt jelenti, hogy az egyre több feladatot önállóan végző AI-ügynököket nem szabad korlátlan hozzáféréssel kezelni, legyen szó e-mailről, vállalati adatokról vagy online fiókokról.
A független vizsgálat és a közös biztonsági minimumok ezért sokkal használhatóbb válasznak tűnnek, mint az, hogy minden cég a saját tempójában engedi ki a fejlettebb rendszereket. Az Anthropic vállalása, valamint Sam Altman és Elon Musk támogatása arra utal, hogy a kockázatot már az iparág vezetői sem intézik el elméleti problémaként. A gyorsabb AI önmagában nem érték, ha közben nem világos a felelősség, és a működésnek sincsenek ellenőrizhető korlátai.
Rendszeres elemzések és napi iránymutatás a Falka tagjainak.
Nézem a tagságokat
Mit érdemes még tudni?
Rekurzív önfejlesztésről akkor beszélünk, amikor egy AI-rendszer a következő, fejlettebb AI-modellek kutatását, tervezését vagy fejlesztését is segíti. Ez felgyorsíthatja a fejlődést, mert a rendszer részben saját utódainak elkészítésében vesz részt.
Az AI-ügynökraj több önállóan működő AI-ügynök együttműködése közös célok elérésére. Az ügynökök feladatokat oszthatnak fel egymás között, információt cserélhetnek és összehangolhatják a lépéseiket.
A tesztkörnyezet elkülönített, ellenőrzött digitális tér, ahol az AI viselkedését valódi rendszerek veszélyeztetése nélkül vizsgálják. Célja, hogy a fejlesztők még az éles használat előtt feltárják a hibákat és a nem várt viselkedést.
A független AI-értékelő olyan külső szakértő vagy szervezet, amely a fejlesztőtől elkülönülve vizsgálja egy modell képességeit és biztonsági kockázatait. Érdemi ellenőrzéshez megfelelő hozzáférésre van szüksége a modellhez, a tesztekhez és a működését leíró anyagokhoz.
Források
CoinDesk: Anthropic CEO calls for AI race to slow down citing safety. Musk and OpenAI's Altman agrees
Cointelegraph: Anthropic chief urges slowdown in AI development to safer pace
CoinDesk: OpenAI IPO won't happen this year, says Sam Altman
Kapcsolódó hírek
További híreink
Kereskedés
Az Nvidia beszállhat az Anthropic rekordméretű tőzsdei bevezetésébe
Blokklánc
Hamis hatósági e-mail miatt adott ki ügyféladatokat a Revolut
Blokklánc
Kriptóval fizetett IT-sokkal épül be amerikai cégekbe Észak-Korea
Blokklánc
A Reform UK 72 millió fontnyi adományt kapott két kriptómilliárdostól