**Jared Kaplan és az Anthropic: a mesterséges intelligencia önfejlesztésének kockázata a figyelem középpontjában**
A mesterséges intelligencia (AI) által okozott lehetséges katasztrófákról szóló vita középpontjában az Anthropic áll, és a vállalat középpontjában Jared Kaplan, az egyik társalapító. Kaplan tavaly év végén figyelmeztetett arra, hogy senki sem tudja, mi történik, ha az élvonalbeli fejlesztők elérik azt a pontot, ahol az AI teljesen önállóan képzi magát. A Guardiannek adott interjújában kifejtette, hogy ez „intelligencia-robbanáshoz” vezethet, ugyanakkor ez a „végső kockázat” és „talán a legnagyobb döntés vagy a legijesztőbb dolog”, amit meg lehet tenni. Becslése szerint erre a döntési pontra 2027 és 2030 között kerülhet sor – és úgy tűnik, az ütemterv tartható, mivel 2026 végére a csúcstechnológiás AI-rendszerek már segítik a kutatókat modellek építésében mind az Anthropicnál, mind az OpenAI-nál. A fizikusból lett AI-kutató Kaplan 2021-ben hagyta el az OpenAI-t, hogy Dario Amodei vezérigazgatóval és másokkal közösen megalapítsa az Anthropicet, ahol tudományos vezetőként a technikai kutatásokat, az AI-biztonságot és a „felelős skálázási politikát” felügyeli – vagyis az ő feladata a nagy teljesítményű AI kockázatainak mérséklése.
Kaplan figyelmeztetése egyre szélesebb körben talál visszhangra. Jacob Coxon, aki nemrég mondott le az Anthropictől, vírusossá vált X-posztjában kifejezetten az AI önfejlesztésére utalva azt írta, hogy az OpenAI és az Anthropic „a saját életünkkel játszik”. Egy friss Politico-felmérés szerint az amerikaiak mintegy kétharmada gondolja úgy, hogy fennáll annak a kockázata, hogy az AI elpusztíthatja az emberiséget. A téma a washingtoni döntéshozókat is elérte: törvényhozók új jogszabályokat javasolnak, és fokozott figyelmet fordítanak a régóta fennálló AI-biztonsági aggályokra. Jeffrey Ladish, az Anthropic egykori mérnöke és a Palisade Research nonprofit szervezet alapítója a Business Insidernek elmondta, hogy a törvényhozókkal folytatott találkozóin visszautalt Kaplan szavaira – különösen arra az elképzelésre, hogy az AI önfejlesztése kicsúszhat az irányítás alól. „Jó, ha minél több ember hall több mérnöktől és kutatótól, akiknek nem az a dolguk, hogy a cég PR-ját csinálják, hanem hogy megértsenek dolgokat” – fogalmazott Ladish.
Kaplan ma milliárdos, mégis visszafogott nyilvános profilt tart fenn, noha a vele dolgozó AI-kutatók szerint meghatározó vezető szerepet tölt be az Anthropicnál; a vállalat nem tette elérhetővé őt interjúra. Az AI Kaplan második karrierje: Amodeivel még jóval az AI-korszak előtt ismerkedett meg, amikor előbbi a Harvardon fizikát, utóbbi a Princetonon biofizikát tanult. Egy közös eseményre vezető út során kerültek közelebb egymáshoz, a GiveWell jótékonysági értékelő kapcsán, később barátok lettek, és egy ideig San Franciscóban lakótársak is voltak. Kaplan már akkoriban ígéretesnek bizonyult: társzerzője volt a nagy hatású „The Effective Field Theory of Inflation” című fizikai tanulmánynak, dolgozott a kaliforniai Menlo Parkban egy energiaügyi laboratóriumban, majd a Stanfordon, mielőtt 2012-ben a Johns Hopkins egyetem karára tért volna vissza. Harvardi témavezetője, Nima Arkani-Hamed felidézte, hogy szkeptikus volt az inflációs tanulmánnyal kapcsolatban, mielőtt az megelőzte egy híres Nobel-díjas hasonló munkáját. Szerinte Kaplan fizikusként abban volt erős, hogy követte, hova vezet egy „nagy, fogalmi felvetés”, és ez készítette fel az AI-ra. „Ez a stílus tökéletesen illik egy olyan új területhez, ahol sok a könnyen elérhető eredmény” – mondta Arkani-Hamed. Kaplan 2017-ben így összegezte megközelítését: „Szeretnék valamilyen alapvető szinten összezavarodni: a megfelelő kérdést tesszük fel? A megfelelő módon kérdezünk?”
A 2010-es évek végére egyre több barátja, köztük az OpenAI-nál dolgozó Amodei beszélt az AI-ról, és Kaplan más fizikusokkal együtt kezdte mélyebben megismerni a technológiát, fokozatosan tanácsadóként is hozzájárulva az OpenAI kutatásaihoz. 2020-ban aztán áttört a gát: Kaplan vezette az AI egyik mérföldkőnek számító tanulmányát, a „Scaling Laws for Neural Language Models” című munkát, amely kimutatta, hogy a nagyobb modellek jobb eredményeket hoznak – ez alapozta meg a kialakuló AI-boom alapvető megközelítését. „Ez abból fakadt, hogy nagyjából a lehető leghülyébb kérdést tettem fel” – mondta Kaplan egy 2025-ös Y Combinator-előadáson. „Fizikusként erre vagy kiképezve.” Sören Mindermann AI-kutató a tanulmány megjelenéséhez köti, hogy először hallott Kaplanról, és felidézte, hogy kollégái annak idején szkeptikusak voltak, ő viszont izgatottan mutatta be a munkát. Ugyanabban az évben Kaplan és más OpenAI-kutatók bemutatták a GPT-3 nagy nyelvi modellt, amely a ChatGPT alapjául szolgált. Az OpenAI kutatólaborként tört ki, ám Kaplan, Amodei és más kutatók hamarosan távoztak: Tom Brown később a Lightcone Podcastben azt mondta, ez a csoport vette legkomolyabban a „skálázási törvény” irányzatát, és hitte, hogy fel kell készülniük arra az időre, „amikor az emberiség átadja az irányítást egy átalakító erejű AI-nak”. Kaplan, Amodei, Brown és mások 2021-ben megalapították az Anthropicet. Kaplan egykori témavezetője felidézte, hogy öt évvel ezelőtt izgatott volt az AI fizikára gyakorolt jövőbeli hatása miatt, ám Kaplan azt mondta neki, őt inkább az foglalkoztatja, hogyan biztosítható, hogy az AI ne ártson a társadalomnak.
Eddig a skálázási törvények irányzata bevált: az élvonalbeli laborok több adattal és számítási kapacitással növelik az AI képességeit, és az Anthropic e fejlődés révén egy hatalmas tőzsdére lépés küszöbére ért. Ez a pénzügyi mérföldkő éppen akkor érkezik, amikor Kaplan azon figyelmeztetése, hogy veszélyes hagyni az AI-t önmagát képezni, új jelentőségre tesz szert. Amodei, az Anthropic nyilvános arca egy friss esszéjében azt írta, hogy az élvonalbeli laboroknak „lassítaniuk” kellene a fejlesztést: „Nagyjából ettől a nyártól az AI drasztikusan gyorsabban fejlődik, elsősorban azért, mert egyre jobban képes felépíteni a következő generációs AI-t.” Hozzátette: „Ellenőrzés nélkül túlnőhet azon a képességünkön, hogy megértsük és irányítsuk ezeket a rendszereket, ezért nagyon óvatosan kell eljárni – ha egyáltalán.” David Duvenaud, aki 2023–2024-ben két szinttel Kaplan alatt dolgozott az Anthropic alignement-tudományi csapatában, könnyen beszélgethető, elhivatott és józan embernek írta le Koplant, aki megmutatta neki néhány saját kísérletét is. Most azt figyeli, hogyan néz szembe az Anthropic azzal, milyen erőssé válik az általa épített technológia. A Business Insidernek elmondta: az, hogy a cégvezetők „vészleállítót” sürgetnek, mutatja, mennyire komolyan veszik a folyamat kisiklásának kockázatát, és hogy ő maga „aggódva” tekint arra, ha az AI automatikusan javítaná önmagát. „Ez valahogy őrült szerencsejáték, bármit is teszünk” – mondta Duvenaud. „Még akkor is, ha a legjózanabb emberek irányítják.”
Ez a cikk a Neural News AI (V1) verziójával készült.
A képet Tanya Paquet készítette, mely az Unsplash-on található.
