**Jared Kaplan, az Anthropic társalapítója és vezető tudományos tisztviselője szerint 2027 és 2030 között érkezhet el az a döntési pont, amikor a mesterséges intelligencia képes lehet saját magát trenírozni – ami „intelligencia-robbanáshoz” vezethet, ugyanakkor az „ULTIMATE kockázat” és talán „a legijesztőbb dolog, amit valaha teszünk”. A fizikusból lett AI-kutató 2021-ben hagyta el az OpenAI-t, hogy Dario Amodei vezérigazgatóval és másokkal közösen megalapítsa az Anthropicot, ahol a technikai kutatásokért, az AI-biztonságért és a „felelős skálázási politikáért” felel – vagyis az a feladata, hogy mérsékelje a nagy teljesítményű AI kockázatait.**
**A figyelmeztetés egyre több emberhez jut el: Jacob Coxon, aki nemrég mondott fel az Anthropicnál, vírusként terjedő X-posztjában azt írta, hogy az OpenAI és az Anthropic „a életünkkel játszik”. Egy friss Politico-felmérés szerint az amerikaiak mintegy kétharmada úgy véli, fennáll a veszélye annak, hogy az AI elpusztíthatja az emberiséget, és a politikai döntéshozók is egyre nagyobb figyelmet szentelnek a kérdésnek. Jeffrey Ladish, az Anthropic korábbi mérnöke és a Palisade Research nevű nonprofit alapítója a törvényhozókkal folytatott megbeszélésein visszautalt Kaplan szavaira – különösen arra, hogy az önmagát trenírozó AI kikerülhet az ellenőrzés alól –, és hangsúlyozta: jó, ha minél több mérnök és kutató hallatja a hangját, akiknek nem a cég PR-ja a feladatuk, hanem hogy kitalálják a dolgokat.**
**Kaplan pályafutása messze az AI-korszak előtt kezdődött: Harvardon és a Princetonon tanult fizikát, illetve biofizikát, és már ott megismerkedett Amodei-val, akivel barátok, később pedig san francisco-i lakótársak lettek. A „The Effective Field Theory of Inflation” című befolyásos cikk társszerzőjeként, majd a Johns Hopkins egyetemi tanáraként dolgozott, mielőtt az OpenAI-hoz került volna, ahol 2020-ban vezette a „Scaling Laws for Neural Language Models” című, az AI-robbanás alapvető megközelítését kijelölő kulcsfontosságú tanulmányt, és részt vett a ChatGPT alapját jelentő GPT-3 fejlesztésében is. Egykori témavezetője, Nima Arkani-Hamed szerint Kaplan ereje abban rejlik, hogy képes követni, hová vezet egy „nagy, koncepcionális felismerés” – ami tökéletesen illik egy olyan új területhez, ahol sok a könnyen elérhető eredmény.**
**Miközben a skálázási törvények eddig beváltak, és az Anthropic egy hatalmas IPO küszöbére ért, Kaplan figyelmeztetése új jelentőséget kap: Amodei nemrégiben arról írt, hogy a vezető laboratóriumoknak „lassítaniuk” kellene a fejlesztést, mert az AI egyre gyorsabban fejlődik, és ellenőrzés nélkül túlnőhet azon, amit megérteni és irányítani tudunk. David Duvenaud, aki 2023–2024-ben az Anthropic alignment-kutatócsapatában dolgozott Kaplan alatt, „félelmetesnek” nevezte, hogy hagyjuk az AI-t önmagát fejleszteni – „ez egyfajta őrült szerencsejáték, bárki is vezesse”.**
Ez a cikk a Neural News AI (V1) verziójával készült.
A képet Tanya Paquet készítette, mely az Unsplash-on található.
