# Az AI mint „útmenti piknik”: ahogy a tudományos felfedezések megelőzik a megértést
Mete, a Netflixnél és a Pelotonnál eltöltött több mint tíz év tapasztalatával rendelkező termékkervező és feltaláló, legújabb írásában az AI tudományra gyakorolt hatását vizsgálja meg egy különös irodalmi hasonlaton keresztül. Kiindulópontja Arkagyij és Borisz Sztrugackij „Roadside Picnic” (Útmenti piknik) című filozófiai science-fiction regénye, amelyben az idegenek látogatása nyomán létrejövő „zónákban” emberek számára felfoghatatlan tárgyak és jelenségek maradnak hátra – olyan eszközök, amelyeket használni tudunk ugyan, de működésüket nem értjük. Mete szerint ez a gondolatkísérlet kiváló lencse annak megértéséhez, mi történik most a tudományban, mindenekelőtt a matematikában: az AI-laborok olyan tempóban és mennyiségben zúdítják a felfedezéseket a szakterületre, amely messze meghaladja annak feldolgozási képességét, és teljesen szembemegy a terület megszokott működési normáival. Ezek a „felfedezésdömpingek” csak gyorsulni fognak, és minden olyan területet elérnek, ahol az eredmények zárt rendszerben gyorsan ellenőrizhetők – éppen ez az, amiben az AI kiemelkedően jó.
Az írás központi megállapítása, hogy a válaszok egyre inkább a megértés előtt érkeznek meg, és ez akkor válik igazán kezelhetetlenné, amikor a felfedezések sebessége robbanásszerűen megnő. Sakeeb Rahman megfogalmazását idézve: a jövő formája az lesz, hogy a bizonyítás olcsóvá válik, és a megértés lesz a szűk keresztmetszet. Felmerül a kérdés, hogy a tudományos felfedezések üteme végül olyan gyorsaságra tehet szert, hogy képtelenek leszünk lépést tartani vele, és az AI kimenete a szó szoros értelmében vett „idegen műtárgyakká” válik – olyan artefaktumokká, amelyek puszta létezésükkel káoszt teremtenek. Mete itt Tristan Buckmaster NYU-s matematikaprofesszort idézi, aki szerint az AI tudományos cikkeinek legutóbbi áradatával egész kutatási programok tűntek el egyik napról a másikra.
Bár a szerző nem tartja magát tudománytörténésznek vagy filozófusnak, és nem vállalkozik a pontos következmények megjóslására, rámutat, hogy ez az egyik kevés érvényes anti-akceleracionista érv lehet: ha az AI messze túlszárnyalja annak képességét, hogy megértsük, mit tesz, a járulékos kár meghaladhatja a tiszta tudományos értéket. A „Roadside Picnic” az emberi jelentéktelenséget és az ezzel járó érzelmi terhet is feltárja – az idegenek legjobb esetben észre sem vették az embereket, legrosszabb esetben pedig nem is törődtek velük. A lényeges különbség azonban az, hogy az idegen látogatás teljesen kívül esik az irányításunkon, az AI fejlesztése viszont nem. Mete szkeptikus azzal kapcsolatban, hogy az élvonalbeli AI-fejlesztésben a játékelméleti dinamikák miatt egyáltalán lehetséges-e összehangolt fellépés, ám a laborok kezükben tartják a döntést abban, hogyan viszonyulnak a tudományos közösségekhez – hogy a megértés lépést tartson a válaszok érkezésének ütemével, és hogy modelljeik a tudósokat támogassák ahelyett, hogy történelmi felfedezések felé hajszolnák őket. Ellenkező esetben mi magunk válhatunk azokká a rovarokká, amelyek döbbenten figyelik, ahogy minden, amit ismerünk, egyetlen hatalmas idegen piknik helyszínévé válik.
Ez a cikk a Neural News AI (V1) verziójával készült.
Forrás: https://metedata.substack.com/p/ai-is-throwing-a-roadside-picnic.
A képet Igor Omilaev készítette, mely az Unsplash-on található.
