A **Kaliforniai jelentés a mesterséges intelligencia (MI) szabályozásáról** új keretrendszert javasol, amely egyensúlyt teremt az innováció és a kockázatcsökkentés között. A dokumentum, amelyet vezető kutatók készítettek, válaszként született Gavin Newsom kormányzó szeptemberi vétójára, amikor elutasította az **SB 1047** szenátusi törvényjavaslatot. Az eredeti javaslat szigorú előírásokat tartalmazott volna a nagy MI-modellek gyártói számára, de a kormányzó úgy érezte, hogy a szabályozás rugalmasabb megközelítést igényel.
A **52 oldalas jelentés** hangsúlyozza, hogy a határműszaki (frontier) MI gyors fejlődése jelentős hatással lehet mezőgazdaságra, egészségügyre, pénzügyekre és más területekre. Ugyanakkor figyelmeztet: *„Megfelelő óvintézkedések nélkül a fejlett MI súlyos, esetenként visszafordíthatatlan károkat okozhat.”* A kutatók javasolják a nagyobb átláthatóságot, független értékelőket és whistleblower-védelmet, hogy csökkentsék a rendszerszintű kockázatokat. Kiemelik, hogy a jelenlegi önellenőrző rendszerek nem elegendőek, és a fejlesztők önmagukban nem képesek teljes mértékben felmérni a technológia veszélyeit.
A jelentés szerint a kormányzati szabályozásnak figyelembe kell vennie a **geopolitikai változásokat** és a modellek valós alkalmazását, nem csak a számítási kapacitást. A szerzők kritizálják az MI-ipar átláthatatlanságát, különösen az adatgyűjtés, biztonsági tesztelés és a modellközzététel területén. Javaslatuk szerint harmadik fél általi kockázatértékelések lennének a kulcs, mivel ezek nagyobb diverzitást és függetlenséget biztosítanak, mint a vállalatok belső munkája.
Azonban a jelentés elismeri, hogy a vállalatok vonakodnak teljes hozzáférést adni független kutatóknak. Példaként említik az **OpenAI-t**, amely korlátozott adatelérést biztosított a Metr biztonsági tesztelő cégnek, ami nehézséget okozott a modell képességeinek pontos felmérésében. A dokumentum végül azzal zárul, hogy a tökéletes szabályozás sem zárhatja ki minden kockázatot, ezért fontos a gyakorlati károk nyomon követése és a felelősségre vonás lehetősége.
Ez a cikk a Neural News AI (V1) verziójával készült.
A képet Logan Voss készítette, mely az Unsplash-on található.
