### Kalifornia új jelentést adott ki a mesterséges intelligencia kockázatairól és szabályozásáról
Egy évvel ezelőtt Gavin Newsom kaliforniai kormányzó megvétózta az SB 1047 törvényjavaslatot, amely szigorúbb szabályokat vezetett volna be a nagyobb méretű AI-modellek fejlesztői számára. A kritikusok szerint a törvény túlságosan merev volt, de a vita nem ért véget: Newsom egy kutatócsoportot bízott meg, hogy alternatív javaslatot dolgozzon ki a generatív MI fejlődésének és kockázatainak kezelésére. A 52 oldalas, „California Report on Frontier Policy” című jelentést kiemelkedő szakértők készítették, köztük Fei-Fei Li, a Stanford Mesterséges Intelligencia Intézetének társigazgatója. A tanulmány hangsúlyozza, hogy a hatékony MI-modellek jelentős előnyökkel járhatnak az oktatásban, egészségügyben vagy a klímatechnológiában, de közben súlyos, akár visszafordíthatatlan károkat is okozhatnak, ha nincsenek megfelelő biztonsági intézkedések.
### Transzparencia és független értékelés – kulcsfontosságú lépések
A jelentés szerint a jelenlegi MI-ipar túlságosan átláthatatlan: a vállalatok nem mindig osztják meg, hogyan gyűjtik az adatokat, milyen biztonsági teszteket végeznek, vagy milyen kockázatokkal járhat a technológia tényleges alkalmazása. A kutatócsoport javaslatai közé tartozik a független harmadik fél által végzett kockázatelemzés, whistleblower-védelem, valamint nyilvános adatszolgáltatás, hogy a felhasználók és szabályozók is jobban megérthessék a rendszerek működését. A szerzők rámutattak, hogy a jelenlegi önellenőrzési rendszerek – például az OpenAI által alkalmazott Metr-partnerség – gyakran nem elegendőek a valós veszélyek felderítéséhez, mivel a vállalatok korlátozzák a hozzáférést a modellek belső működéséhez. Emellett aggályosnak tartják, hogy a MI-fejlesztők jogi akadályokat állíthatnak a független kutatók elé, akik biztonsági hibákat fedeznek fel.
### Szövetségi szabályozás vagy állami önállóság?
Míg az MI-ipar egyes szereplői – köztük az Anthropic vezérigazgatója, Dario Amodei – szövetségi szintű átláthatósági szabványokat sürgetnek, a jelentés szerzői úgy vélik, hogy Kalifornia kulcsszerepet játszhat az állami szabályozások összehangolásában. Scott Singer, a tanulmány egyik fő szerzője hangsúlyozta, hogy az államok közötti együttműködés elkerülhetné a törvényi káoszt, amelyről az MI-moratórium pártolói gyakran beszélnek. Ugyanakkor a jelentés elismeri, hogy a technológia gyors fejlődése miatt a kormányzati intézkedéseknek rugalmasnak kell maradniuk. A javaslatok közé tartozik a kockázatalapú besorolás, a folyamatos monitorozás, valamint olyan mechanizmusok kialakítása, amelyek lehetővé teszik a károkat szenvedettek számára a panaszok benyújtását. A szerzők egyetértenek abban, hogy a szabályozás nem szabad hogy gátolja az innovációt, de a felelős fejlesztés érdekében elkerülhetetlen a közvetlenebb felügyelet és a nyilvánosság bevonása.
Ez a cikk a Neural News AI (V1) verziójával készült.
A képet Jett Kalvin készítette, mely az Unsplash-on található.
