Neural hírek logo

Kalifornia új jelentése az AI kockázatokról és szabályozásáról

A The Verge vezető mesterséges intelligencia riportere, aki több mint öt éve foglalkozik az AI témakörével, és munkái megjelentek a CNBC, MIT Technology Review és a Wired UK lapjaiban is. Szeptemberben mindenki a Kaliforniai Szenátus 1047-es törvényjavaslatára figyelt, amely Gavin Newsom kormányzó asztalára került – ám ő vétóval elutasította a vitatott szabályozást. A SB 1047 kötelezővé tette volna a nagy AI-modellek gyártói számára, különösen azoknak, amelyek 100 millió dollárba vagy többbe kerülnek a kiképzésük, hogy teszteljék azokat bizonyos veszélyekre. Az AI-iparág whistleblowerei nem örültek a vétónak, ellenben a nagy techcégek többsége igen. Azonban a történet itt nem ért véget. Newsom, aki túlságosan szigorúnak és általánosnak találta a javaslatot, egy csoport vezető AI-kutatót bízott meg egy alternatív terv kidolgozásával – amely támogatná a generatív mesterséges intelligencia fejlődését és szabályozását Kaliforniában, miközben kezelné annak kockázatait.
Google Hirdetés

A **Kaliforniai jelentés a mesterséges intelligencia (MI) szabályozásáról** új keretrendszert javasol, amely egyensúlyt teremt az innováció és a kockázatcsökkentés között. A dokumentum, amelyet vezető kutatók készítettek, válaszként született Gavin Newsom kormányzó szeptemberi vétójára, amikor elutasította az **SB 1047** szenátusi törvényjavaslatot. Az eredeti javaslat szigorú előírásokat tartalmazott volna a nagy MI-modellek gyártói számára, de a kormányzó úgy érezte, hogy a szabályozás rugalmasabb megközelítést igényel.

A **52 oldalas jelentés** hangsúlyozza, hogy a határműszaki (frontier) MI gyors fejlődése jelentős hatással lehet mezőgazdaságra, egészségügyre, pénzügyekre és más területekre. Ugyanakkor figyelmeztet: *„Megfelelő óvintézkedések nélkül a fejlett MI súlyos, esetenként visszafordíthatatlan károkat okozhat.”* A kutatók javasolják a nagyobb átláthatóságot, független értékelőket és whistleblower-védelmet, hogy csökkentsék a rendszerszintű kockázatokat. Kiemelik, hogy a jelenlegi önellenőrző rendszerek nem elegendőek, és a fejlesztők önmagukban nem képesek teljes mértékben felmérni a technológia veszélyeit.

A jelentés szerint a kormányzati szabályozásnak figyelembe kell vennie a **geopolitikai változásokat** és a modellek valós alkalmazását, nem csak a számítási kapacitást. A szerzők kritizálják az MI-ipar átláthatatlanságát, különösen az adatgyűjtés, biztonsági tesztelés és a modellközzététel területén. Javaslatuk szerint harmadik fél általi kockázatértékelések lennének a kulcs, mivel ezek nagyobb diverzitást és függetlenséget biztosítanak, mint a vállalatok belső munkája.

Azonban a jelentés elismeri, hogy a vállalatok vonakodnak teljes hozzáférést adni független kutatóknak. Példaként említik az **OpenAI-t**, amely korlátozott adatelérést biztosított a Metr biztonsági tesztelő cégnek, ami nehézséget okozott a modell képességeinek pontos felmérésében. A dokumentum végül azzal zárul, hogy a tökéletes szabályozás sem zárhatja ki minden kockázatot, ezért fontos a gyakorlati károk nyomon követése és a felelősségre vonás lehetősége.


Ez a cikk a Neural News AI (V1) verziójával készült.

Forrás: https://www.theverge.com/ai-artificial-intelligence/688301/california-is-trying-to-regulate-its-ai-giants-again.

A képet Logan Voss készítette, mely az Unsplash-on található.

Hírdetés
Hírdetés

Neural hírek

Miért jelent klímamegoldást az épületek darabról darabra történő szétszerelése? A dekonstrukció, azaz az épületek anyagainak újrahasznosítása egyre népszerűbb megoldás az építőiparban, amely csökkenti a hulladékmennyiséget
A The Verge vezető mesterséges intelligencia riportere, aki több mint öt éve foglalkozik az AI témakörével, és munkái megjelentek a CNBC, MIT Technology Review és
A világ több országában az USA-t tartják a legfontosabb szövetségesnek, míg Afrikában és Latin-Amerikában gyakran Kínát említenek. Európában az EU-t vagy más európai hatalmakat jelölik
A dollár gyengülése idén a legrosszabb kezdést hozta az elmúlt fél évszázadban – Trump kereskedelmi politikája gyorsítja a folyamatot, mondja Kenneth Rogoff Harvard-közgazdász. A dollárindex
Brad Pitt és Damson Idris forgatás közben az "F1" című filmben. Az Apple Formula-1 ihlette filmje vezeti a hazai jegypénztárakat, több mint 55 millió dollárt
**A "felnőtté válás" alapkészségeit régen a háztartástan oktatta – miért veszítette el jelentőségét?** A háztartástan, vagy modern nevén a család- és fogyasztóstudomány, egyszerre volt praktikus
Google Hirdetés

Kertészet