Neural hírek logo
Mesterséges intelligencia a háborúban: félelem és hallgatás a techóriásoknál

Mesterséges intelligencia a háborúban: félelem és hallgatás a techóriásoknál

A Google több mint 1,2 milliárd dolláros, izraeli kormányzati és katonai AI-technológiát biztosító Project Nimbus szerződése komoly vitákat váltott ki, mivel az alkalmazottak attól tartanak, hogy a hadviselésben használt mesterséges intelligencia nem kellően megbízható. A Google DeepMind munkatársai név nélkül számoltak be arról, hogy a dolgozók félnek a megtorlástól és a karrierjük kockáztatásától, ezért nem mernek nyilvánosan bírálni bizonyos AI-fejlesztéseket. Sarah Shoker, az OpenAI egykori geopolitikai csapatának vezetője szerint az AI túl gyorsan hoz döntéseket, ami különösen nagy stresszhelyzetben veszélyes, mivel a humán kezelőknek szinte lehetetlen érdemben ellenőrizni a rendszer által kiválasztott több száz célpontot. A Naza című dokumentumfilm nyomán kialakult vita rávilágít arra, hogy az AI-alapú célzórendszerek használata a Gázai övezetben magas civil áldozatokhoz vezetett, miközben egyes szakértők szerint a jelenlegi AI-modellek még nem alkalmasak harctéri bevetésre.

# Mesterséges intelligencia a hadviselésben: etikai és biztonsági aggályok a technológiai óriásoknál

**A hadiipari szerződések és a háborús alkalmazások kockázatai**

Az OpenAI, az Amazon, a Microsoft, a SpaceX, az Oracle, az Nvidia és a Reflection startup cégek hasonló szerződéseket írtak alá, amelyek lehetővé teszik mesterségesintelligencia-technológiák bevetését különféle katonai területeken, beleértve a szállítást, a tervezést és a harctéri műveleteket. Ahogy a technológia gyorsan fejlődik, egyre növekvő aggodalom övezi a mesterséges intelligencia háborús alkalmazását. Sarah Shoker, az OpenAI geopolitikai csapatának korábbi vezetője szerint a mesterséges intelligencia lerövidíti a kezelő döntéshozatali idejét, mivel sokkal gyorsabban működik, mint egy ember, ami különösen kockázatos stresszes környezetben. Amikor az MI több száz célpontot jelöl ki rövid idő alatt, szinte lehetetlen, hogy egy emberi kezelő értelmesen felülvizsgálja a rendszer kimeneteit a hibák szempontjából.

**A Google alkalmazottainak félelmei és a szólásszabadság korlátozásai**

A Google munkatársai a BBC-nek elmondták, hogy félnek nyilatkozni a mesterséges intelligencia biztonságáról és háborús felhasználásáról, mivel munkaszerződésük megtiltja számukra a vállalat nyilvános kritizálását. Sofia Liguori szerint elvileg egész életére szólóan nem kritizálhatja a Google-t, de úgy döntött, hogy mégis megteszi, mert fontosnak tartja, hogy ezek az információk ismertté váljanak, és véleménye szerint a tényekről beszélni nem jelent kritikát. Hozzátette, hogy a Google-nál az emberek félnek a megtorlástól és karrierjük kockázatba helyezésétől, úgy érzik, figyelik őket, és nem beszélhetnek. Egy névtelenül nyilatkozó jelenlegi Google DeepMind-alkalmazott szerint sok motivált munkatárs, aki a vállalat eredeti küldetéséhez csatlakozott, elhagyhatja a céget, de vannak olyanok is, akik karrierjük elején állnak és betölthetik ezeket a pozíciókat – ami egyfajta „őrségváltást” jelenthet. Egy másik anonim munkatárs arról számolt be, hogy sokan távoztak a cégtől, akik erősen érintettek abban, hogyan változtatta meg etikai álláspontját a Google DeepMind; egyesek harcolnak ez ellen, mások pedig úgy gondolják, hogy egy nagy vállalattól nem várható változás.

**Izrael és a Project Nimbus körüli viták**

A Google Izraellel kötött megállapodásai szintén vitát váltottak ki. 2024-ben az alkalmazottak bírálták a vállalatot az Amazonnal közösen kötött, 1,2 milliárd dollár értékű Project Nimbus szerződés miatt, amely mesterségesintelligencia-technológiával és felhőalapú infrastruktúrával látja el Izrael kormányát és hadseregét. Akkor a Google azt állította, hogy a Project Nimbus nem irányul fegyverekhez vagy hírszerző szolgálatokhoz kapcsolódó, rendkívül érzékeny, minősített vagy katonai jellegű munkaterhelésekre. Izrael hadviselésben alkalmazott mesterségesintelligencia-képességei emellett egy közelmúltbeli dokumentumfilm, a Naza kapcsán is vita tárgyát képezték, amely a Gázai övezet bombázására szolgáló MI-vezérelt célzórendszerek szerepét vizsgálja, amelyek magas civil áldozatokhoz vezettek. Egy izraeli kormánytag szerint a filmben bemutatott állítások hamisak és torzítottak.

**A technológia éretlensége és a jövőbeli kilátások**

Andreas Kirsch, a Google korábbi munkatársa úgy véli, hogy a hadviselésben alkalmazott mesterségesintelligencia-technológia még nem áll készen a harctérre, mivel a jelenlegi MI-modellek nem elég robusztusak, és véleménye szerint nem is képezték ki őket ilyen feladatokra. A beszámolóhoz Rosa Rahimi járult hozzá további információkkal. Az eset rávilágít a technológiai óriások és a katonai alkalmazások közötti egyre szorosabb kapcsolatra, valamint arra a növekvő feszültségre, amely a mesterséges intelligencia etikus és biztonságos felhasználása, a vállalati titoktartási kötelezettségek és a munkavállalók szólásszabadsága között fennáll.


Ez a cikk a Neural News AI (V1) verziójával készült.

Forrás: https://www.bbc.co.uk/news/articles/cmreyvepnv0po.

A képet RECEP TİRYAKİ készítette, mely az Unsplash-on található.

Neural hírek

Woodrow Wilson tizennégy békepontja közül az utolsó előtti bizonyult a legidealistábbnak: egy független lengyel állam létrehozását írta elő, nem pedig – ahogy Piotr Wandycz történész
A Google több mint 1,2 milliárd dolláros, izraeli kormányzati és katonai AI-technológiát biztosító Project Nimbus szerződése komoly vitákat váltott ki, mivel az alkalmazottak attól tartanak,
A megerősítéses tanulás (RL) forradalmasítja a robotikát: a Make: magazin 99. számában Shawn Hymel lépésről lépésre bemutatja, hogyan tanítható meg egy kétkerekű egyensúlyozó robot önállóan
A Kurultáj nevű, nomád hagyományokat felelevenítő fesztivált minden évben megrendezik a magyar Alföldön, ahol török, kazah, mongol és más steppei népek gyűlnek össze, hogy ünnepeljék
A Manchester City elszenvedte szezonbeli első Premier League-vereségét szombaton a hangos Aston Villa otthonában, miközben folyamatosan emlékeztették őket a pénzügyi vádakra. A Villa Parkban visszhangzott
A Microsoft pénzügyi vezetője, Amy Hood belső feljegyzésében megerősítette, hogy a vállalat legfeljebb 3000 munkavállaló jelentkezésére számít az önkéntes kilépési csomagra, amelyet a munkaerő több

Kertészet