Google pomáha Pentagonu identifikovať ciele pre nálety, zamestnanci sa búria. Čo je projekt Maven?

Spoločnosť Google sa potýka s rastúcim odporom svojich vlastných zamestnancov kvôli projektu Maven, v ktorom pomáha americkej armáde identifikovať ciele pre nálety. Podľa denníka The New York Times (NYT) uvrhol prednú technologickú spoločnosť do existenciálnej krízy. Na druhej strane Pentagon chce nasadenie algoritmov strojového učenia pre armádne účely rozširovať, informoval magazín Wired.

Projekt Maven bol spustený v apríli 2017 a jeho prvá misia je automatizácia rozpoznávania vojensky významných objektov (ľudí, vozidiel, stavieb) v záberoch nakrútených bezpilotnými lietadlami. Videa vo vysokom rozlíšení sa hromadia na amerických základniach a armádne nástroje už ich nestíhajú analyzovať. Pentagon chcel prvú formu “algoritmického bojovania” sprevádzkovať do decembra 2017, čo sa mu podľa Wired bez problému podarilo.

O zapojení Googlu do operácie informoval prvýkrát server Gizmodo až na začiatku marca. Spoločnosť o úlohe v projekte verejne nehovorila, ale o mesiac neskôr vyzvalo v otvorenom liste 3100 zamestnancov vedenie, aby od armádneho kontraktu odstúpila. Napätie v Googlu okolo Maven teraz osvetlila reportáž NYT, ktorý hovoril s niekoľkými existujúcimi a bývalými zamestnancami a nazrel aj do dokumentov spoločnosti a internej komunikácie medzi pracovníkmi.

“Za každú cenu sa vyhnite zatiahnutia umelej inteligencie a akýmkoľvek zmienkam o nej,” napísala svojim kolegom vlani v septembri Fei-Fei Liová, ktorá na Stanfordskej univerzite vedie pracovisko pre umelú inteligenciu a je zároveň hlavný Výskumník pre umelú inteligenciu v jednom z oddelení Googlu. “Umelá inteligencia použitá ako zbraň sa zrejme stala jedným z najcitlivejších tém v rámci umelej inteligencie, možno tým vôbec najcitlivejším,” pokračovala vedkyňa.

Hoci sa domnievala, že spolupráca na projekte Maven má byť prezentovaná ako “veľká výhra” jej oddelenia cloud computingu (poskytovanie masívneho výpočtového výkonu externým subjektom), odporučila zároveň kolegom, aby boli pri komunikácii s verejnosťou “extra opatrní”. “Neviem, čo by sa stalo, keby si médiá začali všímať motívu, že Google tajne buduje zbrane založené na umelej inteligencii alebo technológie tohto typu pre vývoj zbraní v obrannom sektore,” napísala v ďalšom e-maili.

Jej nadriadení nakoniec od medializácie ustúpili, ale o projekte Maven a vojenských systémoch sa vedie živá debata vo vnútri spoločnosti Google. Na protest proti spolupráci s armádou už v polovici mája odstúpila desiatka zamestnancov. Obe strany debaty vidia v Maven bránu k ďalším, väčším podobným kontraktom a 4000 zamestnancov už podpísalo petíciu volajúcu po “jasných pravidlách, ktoré by stanovili, že Google ani jeho spolupracovníci nikdy nebudú vyrábať technológie pre vojnu”.

Vedenie teraz sľubuje, že vytvorí sadu zásad, ktoré by uľahčili firme rozhodovanie na “etickom mínovom poli” spolupráca s armádou a rozviedkami. Google NYT povedal, že chystané princípy o umelej inteligencii zakážu jej aplikáciu v zbraniach. Zamestnanci podľa denníka očakávajú, že budú s pravidlami oboznámení v najbližších týždňoch.

Zároveň stále nie je jasné, ako presne sa Google na projekte Maven podieľa, napísal v utorok Wired. Ako prevádzkovateľ, tak americké ministerstvo obrany to nechcú prezradiť. Podľa Wired sa ale na identifikáciu cieľov pre amerických nálety podieľa aj ďalšie firmy.

Armáda Spojených štátov zrejme spoluprácu považuje za perspektívnu a pre tento rok sa rozpočet Maven približne zdvojnásobil na 131 miliónov dolárov . Operácia by sa mohla v nasledujúcich mesiacoch rozšíriť do nových oblastí, napísal Wired. “Prekonáva moje očakávania,” povedal Bob Work, ktorý stál v apríli 2017 pri zrode projektu.

Súvisiace články

Používame cookies aby sme pre vás zabezpečili ten najlepší zážitok z našich webových stránok. OK Viac info

Cookies