natoaktual.cz

Nový vzhled natoaktual.cz (září 2020)

Právě pro vás vylepšujeme web. Některé jeho části proto
nemusí být dočasně plně funkční. Děkujeme za pochopení.

  • natoaktual.cz
  • Zpravodajství
  • Informační centrum o NATO
  • Dny NATO 2020 online

  • Změní umělá inteligence bezpečnostní politiku států a mezinárodní vztahy?

    8. srpna 2016  10:50
    Komentář Luďka Jiráčka z Asociace pro mezinárodní otázky
    Tlak na zvyšování produktivity a efektivity vede ke stále intenzivnější robotizaci a digitalizaci našich aktivit. Díky novým technologiím, v rámci tzv. 4. průmyslové revoluce, můžeme očekávat převzetí dalších činností v našich životech autonomními a inteligentními systémy. Takováto revoluce přinese mnoho výhod v podobě zvýšení životní úrovně, ale i nevýhod kvůli nahrazení lidských profesí roboty či počítačovými programy. Výraznějším problémem nicméně budou následující průmyslové revoluce, kdy může dojít až ke ztrátě kontroly nad takovými systémy.  
    Inteligence autonomních systémů roste rychleji než ta lidská, varuje podle komentáře Luďka Jiráčka sám Stephen Hawking. Ilustrační foto. | foto: NATO

    Veškeré nové technologie v novodobé historii měly zásadní vliv na naše civilní životy. V ruku v ruce šel ale i rozvoj obranného průmyslu. Technologie dokázaly mimo jiné upevnit pozici světových velmocí v mezinárodních vztazích a udržovat mír (např. atomové zbraně), zachraňovat lidské životy (např. Iron Dome v Izraeli) či pomohly zvítězit v konfliktech a válkách. Dosavadní technologie však nefungovaly zcela autonomně, vždy bylo nutné nejprve učinit rozhodnutí k provedení daného úkonu a poté stisknout pomyslné červené tlačítko. Doposud byl tedy zásadní lidský faktor, a to včetně kybernetických útoků, jež jsou stále rozsáhlejší a účinnější a které patří mezi vážné hrozby moderního světa.

    Technologie jako odstrašení

    „Vlády se budou vždy snažit využít nové technologie k udržení či posílení svých pozic v mezinárodních vztazích. Ty totiž představují v praxi nejen zajištění vlastní bezpečnosti či dosažení národních zájmů, ale také dokáží odstrašit protivníka od možného útoku.“

    V dlouhodobém horizontu však můžeme výrazněji očekávat rozvoj umělé inteligence, respektive rozvoj technologií, které budou schopny fungovat autonomně bez závislosti na lidském faktoru. Navíc budou schopny samy sebe učit a podle toho se i rozhodovat či dokonce samy sebe vylepšovat (tzv. technologická singularita). Na tyto hrozby upozorňují i přední vědci v otevřeném dopise zveřejněném na konferenci International Joint Conference v roce 2015 (př. Stephen Hawking, Steve Wozniak, Demis Hassabis, Elon Musk). Stephen Hawking navíc uvedl, že nárůst inteligence autonomních systémů bude diametrálně přesahovat tu lidskou, jelikož ta je limitována „pomalou biologickou evolucí“. Tato nebezpečí se podle mnoha vědců projeví zejména v dopravě, a také právě v obranném průmyslu.

    Národní bezpečnost a problém zisků

    Vliv a konkurence v oblasti vývoje autonomních robotických zbraní jsou již v současné době viditelné mezi hlavními světovými velmocemi. Podle předsedy představenstva britské zbrojovky BAE Rogera Carra se snaží vyvíjet autonomní roboty, jejichž cílem je zabíjet, více než 40 zemí (více zde). Například ve Spojených státech amerických patří propojování schopností člověka a robotů mezi vládní priority v rámci tzv. Third Offset Strategy. V roce 2017 plánujjí do této oblasti investovat 3 miliardy dolarů a do výzkumu autonomních systémů 1,7 miliardy dolarů. Čínská lidová republika zase v červnu 2016 mimo jiné představila nejvýkonnější superpočítač na světě obsahující pouze čínské procesory, který dokáže zpracovat 93 biliard výpočtů za vteřinu a disponuje tak výkonem 93 petaflopů. Pro představu, prozatím nevýkonnější superpočítač Spojených států amerických má pouze 17,6 petaflopů (FLOPS = floating-point operations per second).

    Umělá inteligence se pravděpodobně stane součástí i našeho běžného civilního života. To potvrzují výrazné investice a strategické plány nejvýznamnějších soukromých společností světa (Apple, Facebook, Google, Microsoft, Volkswagen, atd.). Deklarují snahu rozvinout umělou inteligenci, která bude schopna vykonávat základní činnosti v našich životech. Například Google představil veřejnosti vlastní procesor Tensor Processing Unit. Ten byl vyvinut výhradně pro umělou inteligenci a Google ho podle veřejných informací využívá ve své infrastruktuře už více než rok. Společnost Boston Dynamics, patřící také Googlu, se specializuje na vývoj mj. i humanoidních robotů. Jejich dovednosti je možné shlédnout zde. Na trhu působí i další soukromé společnosti, jako například americká Palantir Technologies, které například díky svým programům analyzují data na základě algoritmů, jež dokážou mimo jiné odhalit teroristický útok.

    Chybí etická pravidla

    „Důležité je začít preventivně formovat etická pravidla a také legislativní opatření proti možnému zneužití systémů s umělou inteligencí (například proti nepovolenému přeprogramování vedoucímu až k zabití člověka). Určitá regulace, která v současné době neexistuje, by měla být zavedena na globální úrovni v rámci Organizace spojených národů či nové agentury odpovědné za řešení problémů způsobených umělou inteligencí a roboty.“

    Soukromé společnosti tak chtějí dosahovat zisku a představovat každý rok různé inovace, díky kterým zaujmou koncového zákazníka, a národní vlády se naopak budou vždy snažit využít nové technologie k udržení či posílení svých pozic v mezinárodních vztazích. Ty totiž v praxi představují nejen zajištění vlastní bezpečnosti či dosažení národních zájmů, ale také dokáží odstrašit protivníka od možného útoku. Rozvoj umělé inteligence, respektive autonomních systémů, se tak zdá být v současné době nevyhnutelným, jelikož každý subjekt či aktér bude mít zájem využívat konkurenční výhody.

    Umělá inteligence a (ne)rozvoj kolektivní obrany

    Následkem čtvrté průmyslové revoluce a rozvoje umělé inteligence můžeme v krátkodobém horizontu očekávat částečné omezení role mezinárodních organizací, a to z několika důvodů. Vlády, které nebudou schopny aktivně reagovat na změny plynoucí z těchto průmyslových revolucí, budou nuceny řešit primárně sociální a bezpečnostní problémy na národní úrovni. Navíc kvůli technologickým rozdílům mezi jednotlivými regiony dojde v zaostalých zemích k výraznému poklesu hospodářského růstu a zároveň k neschopnosti investovat do obranné politiky, respektive do kolektivní obrany. Některé bohaté země nebudou mít zájem nést finanční a morální břímě za ostatní země (tento trend je patrný již v současné době). V neposlední řadě si bude každý stát chránit své technologické know-how a bude se snažit využít zmíněnou konkurenční výhodu.

    Na druhou stranu bude role mezinárodních a nadnárodních organizací posílena v okamžiku, kdy dojde k masové produkci zbraňových systémů s umělou inteligencí. V tu chvíli bude totiž otázkou času, kdy se dostanou na černý trh a například i do rukou teroristů, kteří je budou využívat k útokům na civilní obyvatelstvo. Pokud budou systémy navíc zcela autonomní a dosáhnou úrovně, jež bude pro lidstvo nebezpečná, vlády jednotlivých států budou nuceny spolupracovat na globální úrovni. Takováto situace nastane zejména v době, kdy nebudeme schopni převzít kontrolu nad takovými stroji zpět, a to například kvůli nemožnosti odpojení autonomního stroje od energetických zdrojů.

    Rizika se rýsují na horizontu, nesmíme však zaspat

    V následujících letech nemusíme očekávat katastrofické scénáře, jelikož se zmíněné hrozby rýsují teprve na horizontu, a jak nám již ukázaly předchozí průmyslové revoluce, lidstvo se vždy určitým způsobem přizpůsobilo. Na druhou stranu není na místě takováto rizika podceňovat, jelikož následky mohou být doslova devastující a mnoho českých i světových odborníků na tyto problémy již nyní upozorňuje. Například spoluzakladatel a předseda představenstva Microsoftu Bill Gates přímo uvedl: „Nechápu, že někteří lidé nejsou znepokojeni.“

    Z tohoto důvodu je v prvé řadě zásadní začít preventivně formovat etická pravidla a také legislativní opatření proti možnému zneužití systémů s umělou inteligencí (například proti nepovolenému přeprogramování vedoucímu až k zabití člověka). Určitá regulace, která v současné době neexistuje, by měla být zavedena na globální úrovni v rámci Organizace spojených národů či nové agentury odpovědné za řešení problémů způsobených umělou inteligencí a roboty. Na její tvorbě by se měli podílet nejen vědci, ale i zástupci bezpečnostní komunity a soukromých společností. Bohužel nemůžeme očekávat, že některé velmoci nebo dokonce soukromé společnosti budou chtít k takovýmto krokům v praxi přistoupit (např. Čínská lidová republika). Proto bude důležitá role regionálních a nadnárodních organizací, jako například NATO a EU, jež mohou být strůjcem určitých mechanismů a tlaků na globální úrovni, kterými se budou řídit i ostatní státy.

    Na druhou stranu bude klíčové, jak se proti novým technologiím budeme stavět my, respektive náš mozek. Ten se totiž vyvíjí a přizpůsobuje v reakci na vnější podněty v průběhu celého našeho života. Naše závislost na moderních technologiích se bohužel stále zvyšuje, a to nejenom v hospodářství, ale i v rámci našich každodenních aktivit, což negativně ovlivňuje naše rozhodování a chování například v krizových situacích. Podle výzkumu prestižního technického institutu v Atlantě důvěřují lidé v nouzi více robotickým systémům nežli sobě samotným. To potvrzuje i Chris Robert, profesor managementu na Trulaske College of Business ve Spojených státech: „Technologie pokročila do té míry, že lidé nemohou pochopit, jak konkrétní technologie funguje, ale předpokládají, že bude fungovat“ (více zde).

    Pokud tedy nebudeme schopni racionálně přemýšlet, respektive důvěřovat svým znalostem a schopnostem, nové technologie budou mít zásadní vliv na naše životy dřív, než budou plně autonomní. To se může projevit i v mezinárodní politice, kdy budou jednotlivá rozhodnutí ovlivňována algoritmem. V případě chybného výpočtu softwaru může totiž dojít až k zahájení rozsáhlého globálního konfliktu, který bude stát mnoho lidských životů.

    Luděk Jiráček
    autor je spolupracovníkem Výzkumného centra AMO

    natoaktual.cz

    Barista i záchranář u kanónu

    Říjen 2019

    Poprvé v historii nechala armáda záložáky pálit z kanónů ostrými

    Dny NATO v Ostravě

    Září 2019

    Dny NATO navštívilo 220 tisíc lidí, ukázaly i nové vrtulníky pro armádu.

    Továrna na instruktory

    Červenec 2019

    Britský poradní tým s pomocí Čechů vyškolil už přes 9 500 vojenských instruktorů.

    Mraky prachu, vedro a léčky

    Červen 2019

    Jak vypadá příprava českých vojáků na misi v africkém Mali.

    Partneři portálu