Čo sa stane, keď predátor – dron má autonómiu ako google auto? Alebo ak zbraň, ktorá dokáže sama loviť a napádať vlastné ciele, ovládnu hekeri? Hoci to znie ako sci-fi, technológia na vytvorenie zbraní, ktoré napadajú ciele bez ľudského pokynu, už existuje. Paul Scharre, vedúci expert v oblasti nových technológií zbraní, čerpá z vlastných bohatých skúseností a výsledkov výskumu s cieľom zistiť, ako zbrane novej generácie menia vojnu.

Jeho rozsiahla analýza skúma vznik autonómnych zbraní, aktivity vyvíjané na ich zákaz aj právne a etické otázky týkajúce sa ich používania. Zameriava sa na umelú inteligenciu vo vojenskej technike, zahŕňajúcu desaťročia inovácií od nemeckých torpéd Wren vyhľadávajúcich zvuky v druhej svetovej vojne, predchodcov dnešných samonavádzacích rakiet, po autonómne kybernetické zbrane, robotické lode loviace ponorky a tankové robotické armády. Prostredníctvom rozhovorov s odborníkmi na obranu, so zástancami etických hodnôt, s psychológmi a aktivistami Scharre zisťuje, akým výzvam môžu čeliť „kentaurskí bojovníci“ na budúcich bojiskách, kde bude nevyhnutné zlúčiť ľudské a strojové rozpoznávanie. V uplynulých desaťročiach sme dosiahli obrovský technický pokrok, no takisto sme zažili tragické nehody, ktoré vyplynuli z komplexných automatizovaných systémov. Napríklad moderné stíhacie lietadlá F-22 zaznamenali kolaps palubného počítača, keď prvýkrát prekročili dátumovú hranicu.

Najmenej tridsať štátov už má obranné autonómne zbrane, ktoré fungujú pod ľudským dohľadom. Armády všade na svete súťažia v konštruovaní robotických zbraní so zvyšujúcou sa autonómiou. Etické otázky tak dostávajú čoraz väčší význam. Do akej miery by sa mala takáto technika rozšíriť? Ak ju zodpovedné demokratické štáty zakážu, zabráni to nebezpečným režimom využívať výhody, ktoré z toho vyplynú?

Armáda strojov sa zameriava na vojenskú históriu, globálnu politiku, špičkovú vedu a tvrdí, že takúto techniku môžeme prijať tam, kde môže urobiť vojnu presnejšou a humánnejšou, ale nesmieme sa vzdať ľudského úsudku. Ak je možnosť vybrať si medzi životom a smrťou, za ľudské srdce neexistuje nijaká náhrada.

Z anglického originálu Army of None (W. W. Norton & Company, New York 2018) preložili Barbora Nebusová (kapitoly 1 – 11) a Martina Hyklová (kapitoly 12 – 21).

Ukážka z knihy:

Petrova sužovala neistota. Prečo by Spojené štáty vystrelili len päť rakiet? Nemalo to logiku. Skutočný prekvapivý útok by mal byť masívny, ohromujúci úder s cieľom zničiť sovietske pozemné sily. Petrov nebol presvedčený, že útok je reálny, ako to hlásil systém. Ale nebol si ani istý, či je to falošný poplach. S jedným okom prilepeným na počítačový displej zavolal operátorovi pozemného radaru, aby si raketový úder overil. Ak by boli rakety skutočné a vynorili by sa na obzore, určite by sa objavili aj na sovietskych pozemných radaroch. Napodiv, pozemné radary nezaznamenali nič.

Šanca, že útok je skutočný, bola jedna k jednej, čo bolo asi také predvídateľné ako predpoveď, ktorá strana mince padne. Petrov potreboval viac informácií. Potreboval viac času. Stačilo by, keby zdvihol telefón, ale možné následky by boli obrovské. Ak by sovietskemu veleniu oznámil, že má vypáliť jadrové strely, milióny ľudí by zahynuli. Mohol to byť začiatok tretej svetovej vojny.

Petrov dal na svoj inštinkt a zavolal svojim nadriadeným s tým, že podľa jeho domnienky systém nefunguje správne. A mal pravdu, nešlo o nijaký útok. Odraz slnečných lúčov, ktorý zachytili sovietske satelity, spôsobil falošný poplach. Systém sa teda mýlil a ľudstvo zachránil pred potenciálnym armagedonom obyčajný človek, drobný článok v celom procese.

Čo by však urobil na Petrovovom mieste stroj? Odpoveď je jasná: stroj by urobil presne to, na čo je naprogramovaný, a nijaké dôsledky svojho činu by si neuvedomoval.