Ulmeraamatuist lahinguväljale: tehisaru sõdade tulevikku vormimas

Kuidas on tehnika muutnud ja meie eluajal veelgi muudab seda, millisena sõda inimestele paistab? Kas tulevikus oleks sõdu lihtsam alustada, sest tehnikale langeb siis suurem roll ning inimesed ei taju sõdade vintsutusi enam nii teravalt?

Hetkest, mil relvad ja muud tööriistad hakkavad inimeste eest ise töötama, on juttu tehtud tuhandeid aastaid. Vanakreeklased ei kõnelnud tehisarust, vaid Talosest; iidsetes juudi tekstides arutleti golemi üle. Ulmekirjandust ei saa tuhandete aastatega mõõta, ent termin robota, millest on tuletatud tänapäevane sõna robot, on ikkagi üle saja aasta vana.

Ideed, et tööriist võiks töötada inimeste eest, inimestega koos või meid lausa välja vahetada, on viljeldud usus ja kirjanduses, aga meie eluajal saab see tõelisuseks. Seisame alles alguses. Edusamme tehakse iga nädal. Ehkki muutused paistavad juba praegu rabavad, pole me sel teel eriti kaugel.

Piisav pole isegi võrdlus tööstusliku revolutsiooniga, sest see on esimene tehnoloogia, mida me lihtsalt ei kasuta, vaid mis töötab koos meiega ja meie eest ning teatud rollides on hakanud meid lausa välja vahetama. Toimuv läheb kaugemale lahinguvälja mehhaniseerimisest lennukite ja tankidega ning isegi aatomiajastu saabumisest. Lisaks küsimustele asjade kohta, mis peagi realiseeruvad, nõuavad tähelepanu enneolematud küsimused selle kohta, mida on sünnis teha, küsimused õigest ja valest. Kõik see juhtub nii poliitikas, majanduses kui ka sõjanduses.

Kuidas saab tänapäevaseid droone võrrelda kuulipilduja või tuumapommi toodud muutustega sõjapidamisse?

Leiab nii sarnasusi kui ka erinevusi. Mis puutub kuulipildujasse 1914. aastal või lennukite, tankide ja raadiote kombinatsiooni 1939. aastal, millest sai alguse välksõda, või tuumarelvade saabumisse 1945. aastal, siis need muutsid mitte üksnes taktikakäsitlusi, vaid tõstatasid uusi küsimusi – kuidas võidelda, kes võitlevad, milline tee viib võidu või kaotuseni – koos juriidiliste ja eetiliste aspektidega.

Mõelgem muutustest, mida tõid 1930. aastad. Lennuk, tank ja raadio, mis kõik olid Esimeses maailmasõjas olemas olnud, said Hispaania kodusõjas uuel viisil kokku. Lisaks kõigi kolme masina täiustamisele oli nende kasutuseks leiutatud paremaid viise. Enneolematutest ideedest, kuidas sõjas võitjaks tulla, kasvasid värsked sõjalised doktriinid. Sõjaväed, mida oli ülekaalukaks peetud, said mõne nädalaga lüüa, näiteks said natsid prantslastest jagu Maginot’ liinist hoolimata.

Tehisaru puhul näeme küsimusi sellest, mis on õige ja vale, küsimusi, kuidas sõjaväed võitlevad ja võitjaks tulevad.

Need uuendused tõstatasid õiguse ja eetika vallas uusi küsimusi. Õhurünnakust linnale maalis Picasso „Guernica”: maalil on jäädvustatud õudusi ja traagikat, aga ka küsimus: „Kuidas võis nii juhtuda?”, mis tähendaski uusi nõudeid moraalile ja õigusele.

Tehisaru puhul näeme sedasama kõrgemal tasemel – küsimusi sellest, mis on õige ja vale, küsimusi, kuidas sõjaväed võitlevad ja võitjaks tulevad, ning sarnaselt Picasso teostega täheldame isegi kunsti teisenemist.

Kes kasutab autonoomseid relvi: riigid, eraettevõtjad? Millised on juriidilised piirangud? Kui riigiametnikega võrrelda, siis millist mõju tõeliselt avaldavad USA sõjalise doktriini loomisele militaarettevõtjad ja tehnoloogiafirmad?

Küsimused, mis on aastaid iseloomustanud minu kirjutisi ja uurimistööd, ükskõik, kas ma vaatlen tehisaru, sotsiaalmeedia kasutust relvana või varasemaid väepealikke, lapssõdureid ja militaarettevõtjaid, on see, kes sõdib, kus sõdib ja kuidas sõda muutub.

Meie kujutluses on sõda riikide monopol – sõjaväed võitlevad üksteise vastu üksnes mõne riigi nimel. See hakkas reegliks kujunema alles XVIII sajandil, ehkki polnud ka pärastpoole kuidagi ammendav. Pilkudest mässudele ja vastupanule Teises maailmasõjas, arvukatele külma sõja heitlustele ja sündmustele mitmel pool maailmas vahetult pärast 2001. aasta 11. septembri terrorirünnakuid selgub, et seda monopoli pole kunagi tõeliselt eksisteerinud.

Viimastel aastakümnetel kehtib see järjest vähem. Millalgi 1990.–2000. aastail oli üks igast 10 võitlejast (combatant) maailmas alaealine. See oli üks märke militaarettevõtjate esiletõusust. Üksikutel hetkedel Iraagi või Afganistani sõjas teenis erafirmades rohkem sõdureid kui riiklikes relvajõududes.

Uusi tehnoloogiaid saab kasutada üha enamates paikades, sisenemisbarjäärid on uskumatult madalad.

Mis puutub kübersõda ja infosõda, siis lisaks riikidele löövad kaasa ka mitteriiklikud tegutsejad: kuritegelikud ja häkkerite rühmitused ning küberturbefirmad, kes sageli on amorfsed ning liiguvad siia-sinna. Võtame näiteks Vene küberkurjategija, kes ühel päeval varastab endale pangainfot ning järgmisel päeval murrab Vene FSB ülesandel mõnda Ukraina sõjalisse süsteemi sisse.

Siin tulebki mängu tehnoloogia. Uusi tehnoloogiaid saab kasutada üha enamates paikades, sisenemisbarjäärid on uskumatult madalad. Paljudes tehnoloogiates edendab innovatsiooni eraettevõte või lausa omab neid. Tehisaru, droone, kübersõda ega kosmosevarasid (space-based assets) ei saa pidada riikide monopoliks. Mitmes vallas sõltuvad riigid üha tugevamini eraettevõtjaist, nii nagu juhtus Iraagi sõjas. Enamik riike sõltub satelliitsides jäägitult eraettevõtteist.

Positiivsed hääled toonitaksid, et need eraettevõtjad toovad innovatiivsust ja tõhusust kaasa. Ühtlasi tuuakse kaasa värskeid juriidilisi probleeme, kuna seadustest jõutakse tihti ette. Kui midagi läheb viltu, siis pole vastutuskohustust nii palju, kui oleks vaja. Endale võib luua illusiooni, et eraettevõtete huvid on teie huvidega täiuslikus kooskõlas, ehkki seda tuleb harva ette. Võib meelde tuletada, kuidas Wagneri grupp pöördus Putini vastu või Elon Musk tõkestas ukrainlaste ligipääsu andmevoogudele, kui nad kavandasid rünnakut Vene sadamale: eraettevõtja, kes teie heaks töötab, ei juhindu alati teie huvidest.

Kas te olete nõus, et Iraagi sõda oli esimene konflikt, kus autonoomseid relvi märgatavalt kasutati? Oli see esimene kord, kui me tõeliselt nägime selle tehnoloogia mõju lahinguile?

Autonoomsete relvade ja tehisaru defineerimine on väga vaieldav. Tehisaru tähenduse üle on piike murtud sellest peale, kui terminit kasutati ligi 75 aasta eest Dartmouthi Ülikooli suveseminaril. Kui mitmesuguseid definitsioone vaagida, siis mina ei iseloomustaks Iraagi sõjas kasutusel olnud süsteeme tõeliselt autonoomsena. Droonid olid küll robotid, ent distantsjuhtimisega.

Iraagi sõjas ei otsustanud süsteem ise, vaid kusagil oli inimene. Predatori droon lendas Bagdadi taevas, ent inimesest operaator polnud mehitamata lennukis, vaid Nevada osariigis. Maismaarobot sõitis teed mööda pommi kahjutuks tegema, ent inimjuht viibis plahvatuse eest kaitstuna 100 meetrit eemal.

Näeme üha sagedamini, et agent esindab meid, mitte meie ei juhi seda või see meid.

Praegu oleme tunnistajaks, kuidas süsteemides võimaldatakse tehisarul rohkem otsustada. Distantsjuhtimise asemel töötab inimene süsteemiga, mis soovitab talle valikuks tegevuskäike, ent need on masina kujundatud, võib-olla isegi piiratud.

Selles võib veenduda GPS-i näitel, mis aitab tööle sõita, või Netflixist algoritmi soovitusel seriaale vaadates. Teine näide on, kuidas Iisraeli kaitsejõud lasevad tehisarusüsteemidel soovitada, milliseid hooneid ja isegi inimesi sihikule võtta. Need pole autonoomsed löögid ja Gazas ei vajuta päästikule robot, ent tehisaru mõjustab seda kahtlemata, kuidas inimesed otsuseid teevad.

Näeme nii meditsiinis, Amazoni teenustes kui ka sõjanduses, et masinate roll nihkub nõuandvast üha enam sinna, mille üle annab pikalt vaielda, kas pidada seda autonoomseks või mitte. Süsteem saab küll üldiseid juhtnööre, aga inimene seda enam distantsilt ei manipuleeri.

Näiteks on ukrainlastel droon, mis on loodud lahingutandril tegutsema ilma inimjuhtimiseta. Droonile on eellaaditud mitte konkreetsed sihtmärgid, vaid sihtmärkide tüübid. Ukrainlased pole ainsad, kes sääraste süsteemidega töötavad. Igal pool toimub sama transpordis, võrkudes, aktsiate ostmises jm. Näeme üha sagedamini, et agent esindab meid, mitte meie ei juhi seda või see meid.

Millist tulevikku te ootate: kas tehisaru domineerib üha enam või kuulub otsustamisel viimane sõna alati inimesele?

Arthur C. Clarke ei paistnud silma üksnes ulmekirjaniku, vaid ka teadlasena. Ta lõi „Kosmoseodüsseia 2001” (romaani ja filmi), ent ühtlasi mõtles välja tehiskaaslased, mis hakkasidki kosmoseajastut iseloomustama. Ta kirjutas sellest, et kui teaduses söösta enam kui põlvkond edasi, hakkab see võlukunsti ja fantaasiaga segunema.

Teaduslikult realiseeritavad asjad oleksid eelmisele põlvkonnale paistnud võlukunstina. Nüüdispõlvkonnale ei paista, et me suudaksime lahingutandrit 100% automatiseerida, nii et robotid võitleksid vaid isekeskis. Nii males, meditsiinis kui ka sõjanduses paistab meie tulevik olevat Garri Kasparovi kirjeldatud kentaurimudel. Kentaur oli hobuse ja inimese hübriid.

Nüüd on liitunud inimene ja masin, mõlemad teevad seda, mida nad paremini oskavad, aga üheskoos suudavad nad teha täiesti uusi asju. On täheldatud, et tehisaru saab jagu parimast inimlikust malemeistrist, aga koostöös tehisaruga teeb malemeister teisele tehisarule pähe. Oleme Ukrainas vaadelnud sadu tuhandeid droone tegutsemas, aga see ei tähenda, et inimesed lahingutandrilt puuduksid.

Te esitasite ka üldisema küsimuse: kuidas sõda ennast defineerida. Tundub, et sõda nõuab paratamatult inimeste osalust. Kipume sõda defineerima nii, et selles saavad kokku poliitika ja vägivald; see eristabki sõda kuritegevusest või tavalisest poliitikast. Poliitikas osalevad endastmõistetavalt inimesed. Kui visandada maailma, kus lisaks sellele, et masinad võitlevad masinate vastu, langetavad nad sõdimise üle otsuseid, ollakse põlvkonna võrra edasi jõudnud kas fantastikasse või tõelisse teadusulmesse, mis on küll paeluv, aga millest meile pole praegu tuge.

Milline roll kuulub tehnika arengus ulmekirjandusele?

Selleks, et kirjutada raamatut „Sõjaks programmeeritud” („Wired for War”), intervjueerisin teadlasi ja insenere, kes Iraagis sõdimiseks relvasüsteeme valmistasid. Kui küsisin, mis neid inspireeris, viitasid nad korduvalt ulmeteostele. See on laialdaselt teada, et klapiga telefon sündis sellest, et keegi vaatas järjekordset Star Treki episoodi. Ulmet on finantside taotlemisel õigustuseks võetud. Viitega mõnele ulmeteosele kinnitatakse, et projekt on futuristlik ja seega väärib investeerimist.

Silicon Valley’l on küljes see veider häda, et ulmest ammutatakse ideid, aga loo mõte jääb tabamata.

Tänapäeval kohtab ulme mõju kõigis tähtsamates tehisarufirmades. Kirjanikuna tuleb mulle sageli tahtmine kellelegi õlale koputada ja öelda: „Valesti saite aru.” Jutustusele antakse teatud elementidega düstoopiline värving, need on kirjanikule vahendiks, kuidas ühiskondlikke probleeme kommenteerida või millegi eest hoiatada. Aga enesekindlusest pakatav tehnotüüp (tech bro) märkab hoopis vahvat ideed, mida teoks teha. Silicon Valley’l on küljes see veider häda, et ulmest ammutatakse ideid, aga loo mõte jääb tabamata.

Kuidas tuleb siin mängu see, mida nimetate tarbeilukirjanduseks?

Jätan endast Prantsuse bürokraadi mulje, kes Euroopa Liidu ametikaaslastele väidab, et jook pole šampanja, kui see ei pärine Champagne’i regioonist, ent meie ei kirjuta ulmet. Nimetame oma žanrit tarbeilukirjanduseks (useful fiction) või ilukirjanduslikuks luureks (fictional intelligence). Seda eristab reeglistik, mis tuleneb faktilise uurimistöö liitmisest narratiivsete elementidega.

Ulmet on rõõm luua, kuna olustiku pärast pole muretseda vaja – tegevus võib aset leida tõelises maailmas või hoopis Endori kuudel, nagu „Tähesõdades”. See võib aset leida homme või aastal 3500. Tarbeilukirjanduses peame järgima teatavaid reegleid: tegevusaeg peab püsima praeguses või tulevases põlvkonnas; sündmused peavad toimuma meile tuntud maailmas; kujutlusmaailmast ei tohi planeete või tegelasi valida. Iga tehnoloogia peab olema tõeline, juba tarvitusel või vähemasti prototüübina olemas. Erinevalt teadusulmest tuleb rohkesti uurimistööd teha. Näiteks „Fantoomlaevastikus” („Ghost Fleet”) visandasime sõda USA, Hiina ja Venemaa vahel, mida pole juhtunud. Ikkagi oli raamatu lõpus 28 lehekülge teaduslikke märkusi, milles valideerisime iga tehnoloogiat ja iga taktikalist võtet.

Otsene päritolu ja eesmärk on samuti erinevad. Tarbeilukirjandus põhineb alati faktikirjandusel ning lisaks meelelahutusele on hariv, hoiatav või edendab teatavaid meetmeid.

Tarbeilukirjanduses kasutatud tehnoloogia peab olema tõeline, juba tarvitusel või vähemasti prototüübina olemas.

Võtame näiteks tarbeilukirjanduse projekti, mille tegime NATO tarvis. Lähtepunkt oli ühe NATO tiimi aruanne eesrindlikest tehnoloogiaist, millega kaitseallianss looks endale uue tuleviku. Muuseas andis NATO ametkond NATO ministritele üle 30-leheküljelise aruande kvanttehnoloogiast, mille lõpus olid sõnaseletused. Sarnaselt paljude teiste ettekannetega ei pälvinud see erilist vastukaja. Läksime seepärast ametnikele appi, et muuta asjalik kvanttehnoloogia ettekanne tarbeilukirjanduslikuks stsenaariumiks, kuidas kvanttehnoloogiat tulevikus kasutatakse. Meie loomingut lugesid nii ministrid kui ka sajad NATO ohvitserid staapides. Jagasime õpetust köitval viisil, nii et kui nad edaspidi kvantidest kuulevad, on nad juba asjaga tuttavad ja oskavad paremini otsuseid teha.

Vorme on palju: alates raamatutest, mida olen kirjutanud August Cole’iga kahasse, nagu „Burn-In” ja „Fantoomlaevastik”, kuni äriprojektini „Useful Fiction”, mis on tegutsenud koos NATO ning USA, Austraalia ja Briti valitsusega. Teemasid on samuti rohkesti. Lähtepunkt võib olla NATO ettekanne tehnoloogiast või USA armee väljaõppekäsiraamat, mille ideid me edastasime USA maaväe kapteni võimalike kogemustena mõnes tulevikusõjas.

Et vastata teie küsimustele tehisaru kohta, siis meie raamat „Burn-In” seda käsitlebki. Järjekordse kuiva teksti asemel, mis ütleks, et tehisaruga seoses esineb muresid, kirjutasime faktiteadmiste alusel stsenaariumi ühe inimese kogemustest läbi linna jalutades. Nimelt sellest, kuidas inimese kohta koguvad andmeid erasektor, kohalik, osariigi ja föderaalvalitsus. Kujutasime, mis tunne oleks minna läbi raudteejaama, kohvikusse või tööle. Ulmes on seda juba tehtud, aga erinevalt „Musta peegli” („Black Mirror”) episoodist varustasime oma jutustuse viidetega sellele, mida New Yorki politsei, Amazon või Starbucks juba tegid või kavatsesid teha. Vahetevahel on selleks, et millestki aimu anda, kõige parem teha sellest lugu.

Kuidas te vaatate tagasi filmile „Kosmoseodüsseia 2001” ning hoiatustele, mida juba seal esitati tehnoloogia domineerimise ja sünge tuleviku kohta?

Veel pole olemas HAL 9000 [väljamõeldud tehisaru, tegelane filmis „Kosmoseodüsseia 2001” – toim], ent me elame maailmas, kus tehisaru teeb üha rohkem otsuseid, mis võivad meie soovidega minna tõsisesse vastuollu, kuna tehisaru täidab enda arvates oma kohust isegi siis, kui ta eirab algset sihiseadet.

Meie reaalsuses ei seisne tehisaruga seotud murede tähtsaim põhjus ülearu hoolitsevates tulnukates, vaid inimeste vastutustundetuses.

Astronaute veel luku taha ei panda, ent Grok juba püüab X-s ehk Twitteris Hitlerit üle trumbata. Ühtaegu läheb mitu meditsiinilist diagnoosi viltu, kuna tehisaru treeniti vigaste andmetega või mängu tuli algoritmiline kallutatus.

Filmi „2001” teemad on juba meiega, aga teisel kujul, sest oleme Clarke’ist veel ühe põlvkonna edasi jõudnud. HAL ei püüa veel kõike enda võimusse haarata, aga seda on ette tulnud, et tehisaru läheb segi ja teeb midagi jubedat. Kui võrrelda teadusulmet ja tarbeilukirjandust, siis faktid kõnelevad selget keelt: meie reaalsuses ei seisne tehisaruga seotud murede tähtsaim põhjus ülearu hoolitsevates tulnukates, vaid inimeste vastutustundetuses.