Rizikový kapitál ze Silicon Valley vyhodil do povětří americký obranný průmysl

22. 1. 2025

"Jsem propagandista, překrucuji pravdu, předkládám pouze svou verzi..."

Nejedná se o úryvek z obzvláště temperamentního momentu v televizním hitu Mad Men. Tato slova pronesl Palmer Luckey, generální ředitel nejatraktivnějšího vojenského technologického startupu v Silicon Valley.

Luckeyho společnost, Anduril Industries, se specializuje na systémy založené na umělé inteligenci, včetně autonomních zbraňových systémů. S jměním 14 miliard dolarů je Anduril jedním z miláčků scény obranných startupů a jejího nově vznikajícího ekosystému rizikového kapitálu (VC), kde jsou velké sliby, velké sázky a tendence k propagandě základem nezbytným pro úspěch.

Integrace umělé inteligence (AI) do obranných programů, natož do zbraňových systémů, zůstává kontroverzní. Britský výbor pro umělou inteligenci ve zbraňových systémech vyzval k opatrnosti při zadávání veřejných zakázek na zbraně s umělou inteligencí, přesto – jak už to tak často bývá, pokud jde o produkty ze Silicon Valley – se vývoj, zadávání zakázek a zavádění obranných programů umělé inteligence v posledních letech prudce zrychlily.

Společnost Anduril byla založena teprve v roce 2017 a již získala několik kontraktů v hodnotě několika milionů dolarů od amerického ministerstva obrany (DoD) a také od britského ministerstva obrany (MO). Na pozadí probíhající rusko-ukrajinské války, války v Gaze a rostoucího globálního napětí se to nemusí zdát jako překvapivý vývoj.

Ve svém nejnovějším výzkumu vojenské umělé inteligence jsem zjistila, že jedním z klíčových faktorů zrychleného nákupu vojenských startupových produktů, jako jsou autonomní drony a další systémy využívající umělou inteligenci, je příliv obrovských částek peněz a vlivu ze sféry rizikového kapitálu.

Tyto společnosti rizikového kapitálu potřebují, aby obranné organizace přijaly étos technologického průmyslu ohledně rychlosti a rozsahu i chuť světa rizikového kapitálu riskovat a podstoupit revoluci. To z těchto firem dělá nejen finanční hráče, ale také politické.

Můj výzkum, publikovaný v časopise Finance and Society, naznačuje, že tento trend utváření obrany k obrazu Silicon Valley, motivovaný zájmy rizikového kapitálu, bude pravděpodobně výraznější a rozšířenější. S ohledem na tuto skutečnost stojí za to podívat se blíže na dynamiku, která je ve hře, když se rizikový kapitál zaměřuje na otázky života a smrti.

Vznikající vojenská financializace

Vojenský průmysl umělé inteligence a globální výdaje na obranu jsou na vzestupu. Podle současných odhadů měl globální trh s vojenskou umělou inteligencí v roce 2024 hodnotu 13,3 miliardy dolarů s předpokládaným růstem na 35 miliard dolarů v příštích sedmi letech.

Tato čísla se liší v závislosti na konzultovaných službách s tržními daty, ale v posledních 12 měsících byla pravidelně revidována směrem nahoru. Globální obranné rozpočty se také nafoukly na pozadí probíhajících konfliktů a obecného posunu směrem k militarizaci v posledních 24 měsících.

Globální výdaje na obranu dosáhly v roce 2023 rekordní úrovně něco málo přes 2 biliony dolarů. S 877 miliardami dolarů představovaly USA v roce 2023 téměř 40 % globálních výdajů na obranu. Aliance NATO utratí v roce 2024 1,47 bilionu dolarů. To jsou velká, atraktivní čísla pro velké technologické a finanční společnosti s úmyslem prosadit se na obranném trhu.

Obranné organizace mezitím začínají utrácet více peněz za špičkové technologie, včetně nevyhnutelné umělé inteligence. Zpráva Brookings Institute z roku 2024 zjistila, že hodnota obranných zakázek na technologie související s umělou inteligencí vzrostla za 12 měsíců od srpna 2022 do srpna 2023 o téměř 1 200 %.

U většiny nových produktů umělé inteligence, civilních nebo jiných, je často zapojena nějaká forma financování rizikovým kapitálem, zejména pokud by se daný podnik v oblasti umělé inteligence mohl ukázat jako příliš riskantní na to, aby byl financován prostřednictvím bankovních úvěrů nebo jiných finančních nástrojů. Rizikový kapitál je ochoten přijímat sázky na inovace, které by jiní investoři nebyli ochotni nebo schopni přijmout.

V posledních dvou desetiletích se tento typ financování zaměřoval především na produkty ze Silicon Valley pro civilní trh, kde dynamika umožnila investorům dosáhnout mimořádných zisků.

Ale jak trh s obranným materiálem roste a příležitosti k mimořádným výnosům rizikového kapitálu v komerční sféře se vytrácejí, ti, kteří mají velké množství kapitálu k investování, vidí novou příležitost k obrovským ziskům v oblasti obrany.

Není tedy překvapivé, že v posledních pěti letech prudce vzrostly investice rizikového kapitálu do obranných technologií. Od roku 2019 do roku 2022 se financování amerických rizikového kapitálu pro startupy v oblasti vojenských technologií zdvojnásobilo a od roku 2021 zaznamenal sektor obranných technologií injekci ve výši 130 miliard dolarů v penězích rizikového kapitálu.

Výdaje rizikového kapitálu jsou v evropském obranném sektoru také na historickém maximu. Předpokládá se, že soukromé investice rizikového kapitálu dosáhnou rekordní 1 miliardy dolarů, a to především díky americkým rizikovým firmám. Ve vzduchu je šum o možnostech snah podporovaných rizikovým kapitálem a možnosti přetvořit obranné prostředí.

Propojení rizikového kapitálu, armády a Silicon Valley

Rizikový kapitál byl vždy nějakým způsobem spojen s vojenským sektorem. Ve skutečnosti by se na současný boom investic do obrany rizikového kapitálu dalo pohlížet jako na návrat do jeho počátků.

Počátky rizikového kapitálu se obvykle odvozují od amerických korporací pro výzkum a vývoj (ARDC) založených v roce 1946, těsně po 2. světové válce, v nichž byly USA povzbuzeny vítězstvím dosaženým, alespoň částečně, špičkovými technologiemi.

ARDC byla jednou z prvních společností, která systematicky získávala kapitál od institucionálních investorů na financování začínajících společností s vysokým potenciálem, které však byly příliš rizikové pro bankovní úvěry.

S tímto přístupem bylo ARDC první skupinou rizikového kapitálu, která vytvořila investiční portfolia, která se často spoléhala na jeden nebo dva mimořádné úspěchy, aby vyrovnala většinu společností, které dosáhly jen velmi skromných výnosů nebo dokonce ztrát. ARDC tak vznikla jako první tzv. "jednorožec".

Jednorožci jsou mladé společnosti, které získávají ocenění 1 miliardu dolarů nebo více (až donedávna mimořádně vzácná příležitost pro startup a něco, po čem touží každý investor ve svém portfoliu). To je jádrem investování rizikového kapitálu: je to rizikový kapitál s potenciálně velmi vysokými výnosy.

V počátcích, zejména těsně po 2. světové válce, směřovalo mnoho investic do podpory startupů, které by se zabývaly vojenskými inovacemi a technologiemi. To přineslo různé analytické přístroje, vysokonapěťové generátory, technologii detekce radiace, stejně jako rané společnosti zabývající se minipočítači, jako je Digital Equipment Corporation.

Digitální krajina, jak ji známe dnes, má své kořeny v armádě. Inovace v teorii komunikace byly v 50. letech určeny pro vojenskou raketovou technologii, praotcové umělé inteligence v polovině století téměř všichni pracovali na vojenských projektech a dokonce i samotný internet vzešel z vojenského projektu, tehdy pojmenovaného Arpanet.

Mnoho firem ze Silicon Valley zůstalo po desetiletí zapleteno s vojenským sektorem, a jak napsal antropolog Roberto Gonzales, téměř "všichni dnešní technologičtí giganti nesou nějakou DNA z obranného průmyslu a mají dlouhou historii spolupráce s Pentagonem". DNA rizikového kapitálu je tedy zakomponována do tohoto vztahu.

Je však třeba zdůraznit, že tradičně to byly potřeby vojenských organizací a vlád, které do značné míry diktovaly tempo, strukturu a proces technologických inovací.

V současné době je tempo a zaměření vojenských technologií a inovací stále více udáváno progresivně hlasitým a mocným průmyslem technologických startupů a jejich sponzory, kteří rozpoutali řadu iniciativ "vlasteneckého kapitálu", jako je American Dynamism; Projekt speciálních konkurenčních studií, Restart arzenálu demokracie a America's Frontier Fund.

Tyto podniky byly koncipovány hrstkou významných společností a jednotlivců v oblasti nových obranných technologií, aby utvářely obranné a vojenské priority a přinášely při tom dobré výnosy.

V obranném prostoru se množí jednorožčí společnosti, které se opírají o obrovské množství rizikového kapitálu, včetně nových vojenských technologických jednorožců, jako jsou Anduril Industries, Shield AI, Skydio, Scale AI a Palantir (Palantir již technicky vzato není startupem od svého vstupu na burzu v roce 2020, ale stále je součástí kohorty nových vojenských technologií).

Jedná se o nedávný vývoj. Během dvou desetiletí od poloviny 90. let do roku 2014 zaměřil sektor rizikového kapitálu své úsilí na prosperující civilní technologické prostředí, kde nebe bylo příslovečným limitem výnosů z technologických startupů, jako jsou Google, Microsoft, Facebook a PayPal.

Naproti tomu obranný trh byl považován za vyspělý a konsolidovaný, s přísnými akvarijními pravidly a regulacemi a příliš malou příležitostí pro nadměrnou návratnost investic. Realizace vládní zakázky by často trvala mnoho let.

Obraně také dominovala hrstka klíčových hráčů v oboru – tzv. prvočísla, mezi která patří Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics a BAE Systems.

Tyto prvotřídní společnosti si mezi sebou rozdělily lví podíl na obranném trhu a zdálo se, že pro technologické startupy existuje jen malá příležitost dostat se do dveří bez většího úsilí.

Například společnosti jako SpaceX a Palantir v roce 2014 zažalovaly americké letectvo a americkou armádu o možnost ucházet se o určité kontrakty. Používání zákona k prolomení otevřené obrany pro vojenské startupy se od té doby rozšířilo.

Kromě těchto strukturálních překážek pro investice rizikového kapitálu do obranného sektoru existovaly vyšší nominální morální náklady spojené s myšlenkou profitování z války. Vzhledem k tomu, že investory rizikového kapitálu jsou často nadace, pojišťovny, univerzity a penzijní fondy, existovala vnější neochota být vnímán jako investor do "obranného portfolia" – nebo jinými slovy do nástrojů smrti. Evropští investoři rizikového kapitálu byli obzvláště opatrní.

Rychlost, s jakou se zdá, že tato nervozita opadla, za méně než deset let, je pozoruhodná a naznačuje, že buď investoři podporující firmy rizikového kapitálu pocházejí z různých prostředí, která by mohla méně váhat, pokud jde o prospěch z válečného byznysu, nebo že to vždy byla primárně záležitost matematiky spíše než morálky.

Jednorožci a hyperrůst

Dnes chce každý investovat do jednorožce, protože má potenciál raketově stoupat v ocenění.

Aby se však některé startupy dostaly do dveří s nevyzkoušeným produktem nebo konceptem, mohou být motivovány k velkým a odvážným tvrzením o revoluční povaze svých produktů, které přinášejí změny. A i když si firma zajistí financování, étos přehnaných slibů často zůstává zakotven, aby si udržela úspěch směrem k hyperrůstu.

V nejhorším případě se přehnané sliby dějí v takovém měřítku, že se to rovná trestnému podvodu, jako tomu bylo v případě notoricky známého startupu Theranos, který se z jednoho z nejzajímavějších zdravotnických startupů, oceněného na svém vrcholu v roce 2015 10 miliardami dolarů, stal během čtyř krátkých let naprostým krachem.

V případě Theranosu charismatická zakladatelka společnosti divoce přecenila možnosti této technologie a tvrdila, že umožní celou řadu testů, které by mohly být provedeny z jediné malé kapky krve. Tato průlomová technologie "by mohla způsobit revoluci v medicíně a zachránit životy na celém světě".

Byl to příslib orientovaný na budoucnost – technologie zatím nemohla dělat to, co bylo slibováno – nicméně společnost tvrdila, že již má funkční testovací zařízení, což se ukázalo jako lež. Theranos v roce 2018 zkrachoval a charismatická zakladatelka Elizabeth Holmesová šla do vězení.

Prodej fantazie

Existuje mnoho dalších, méně dramatických příběhů, které se odehrávají podobným, i když ne podvodným způsobem: společnosti, které slibují revoluci ve způsobu, jakým děláme všední věci pomocí převratných technologií, které se ukáží jako neudržitelné, neproveditelné nebo jednoduše vyšumí do ztracena.

Výsledkem však je, že investoři přicházejí o peníze, a co je důležitější, že lidé, kteří se spoléhají na příslib této technologie, přijdou k újmě.

V obranném kontextu se přísliby nových vojenských technologií točí kolem prodeje silného odstrašení, ochrany demokracie, schopnosti mít komplexní, přesné znalosti v reálném čase, plně transparentní zeměkoule a především čistého, rychlého a rozhodného vítězství s hladkým a snadným propojením.

To může v nejhorším případě živit fantazii o vševědoucnosti a všudypřítomnosti a v nejlepším případě to podněcuje touhu po nemožné revoluci ve válčení, která je příliš přitažlivá na to, aby se jí dalo odolat, a nakonec přitahuje stále širší publikum.

Tyto příběhy jsou často podporovány všeobecným humbukem, že budoucnost s umělou inteligencí je nevyhnutelná. To vytváří silný příběh, který mytologizuje a zhodnocuje technologii, která možná nikdy nepřinese to, co je slíbeno. Je to silná směs, která často odolává střízlivějším hlasům, které nabádají k opatrnosti.

Tvrzení obranných jednorožců se často mohou zdát věrohodná, ale obvykle jsou neověřitelná, protože se týkají budoucnosti. A tato budoucnost často odráží vizi utvářenou fikcí a sci-fi, která je vždy o určitý stupeň vzdálená od sociálních a politických výzev reality.

Toto pokušení přehnaných slibů a mytologizace možných technologií formuje programy, které rychle usilují o realizaci globální transparentnosti a globálního dosahu. Program Společné velení a řízení všech domén (JADC2) je jednou z takových snah iniciovaných Pentagonem. Jeho cílem je propojit všechny domény – pozemní, vzdušné, námořní, vesmírné a kybernetické – do jediné sítě pro "prediktivní analýzu" a "vysokorychlostní bitvu".

Aby byl program pro Kongres stravitelný, je JADC2 často přirovnáván k platformě pro sdílení jízd Uber, která slibuje bezproblémovou interakci mezi systémy a platformami pro rychlé zásahy.

To znovu zaměřuje pozornost na umělou inteligenci jako infrastrukturní nezbytnost pro všechny vojenské prostředky a platformy. Bez rozšíření vojenské umělé inteligence bude tato vize nemožná. Právě zde spočívá příležitost pro vojenské startupy.

Dodavateli pro JADC2 jsou dvě významné vojenské technologické společnosti – Anduril a Palantir. Obě společnosti se netají ambicemi narušit obranný sektor, sesadit současné špičky a vybojovat si monopolní část trhu, aby si zajistily rostoucí zisky.

Palantir se zaměřil na to, aby se "stal ústředním operačním systémem pro všechny americké obranné programy"; Anduril prohlásil, že půjde "po všem, co je na seznamu [ministerstva obrany]", aby v tomto sektoru dominoval. Pro obě společnosti je to bitva – bitva o růst.

Jak říká Luckey z Andurilu: "musíte bojovat a zvítězit ve více oblastech". (Myslí tím to z hlediska korporátní strategie, ne skutečných bojišť.) Podobně generální ředitel a spoluzakladatel společnosti Palantir, Alex Karp, uznal, že je hrdý na to, že "přetáhl a kopal, přemluvil a ponížil" různé zákonodárce, tvůrce politik a vlády, aby pomohli dosáhnout tohoto cíle. Pohybujte se rychle a rozbíjejte věci.

Vytvoření jednorožce vyžaduje soustředěné úsilí a agresivní postoj ze strany těch, kteří mají v této oblasti největší finanční zisk. To se nejlépe provádí ve spojení s podobně smýšlejícími lidmi. V současném prostředí rizikového kapitálu v oblasti obrany existuje úzké propletení zakladatelů a sponzorů.

Peter Thiel je například spoluzakladatelem společnosti Palantir, řídí také společnost Founders Fund VC, která má investice mimo jiné do společností Space X, Anduril a Scale AI. VC společnost Andreessen Horowitz také financuje SpaceX, Anduril, Shield AI a Skydio.

Manažeři těchto VC společností mají mezi sebou dlouhodobé vazby. Stejně tak dochází k prúnikům mezi společnostmi. Například společnost Anduril založili bývalí zaměstnanci společnosti Palantir, kteří své zkušenosti z Palantiru aplikovali ve společnosti Anduril. Palmer Luckey, dříve z Oculus Rift, byl jmenován jejím charismatickým a otevřeným generálním ředitelem.

Peter Thiel a Eric Schmidt (bývalý generální ředitel společnosti Google a předseda americké Národní bezpečnostní komise pro umělou inteligenci) investují do fondu America's Frontier Fund a tak dále.

Existuje úzce provázaná a velmi dobře propojená síť finančníků a startupů, kteří všichni pracují na zdvojnásobení klíčového hnacího poselství: obranný sektor potřebuje disrupci a my jsme ti, kdo věcmi otřásají.

Na nedávném panelu, který vypovídal před Výborem pro ozbrojené síly USA, byli zástupci pěti začínajících vojenských společností. Každý z těchto pěti byl buď financován firmou z oblasti rizikového kapitálu Andreessen Horowitz, nebo jinak spojen s touto firmou.

Na slyšení Výboru pro ozbrojené síly USA poskytl technologický ředitel společnosti Palantir, Shyam Sankar, svědectví, v němž obhajoval "více bláznivosti" a "nechat chaos vládnout" v procesu vojenských akvizic a zakázek, aby mohly být podporovány nezbytné pobídky pro inovace prostřednictvím meziresortní soutěže.

Regulační omezení, myslí si, "vás omezují ve výhledu" a "rád by přijal další selhání, pokud by to znamenalo, že budeme mít katastrofálnější úspěch". O jaký úspěch by se mohlo jednat nebo jaké jsou důsledky neúspěchu, se neřeší, ale je jasné, že technický ředitel společnosti Palantir hovoří s ohledem na logiku rizikového kapitálu.

A podle nedávné zprávy Americké rady pro obranné inovace se zdá, že vláda je připravena podstoupit větší riziko a poskytnout takovým "samorostům" špičkové krytí.

Narativ o "krizi"

Kromě kultivace startupů s vysokým potenciálem existuje řada způsobů, jak ohýbat obranný sektor podle potřeb dodavatelů ze Silicon Valley a jejich podporovatelů z oblasti rizikového kapitálu. Síla vyprávění i zde zachází daleko.

Manažeři rizikového kapitálu a jejich startupy často píší vysoce profilované úvodníky, ve kterých se lamentuje nad špatným stavem (americké) obrany, ve kterých je zdůrazňována potřeba urychlených inovací a ve kterých je naznačolávána možnost, že by se USA mohly "velmi pravděpodobně" zaplést do "války na třech frontách s Čínou, Ruskem a Íránem". Stručně řečeno, spřádá se příběh naléhavosti, který pomáhá zhodnotit ty společnosti, které jsou vnímány jako řešitelé hrozící krize.

Druhým pilířem strukturální reformy obrany je zaměstnávání spletité sítě bývalých vládních zaměstnanců, kteří slouží buď jako lobbisté, nebo jako poradci s úzkými vazbami na vládu.

Například bývalý republikánský kongresman Mike Gallagher se v srpnu 2024 stal šéfem obranných operací společnosti Palantir a bývalý poradce pro národní bezpečnost H. R. McMaster je nyní hlavním poradcem společnosti Shield Capital.

Takových momentů "otáčivých dveří", kdy důvěryhodní experti propůjčují svou autoritu novým startupům, je mnohem více. Scéna vojenských technologických startupů, stejně jako většina výtvorů ze Silicon Valley, má určitou reputační zásobu a peníze jsou také atraktivní.

Anduril, který se učil od Palantiru, najal v prvním týdnu spoustu lobbistů a utratil více peněz za "právníky a lobbisty než za inženýry", jak poznamenal Luckey v nedávném rozhovoru pro The Economist.

Díky tomu Anduril zaujímá relativně tradiční způsob utváření obranného prostředí, který využívají i hlavní dodavatelé obrany, kteří, jak Anduril přiznává v příspěvku na blogu z roku 2022, mají motivaci "utrácet značné prostředky za týmy právníků a lobbistů, aby utvářeli požadavky programu v souladu se stávající technologií společnosti".

Anduril a jeho podporovatelé nyní dělají to samé, šité na míru své vlastní sadě technologií. Právníci jsou často zaměstnáváni nejen jako dohled nad fúzemi, akvizicemi a partnerstvími, ale také jako způsob, jak využít právo jako nástroj k vynucení reformy.

Primárním cílem soudních sporů SpaceX a Palantiru proti americké armádě a letectvu, které jsem zmínila dříve, nebylo nutně vyhrát (žaloba Space X nebyla úspěšná, Palantiru ano), ale vypáčit otevřený prostor pro akvizice - a obě žaloby toho dosáhly.

Strategie vytváření pocitu naléhavosti, zdvojnásobení spolupráce s lobbisty a vytvoření strukturálních možností pro revizi obrany je nyní v plném proudu. Aby bylo jasno, netvrdím, že by obranný sektor neměl prospěch z modernizace nebo restrukturalizace.

Stejně tak netvrdím, že všechny produkty vojenských startupů jsou irelevantní nebo neudržitelné. Také se nesnažím stavět prvočísla proti nové dynamice rizikového kapitálu a jejich zaměření na růst.

Ale co si myslím, že stojí za to prozkoumat, je dynamika, která je ve hře s těmito novými společnostmi a jejich implicitními prioritami a zájmy, protože budou utvářet postupy a priority. A tam, kde dochází k narušení, lze očekávat určitou úroveň rozbití. A to nabývá jiného tónu v otázkách života a smrti.

Trosky z narušení

Rozvrat obranného sektoru je v plném proudu a snahy o jeho přetváření k obrazu Silicon Valley přinesly v posledních letech ovoce s řadou konkrétních výsledků. Program JADC2 zmíněný výše je jedním z nich.

Jiné jsou patrné v programech, jako je Replicator Initiative amerického ministerstva obrany, která zahrnuje cíle, časové harmonogramy a produkty, jež vojenské startupy ze Silicon Valley nabízejí.

Vysocí představitelé obrany opakují argumenty odvětví rizikového kapitálu a různé akviziční programy se přizpůsobily potřebné rychlosti a rozsahu. Těmto společnostem nalouchají tvůrců politik a požadavky na kvazi-duchovní "obrannou reformaci" nacházejí rostoucí publikum.

Jaké jsou tedy možné důsledky?

Když Uber narušil odvětví soukromé dopravy, zanechal za sebou řadu narušených pracovních zákonů, práv zaměstnanců a zdravotních předpisů pro řidiče. Když AirBnB otřáslo ubytovacím průmyslem, vedlo to ke zvýšení cen nájmů v oblíbených turistických destinacích. Když se pokusíte vytvořit monopol, vždy to má sociální a politické důsledky. Často jsou tyto důsledky předvídatelné, jindy ne.

Narušení procesu akvizic v oblasti obrany přichází minimálně na úkor většího dohledu nad akvizičním procesem. Technologický sektor není známý tím, že by oceňoval regulační hranice. Právě naopak. Někteří z nejvýznamnějších sponzorů nového vojenského startupového prostředí jsou nejhlasitěji proti jakémukoli typu regulace.

Těžká váha rizikového kapitálu Marc Andreessen například skvěle napsal techno-optimistický manifest, ve kterém označuje řízení rizik, důvěru a bezpečnostní opatření a zásady předběžné opatrnosti za "nepřítele".

Méně regulace znamená méně dohledu a zodpovědnosti, a to nejen ve výdajích, ale také v tom, jak a kde se určité technologie používají a s jakými účinky. To je zřejmé.

Existuje však mnoho dalších vysoce pravděpodobných důsledků, které bychom mohli předvídat se zrychleným získáváním a zaváděním vojenských technologií pro bitvu. Jedním z nich je přeorientování se na riziko a experimentování.

Současná úroda vojenských startupových technologií, jako jsou drony s umělou inteligencí a systémy pro podporu rozhodování s umělou inteligencí, se testuje a vylepšuje naživo i během probíhajících konfliktů, například v rusko-ukrajinské válce, ale také v Gaze. Jedná se o formu prototypování, která se stává stále významnější a která potřebuje aktivní bojiště pro efektivní testování, iteraci a optimalizaci technologií.

To také znamená, že je možné, že budou nasazeny technologie, které nejsou vhodné pro daný účel, jen aby se testovaly a zlepšovaly za pochodu. Normalizuje, ne-li podporuje se, uvádění na trh a prodej chybných a možná neadekvátních produktů umělé inteligence, které nevyhnutelně způsobí újmu nevinným civilistům, kteří se ocitli v hledáčku konfliktu.

Můžeme to pozorovat právě teď na tlaku technologických společností, aby prodávaly své velké jazykové modely vojenským organizacím. Například společnost Scale AI se spojila se společností Meta, aby prodávala produkt LLM, Defense Llama, pro obranné účely. Společnost říká, že zapojení člověka je pro systém "naprosto nezbytné".

Ale vzhledem k dobře známému faktu, že LLM jsou náchylné k tomu, co je známo jako halucinace, šance, že tyto technologie budou fungovat přesně tak, jak je inzerováno, je v kontextu tak složitém a dynamickém, jako je válčení, mizivá. To by mohlo poškodit ty, kteří se ocitnou uprostřed tohoto experimentování, dolaďování a živého testování.

Klíčovou obavou je, že tato technologie nemusí být vhodná pro neočekávané, pro méně vypočitatelné nebo méně předvídatelné prvky ve válce. To zahrnuje potenciální vznikající teroristické hrozby nebo kroky těch států, které jsou často považovány za iracionální, jako je například Severní Korea.

Generální ředitel společnosti Anduril, Luckey, to přiznal v rozhovoru, kterým jsem začala. Uznal, že logika, na které jsou jeho zbraně postaveny, se rozpadá s potenciálními nepřáteli, kteří se vyhýbají teoretickému přístupu hry, na kterém spočívá velká část logiky umělé inteligence pro obranu:

"Je velmi těžké zapojit se do teorie her s lidmi, kteří sledují optimální strategii mimo teorii her... Je to jako hrát Monopoly s člověkem, který odejde a dá všechny své peníze někomu jinému."

Vážné omezení pro něco tak prolezlého náhodou, jako je válčení. Existují také efekty druhého a třetího řádu, které vycházejí z tohoto posunu směrem k logice rizikového kapitálu.

Vykouzlením bezprostřední hrozby by se mohlo změnit širší globální prostředí rizik a bezpečnosti. Upřednostňováním zbrojních technologií by se mohlo omezit financování jiných způsobů řešení konfliktů. Vyčleněním stále většího množství na technologie, které zůstávají nevyzkoušené a které nemusí mít stálost, by se mohlo promrhat značné množství peněz, které by bylo lepší alokovat jinam.

Toto je však země předstírání a jednorožců, kde jsou takové úvahy stejně spekulativní jako tolik medializované sliby zbraní umělé inteligence jako obránců demokracie.

V Silicon Valley motto "pohybujte se rychle a rozbíjejte věci" znamená, že problémy, které se objeví při zavádění technologie, lze vždy řešit později. Ve světě obrany a války však nelze škodu způsobenou tímto druhem riskování tak snadno odčinit.

Zdroj v angličtině: ZDE