Shutterstock/Hamara

Gaat Silicon Valley snel actie ondernemen en de defensiesector vernieuwen? 

door Elke Schwarz

Ik ben een propagandist, ik verdraai de waarheid en ik vertel alleen mijn versie ervan als ik denk dat ik daarmee mensen ga aanzetten tot het geloven van wat ik wil dat ze geloven.

Dit is geen soundbite uit een bijzonder uitbundig moment in de succesvolle televisieserie Mad Men. Deze woorden waren Geuit door Palmer Luckey, de CEO van Silicon Valley's populairste militaire technologiestartup. Luckey's bedrijf, Anduril Industries, is gespecialiseerd in systemen met kunstmatige intelligentie, waaronder autonome wapensystemen. Met een waardering van US$ 14 miljard is Anduril een van de darlings van de defensie-startupscene en het nieuwe ecosysteem van durfkapitaal (VC), waar grote beloften, grote weddenschappen en een neiging tot propaganda essentiële voorwaarden zijn voor succes.

De integratie van kunstmatige intelligentie (AI) in defensieprogramma's, laat staan ​​wapensystemen, blijft controversieel. De UK Artificial Intelligence in Weapon Systems Committee heeft drong aan op voorzichtigheid over de inkoopprocessen voor AI-gestuurde wapens, maar zoals zo vaak het geval is bij Silicon Valley-producten, is de ontwikkeling, inkoop en uitrol van AI-defensieprogramma's de afgelopen jaren sterk versneld.

Anduril, dat pas in 2017 werd opgericht, heeft al meerdere contracten van miljoenen dollars binnengehaald van de Amerikaanse ministerie van defensie (DoD), evenals de Britse Ministerie van Defensie (MoD). Tegen de achtergrond van de aanhoudende oorlog tussen Rusland en Oekraïne, de oorlog in Gaza en de toenemende wereldwijde spanningen, lijkt dit misschien geen verrassende ontwikkeling.

In mijn laatste onderzoek over militaire AI, heb ik vastgesteld dat een van de belangrijkste drijfveren van de versnelde aanschaf van militaire startupproducten, zoals autonome drones en andere AI-gestuurde systemen, de instroom van enorme sommen durfkapitaalgeld en invloed is. Deze durfkapitaalbedrijven hebben defensieorganisaties nodig om de ethos van snelheid en schaal van de technologie-industrie en de honger van de durfkapitaalwereld naar risico en revolutie over te nemen. Dit maakt deze bedrijven niet alleen financiële spelers, maar ook politieke.

Mijn onderzoek, gepubliceerd in Financiën en Maatschappij, suggereert dat deze trend om defensie te vormen naar het beeld van Silicon Valley, gemotiveerd door durfkapitaalbelangen, waarschijnlijk uitgesprokener en wijdverbreider zal worden. Met dit in gedachten is het de moeite waard om de dynamiek die speelt wanneer durfkapitaal zijn blik richt op zaken van leven en dood, nader te bekijken.

De opkomende militaire financiering

De militaire AI-industrie en de wereldwijde defensie-uitgaven zijn beide booming. Op dit moment schattingen, was de wereldwijde militaire AI-markt in 13.3 US$ 2024 miljard waard, met een verwachte groei tot US$ 35 miljard in de komende zeven jaar. Deze cijfers variëren, afhankelijk van de geraadpleegde marktdataservices, maar ze zijn de afgelopen 12 maanden regelmatig naar boven bijgesteld. De wereldwijde defensiebudgetten zijn ook enorm gestegen tegen de achtergrond van aanhoudende conflicten en een algemene verschuiving naar militarisering in de afgelopen 24 maanden.

Wereldwijde verdediging uitgaven bereikte in 2 een recordniveau van iets meer dan 2023 biljoen dollar. Met 877 miljard dollar heeft de VS goed voor bijna 40% van de wereldwijde defensie-uitgaven in 2023. NAVO-alliantie zal in 1.47 2024 biljoen dollar uitgeven. Dit zijn grote, aantrekkelijke bedragen voor grote technologie- en financiële bedrijven die voet aan de grond willen krijgen in de defensiemarkt.

De Sectie Inzichten streeft naar hoge kwaliteit lange journalistiekOnze redacteuren werken met academici met verschillende achtergronden die zich bezighouden met een breed scala aan maatschappelijke en wetenschappelijke uitdagingen.

Ondertussen beginnen defensieorganisaties meer geld uit te geven aan geavanceerde technologieën, waaronder onvermijdelijk AI. Een 2024 Brookings Institute Rapport ontdekte dat de waarde van defensiecontracten voor AI-gerelateerde technologieën in de 1200 maanden van augustus 12 tot en met augustus 2022 met bijna 2023% is gestegen.

Voor de meeste nieuwe AI-producten, civiel of anderszins, is vaak een vorm van durfkapitaalfinanciering betrokken, vooral als de AI-onderneming in kwestie te riskant blijkt om te worden gefinancierd via bankleningen of andere financiële instrumenten. Durfkapitaal is bereid om weddenschappen op innovatie aan te gaan die andere financiers niet zouden willen of niet kunnen aangaan.

In de afgelopen twee decennia heeft dit type financiering zich voornamelijk gericht op Silicon Valley-producten voor de civiele markt, waar de dynamiek ervoor heeft gezorgd dat investeerders buitengewone winsten konden behalen. Maar nu de defensiemarkt groeit en de kansen op buitengewone durfkapitaalrendementen in de commerciële sfeer afnemen, zien degenen met grote hoeveelheden kapitaal om te investeren een nieuwe kans voor enorme winsten in defensie binnen handbereik.

Het is dan ook niet verrassend dat de durfkapitaalinvesteringen in defensietechnologieën de afgelopen vijf jaar enorm zijn toegenomen. Van 2019 tot 2022 is de Amerikaanse durfkapitaalfinanciering voor militaire technologiestartups verdubbeldeen sinds 2021 heeft de defensietechnologiesector een injectie van 130 miljard dollar aan durfkapitaal.

De durfkapitaaluitgaven voor de Europese defensiesector zijn ook op een historisch hoogtepunt; particuliere durfkapitaalinvesteringen zijn geprojecteerde om een ​​recordbedrag van US$ 1 miljard te bereiken, voornamelijk aangestuurd door Amerikaanse durfkapitaalbedrijven. Er hangt een voelbare buzz in de lucht over de mogelijkheden voor door VC gesteunde ondernemingen en de mogelijkheid om het defensielandschap opnieuw vorm te geven.

De nexus tussen durfkapitaal, leger en Silicon Valley

Risicokapitaal is altijd op de een of andere manier verbonden geweest met de militaire sector. De huidige hausse in durfkapitaalinvesteringen in defensie kan zelfs worden gezien als een terugkeer naar de begindagen. De oorsprong van durfkapitaal is meestal terug te voeren aan de American Research and Development Corporations (ARDC), opgericht in 1946, vlak na de Tweede Wereldoorlog, waarin de VS werd gesteund door een overwinning die, althans gedeeltelijk, was behaald dankzij geavanceerde technologieën.

ARDC was een van de eerste bedrijven die systematisch kapitaal ophaalde bij institutionele investeerders om startende bedrijven te financieren met een hoog potentieel, maar die te riskant waren voor bankleningen. Met deze aanpak was ARDC de eerste durfkapitaalonderneming die beleggingsportefeuilles creëerde die vaak afhankelijk waren van een of twee buitengewone successen om de meerderheid van de bedrijven te compenseren die slechts zeer bescheiden rendementen of zelfs verliezen boekten. Op deze manier was ARDC het eerste zogenaamde "unicorn"-bedrijf.

Unicorns zijn jonge bedrijven die een waardering van US$ 1 miljard of meer krijgen (tot voor kort een uiterst zeldzame gebeurtenis voor een startup en iets dat elke investeerder in zijn portefeuille begeert). Dit is de kern van venture capital-investeringen: het is risicokapitaal met potentieel zeer hoge beloningen.

Vooral in de begindagen, net na de Tweede Wereldoorlog, gingen veel investeringen naar de ondersteuning van startups die zich bezighielden met militaire innovatie en technologieënDit bracht verschillende analytische instrumenten, hoogspanningsgeneratoren, stralingsdetectietechnologie en de eerste minicomputerbedrijven voort, zoals de Digital Equipment Corporation.

Het digitale landschap, zoals we dat vandaag de dag kennen, heeft zijn wortels in het leger. Innovaties in communicatietheorie waren bedoeld voor militaire rakettechnologie in de jaren 1950, de grootvaders van AI werkten bijna allemaal aan militaire projecten uit het midden van de vorige eeuw en zelfs het internet zelf ontstond uit een militair project, toen Arpanet genoemd.

Veel bedrijven in Silicon Valley bleven decennialang verweven met de militaire sector en, zoals de antropoloog Roberto Gonzales heeft gezegd, geschreven, bijna "alle hedendaagse techgiganten dragen wat DNA van de defensie-industrie met zich mee, en hebben een lange geschiedenis van samenwerking met het Pentagon". Dus het DNA van durfkapitaal is in deze relatie verwerkt.

Het is echter belangrijk om te benadrukken dat het traditioneel de behoeften van militaire organisaties en overheden waren die grotendeels het tempo, de structuur en het proces van technologische innovaties bepaalden.

Nu worden het tempo en de focus voor militaire technologie en innovatie steeds meer bepaald door een steeds luidere en krachtigere technologische startup-industrie en hun financiers die een reeks van “Patriottische hoofdstad”initiatieven, zoals Amerikaanse dynamiek; de Speciaal Competitief Studiesproject, Het herstarten van het arsenaal van de democratie en Het Amerikaanse grensfonds. Deze ondernemingen werden bedacht door een handvol vooraanstaande bedrijven en individuen in het nieuwe defensietechnologiedomein om defensie- en militaire prioriteiten vorm te geven en daarbij goede rendementen te behalen. Gesteund door enorme hoeveelheden durfkapitaal, woekeren unicornbedrijven in de defensiesector, waaronder nieuwe militaire technologie-eenhoorns zoals Anduril Industries, Schild AI, Skydio, Schaal AI en Palantir (Palantir is officieel geen startup meer sinds de beursintroductie in 2020, maar het maakt nog steeds deel uit van een groep nieuwe militaire technologieën).

Dit is een recente ontwikkeling. In de twee decennia van midden jaren 90 tot 2014 richtte de durfkapitaalsector haar inspanningen op een bloeiend civiel technologielandschap, waar de sky de spreekwoordelijke limiet was voor rendementen van technologische startups zoals Google, Microsoft, Facebook en PayPal.

De defensiemarkt werd daarentegen als volwassen en geconsolideerd beschouwd, met strikte regels en voorschriften voor overnames en te weinig mogelijkheden voor buitensporige rendementen op investeringen. Het duurde vaak vele jaren voordat een overheidscontract tot stand kwam. Defensie werd ook gedomineerd door een handvol belangrijke spelers in de industrie – de zogenaamde primes, waaronder Lockheed Martin, RTX Corporation, Northrop Grumman, Boeing, General Dynamics en BAE Systems.

Deze primes verdeelden het leeuwendeel van de defensiemarkt onder elkaar en er leek weinig kans te zijn voor technologische startups om zonder grote inspanningen een voet tussen de deur te krijgen. Zo hebben bedrijven als Space X en Palantir in 2014 respectievelijk de Amerikaanse luchtmacht en het Amerikaanse leger aangeklaagd voor de mogelijkheid om te bieden op bepaalde contracten. Het gebruik van de wet om de defensie voor militaire startups open te breken, is sindsdien wijdverbreider geworden.

Naast deze structurele hindernissen voor VC-investeringen in de defensiesector, was er een hogere nominale morele kost verbonden aan het idee van winstbejag uit oorlog. Aangezien durfkapitaalinvesteerders vaak schenkingen, stichtingen, verzekeringsmaatschappijen, universiteiten en pensioenfondsen zijn, was er een uiterlijke terughoudendheid om gezien te worden als investerend in "een defensieportefeuille" - of met andere woorden, in instrumenten van de dood. Europese durfkapitaalinvesteerders waren bijzonder voorzichtig.

Het is echter opmerkelijk hoe snel deze angst in minder dan een decennium lijkt te zijn verdwenen. Dit suggereert dat de investeerders die durfkapitaalbedrijven steunen, komen uit verschillende achtergronden die minder aarzelend zouden zijn als het ging om het profiteren van de oorlogsindustrie, of dat het altijd vooral een kwestie van wiskunde was en niet van moraal.

Eenhoorns en hypergroei

Tegenwoordig wil iedereen investeren in een unicorn, omdat de waarde ervan enorm kan stijgen.

Maar om een ​​voet tussen de deur te krijgen met een onbewezen product of concept, kunnen sommige startups gemotiveerd worden om grote, gewaagde beweringen te doen over de revolutionaire, veranderingsmakende aard van hun producten. En zelfs als een bedrijf eenmaal financiering heeft veiliggesteld, blijft de ethos van overbeloven vaak verankerd om succes te behouden richting hypergroei.

In het ergste geval worden er op zo'n grote schaal te veel beloftes gedaan dat er sprake is van criminele fraude, zoals het geval was bij de beruchte bloedteststartup Theranos. Deze startup ging van een van de meest veelbelovende startups in de gezondheidszorg, met een waarde van 10 miljard dollar op het hoogtepunt in 2015, in vier korte jaren tijd volledig failliet.

In het geval van Theranos had de charismatische oprichter van het bedrijf de mogelijkheden van de technologie enorm overdreven, door te beweren dat het een hele reeks tests mogelijk zou maken die met slechts één druppel bloed konden worden uitgevoerd. Deze baanbrekende technologie “zou de geneeskunde kunnen revolutioneren en levens over de hele wereld kunnen redden'.

Het was een belofte gericht op de toekomst – de technologie kon nog niet doen wat beloofd was – maar het bedrijf beweerde al een werkend testapparaat te hebben, wat een leugen bleek te zijn. Theranos ging in 2018 failliet en de charismatische oprichter, Elizabeth Holmes, ging de gevangenis in.

Een fantasie verkopen

Er zijn nog veel meer, minder dramatische verhalen die zich op een vergelijkbare, hoewel niet frauduleuze manier afspelen: bedrijven die beloven om de manier waarop we alledaagse dingen doen te revolutioneren met baanbrekende technologie, die echter niet duurzaam, onwerkbaar of simpelweg mislukt blijkt te zijn.

Maar het gevolg is dat investeerders geld verliezen en, nog belangrijker, dat mensen die op de beloftes van de technologie vertrouwen, schade ondervinden.

In de defensiecontext draait het bij de beloften van nieuwe militaire technologie om de verkoop krachtige afschrikkingVan het beschermen van de democratie, van het kunnen beschikken over uitgebreide, nauwkeurige, realtime kennis, van een volledig transparante wereldbol, en in de eerste plaats van een schone, snelle en beslissende overwinning met soepele en moeiteloze connectiviteit.

Dit kan in het slechtste geval een fantasie van alwetendheid en alomtegenwoordigheid voeden en in het beste geval een verlangen aanwakkeren naar een onmogelijke revolutie in oorlogsvoering die te aantrekkelijk is om te weerstaan ​​en uiteindelijk een steeds breder publiek in zijn kielzog trekt. Deze verhalen worden vaak ondersteund door een algemene hype dat een toekomst met AI onvermijdelijk is. Dit zorgt voor een krachtige verhaallijn die een technologie mythologiseert en waardeert die misschien nooit levert wat is beloofd. Het is een krachtige mix die vaak weerstand biedt aan meer nuchtere stemmen die tot voorzichtigheid manen.

De beweringen van defensie-eenhoorns lijken vaak plausibel, maar ze zijn meestal niet te verifiëren, omdat ze betrekking hebben op de toekomst. En vaak weerspiegelt die toekomst een visie die is gevormd door fictie en science-fiction, wat altijd enigszins verwijderd is van de sociale en politieke uitdagingen van de werkelijkheid.

Deze verleiding van overbeloven en het mythologiseren van mogelijke technologie vormt programma's die werken aan het realiseren van wereldwijde transparantie en wereldwijd bereik op snelheid. Het Joint-All-Domain Command and Control (JADC2)-programma is een dergelijke inspanning die door het Pentagon is geïnitieerd. Het is gericht op het verbinden van alle domeinen - land, lucht, zee, ruimte en cyber - in één enkel netwerk voor "voorspellende analyse” en “hogesnelheidsgevecht”'.

Om het programma voor het Congres aanvaardbaar te maken, wordt JADC2 vaak vergeleken met de ride-sharing platform Uber, dat naadloze interactie belooft tussen systemen en platforms voor snelle interventies. Dit vestigt de aandacht opnieuw op AI als een infrastructurele noodzaak voor alle militaire middelen en platforms. Zonder uitbreiding van militaire AI zal deze visie onmogelijk zijn. Hier ligt de kans voor militaire startups.

Twee vooraanstaande militaire technologiebedrijven zijn contractanten voor JADC2 – Anduril en PalantirBeide bedrijven maken geen geheim van hun ambities om de defensiesector te verstoren, de huidige machthebbers te onttronen en een monopoliepositie in de markt te verwerven om zo steeds meer winst veilig te stellen.

Palantir heeft zijn ogen gericht over “het centrale besturingssysteem worden voor alle Amerikaanse defensie-programma’s”; Anduril heeft verklaard dat het “na alles wat op de lijst van het [Defensie Ministerie] staat” om te domineren in de sector. Voor beide bedrijven is dit de strijd – de strijd om groei.

Zoals Anduril's Luckey zegt: "je moet op meerdere gebieden vechten en winnen”. (Hij bedoelt dat in termen van bedrijfsstrategie, niet van daadwerkelijke slagvelden). Op dezelfde manier erkende CEO en medeoprichter van Palantir, Alex Karp, dat hij, om de verdediging als markt wijd open te breken, er trots op is om “hebben gesleept en geschopt en gevleid en vernederd”verschillende wetgevers, beleidsmakers en de overheid om dit doel te helpen bereiken. Beweeg snel en breek dingen.

Het maken van een unicorn vereist een gezamenlijke inspanning en een agressieve houding van degenen die er financieel het meeste bij te winnen hebben in dit domein. Dit kan het beste worden gedaan in samenwerking met gelijkgestemde anderen. In het huidige defensie-durfkapitaallandschap is er een nauwe verstrengeling van oprichters en financiers.

Peter Thiel is bijvoorbeeld medeoprichter van Palantir, hij runt ook de Founders Fund VC-outfit die onder andere investeert in Space X, Anduril en Scale AI. Het VC-bedrijf Andreessen Horowitz financiert ook SpaceX, Anduril, Shield AI en Skydio. De managers van deze VC-bedrijven hebben al lang banden met elkaar. Op dezelfde manier is er sprake van verwevenheid tussen bedrijven. Anduril is bijvoorbeeld opgericht door voormalige Palantir-werknemers die hun ervaring van Palantir hebben meegenomen en toegepast bij Anduril. Palmer Luckey, voorheen van Oculus Rift, werd geïnstalleerd als de charismatische en uitgesproken CEO.

Peter Thiel en Eric Schmidt (voormalig CEO van Google en voorzitter van de Amerikaanse National Security Commission on Artificial Intelligence) zijn investeren in het America's Frontier Fund, enzovoort. Er is een hecht en zeer goed verbonden netwerk van financiers en startups die allemaal werken om de belangrijkste boodschap te verdubbelen: de defensiesector heeft behoefte aan ontwrichting en wij zijn degenen die de boel opschudden.

Tijdens een recent panel bewijs leveren aan het US Armed Services Committee waren vertegenwoordigers van vijf militaire startupbedrijven. Elk van de vijf werd gefinancierd door het VC-bedrijf Andreessen Horowitz of was op een andere manier gelieerd aan het bedrijf.

Tijdens de hoorzitting van de Amerikaanse commissie voor de strijdkrachten zei Shyam Sankar, Chief Technology Officer van Palantir, gaf bewijs pleiten voor ‘meer gekte’ en voor ‘het laten regeren van chaos’ in het militaire verwervings- en aanbestedingsproces, zodat de noodzakelijke prikkels voor innovatie kunnen worden bevorderd door middel van interdepartementale concurrentie.

Regelgevende beperkingen, denkt hij, “beperken je tot toezicht” en hij “zou graag meer falen accepteren als dat zou betekenen dat we meer catastrofale successen zouden hebben”. Wat voor succes dit zou kunnen zijn, of wat de implicaties zijn van falen, blijft onbesproken, maar het is duidelijk dat Palantir's CTO spreekt met een durfkapitaallogica in gedachten. En volgens een recent Amerikaans Rapport van de Defense Innovation BoardHet lijkt erop dat de overheid bereid is meer risico te nemen en een betere dekking te bieden aan dergelijke ‘mavericks’.

Het 'crisis'-narratief

Naast het cultiveren van startups met een hoog potentieel, zijn er een aantal manieren om de defensiesector aan te passen aan de behoeften van Silicon Valley-contractanten en hun VC-backers. De kracht van verhalen gaat hier ook een heel eind. Risicokapitaalmanagers en hun startups schrijven vaak spraakmakende opiniestukken waarin de De slechte staat van de (Amerikaanse) defensie wordt betreurdwaarin de behoefte aan versnelde innovatie wordt benadrukt, en waarin de mogelijkheid dat de VS “zeer waarschijnlijk” verwikkeld zouden kunnen raken in “een oorlog op drie fronten met China, Rusland en Iran” wordt benadrukt. opgeroepen. Kortom, er wordt een urgentieverhaal verteld waarmee bedrijven die de dreigende crisis aanpakken, in het zonnetje worden gezet.

Een tweede pijler in de structurele hervorming van defensie is het inzetten van een fijnmazig netwerk van voormalige overheidsmedewerkers die als lobbyisten of als adviseurs met nauwe banden met de overheid fungeren.

Voormalig Republikeins Congreslid Mike Gallagherwerd bijvoorbeeld in augustus 2024 hoofd van de defensie-operaties van Palantir en voormalig nationaal veiligheidsadviseur HR McMaster is nu Senior Advisor bij Shield Capital. Er zijn nog veel meer van dergelijke “draaideur” momenten waarop geloofwaardige experts hun gezag aan de nieuwe startups verlenen. De militaire tech startup scene, zoals de meeste creaties in Silicon Valley, heeft een bepaalde reputatie en het geld is ook aantrekkelijk.

Anduril, die van Palantir had geleerd, huurde een hele reeks lobbyisten in eerste week, meer geld uitgeven aan “advocaten en lobbyisten dan ingenieurs" zoals Luckey opmerkte in een recent interview met The Economist.

Hiermee hanteert Anduril een relatief traditionele manier om het defensielandschap vorm te geven, die ook wordt toegepast door belangrijke defensiecontractanten die, zoals Anduril erkent in een 2022 blogpost, een prikkel “om veel geld uit te geven aan teams van advocaten en lobbyisten om de programmavereisten vorm te geven in overeenstemming met de bestaande technologie van het bedrijf”.

Anduril en zijn financiers doen nu precies hetzelfde, afgestemd op hun eigen reeks technologieën. De advocaten worden vaak niet alleen ingezet om fusies, overnames en partnerschappen te begeleiden, maar ook om de wet te gebruiken als instrument om hervormingen af ​​te dwingen.

Het hoofddoel van de rechtszaken van SpaceX en Palantir tegen het Amerikaanse leger en de luchtmacht die ik eerder noemde, was niet per se om te winnen (de rechtszaak van Space X was niet succesvol, die van Palantir wel), maar om ruimte te creëren voor een grondige herziening van de overnamestrategie. Beide rechtszaken bereikten precies dat.

Een strategie om een ​​gevoel van urgentie te creëren, lobbyisten te verdubbelen en de structurele mogelijkheid voor een defensie-revisie te creëren, is nu in volle gang. Om duidelijk te zijn, ik beweer niet dat de defensiesector niet zou profiteren van modernisering of herstructurering. Ik beweer ook niet dat alle militaire startupproducten irrelevant of onhoudbaar zijn. Ik probeer ook niet de primes tegen de nieuwe durfkapitaaldynamiek en hun focus op groei op te zetten.

Maar wat ik denk dat het waard is om te onderzoeken, is de dynamiek die speelt bij deze nieuwe bedrijven en hun impliciete prioriteiten en belangen, omdat ze praktijken en prioriteiten zullen vormen. En waar ontwrichting aan het werk is, is een zekere mate van breuk te verwachten. En dit krijgt een andere toon in zaken van leven en dood.

Verstoringspuin

De verstoring van de defensiesector is in volle gang en pogingen om deze naar het beeld van Silicon Valley te vormen, hebben de afgelopen jaren vruchten afgeworpen met een aantal concrete resultaten. Het eerder genoemde JADC2-programma is er een van. Andere zijn duidelijk zichtbaar in programma's zoals het Amerikaanse ministerie van Defensie Replicator-initiatief, waarin de doelstellingen, tijdlijnen en producten zijn opgenomen die militaire startups in Silicon Valley te bieden hebben.

Hoog niveau Defensiefunctionarissen herhalen de gespreksonderwerpen van de durfkapitaalindustrie en verschillende overnameprogramma's hebben zich aangepast om tegemoet te komen de benodigde snelheid en schaal. Deze bedrijven hebben de oor van beleidsmakers en de eisen voor een quasi-spirituele “Defensie hervorming” vinden een groeiend publiek.

Wat zijn de mogelijke gevolgen?

Toen Uber de particuliere transportsector verstoorde, liet het een spoor van uitgeholde arbeidswetten, werknemersrechten en gezondheidszorgvoorzieningen voor chauffeurs. Toen AirBnB de accommodatiesector opschudde, resulteerde dat in verhoogde huurprijzen in populaire toeristische bestemmingen. Wanneer je een monopolie probeert te creëren, zijn er altijd sociale en politieke gevolgen. Vaak zijn deze gevolgen voorzienbaar, soms niet.

Het verstoren van het defensie-acquisitieproces gaat op zijn minst ten koste van meer toezicht op het acquisitieproces. De technologiesector staat niet bekend om zijn waardering voor regelgevende grenzen. Integendeel. Enkele van de meest prominente financiers van het nieuwe militaire startuplandschap zijn meest uitgesproken tegen geven type regeling.

VC-zwaargewicht Marc Andreessen schreef bijvoorbeeld beroemd een Techno-Optimistisch manifest waarin hij risicomanagement, vertrouwens- en veiligheidsmaatregelen en de voorzorgsprincipes als ‘de vijand’ benoemt.

Minder regelgeving betekent minder toezicht en verantwoording, niet alleen in uitgaven, maar ook in hoe en waar bepaalde technologieën worden gebruikt en met welke effecten. Dat is duidelijk.

Maar er zijn nog veel meer zeer plausibele gevolgen die we kunnen voorzien met de versnelde verwerving en uitrol van militaire technologieën voor de strijd. Een daarvan is de heroriëntatie op risico en experimenten.

De huidige oogst van militaire startuptechnologieën, zoals AI-gestuurde drones en AI-beslissingsondersteuningssystemen, worden live en tijdens aanhoudende conflicten getest en verbeterd, zoals in de oorlog tussen Rusland en Oekraïne, maar ook in Gaza. Dit is een vorm van prototyping die steeds belangrijker wordt en die een actief strijdtoneel nodig heeft voor het effectief testen, herhalen en optimaliseren van de technologieën.

Dit betekent ook dat het mogelijk is dat technologieën worden ingezet die niet geschikt zijn voor het beoogde doel, alleen om ze te testen en te verbeteren terwijl je bezig bent. Het normaliseert, zo niet promoot, de lancering en verkoop van gebrekkige en mogelijk ontoereikende AI-producten, die onvermijdelijk schade zullen toebrengen aan onschuldige burgers die in het vizier van een conflict terechtkomen.

We kunnen dit nu al zien met de push van technologiebedrijven om hun grote taalmodellen te verkopen aan militaire organisaties. Scale AI is bijvoorbeeld een samenwerking aangegaan met Meta om een ​​LLM-product te verkopen, Verdedigingslama, voor defensiedoeleinden. Het bedrijf zegt dat menselijke betrokkenheid “absoluut noodzakelijk” is voor het systeem.

Maar gezien de bekend feit dat LLM's vatbaar zijn voor wat bekend staat als hallucinaties, is de kans dat dergelijke technologieën precies werken zoals geadverteerd klein voor een context die zo complex en dynamisch is als oorlogsvoering. Dit kan schadelijk zijn voor degenen die midden in deze experimenten, fine-tuning en live-tests zitten. Het is een belangrijke zorg dat de technologie mogelijk niet geschikt is voor het onverwachte, voor de minder berekenbare of minder voorzienbare elementen in oorlogsvoering. Dat omvat potentiële opkomende terreurdreigingen of bewegingen van die staten die vaak als irrationeel worden beschouwd; zoals Noord-Korea bijvoorbeeld.

Anduril CEO, Luckey, gaf dit toe in het interview waarmee ik begon. Hij erkende dat de logica waarop zijn wapens zijn gebouwd uit elkaar valt met potentiële vijanden die de theoretische benadering van het spel mijden, waarop een groot deel van de AI-logica voor verdediging rust: "Het is erg moeilijk om speltheorie te gebruiken met mensen die de niet-speltheorie optimale strategie nastreven... Het is alsof je monopolie speelt met de persoon die gaat afhaken en al zijn geld aan iemand anders gaat geven." Een serieuze beperking voor iets dat zo doordrenkt is van toeval als oorlogsvoering.

Er zijn ook tweede- en derde-orde-effecten die voortvloeien uit deze verschuiving naar durfkapitaallogica's. Door een dreigende dreiging op te roepen, kan het bredere mondiale risico- en veiligheidslandschap veranderen; door prioriteit te geven aan wapentechnologieën, kan de financiering voor andere manieren om conflicten aan te pakken worden ingeperkt; door steeds meer te besteden aan technologieën die nog niet zijn getest en die mogelijk niet permanent zijn, kunnen aanzienlijke bedragen geld worden verspild die beter elders zouden kunnen worden toegewezen.

Maar dit is een land van fantasie en eenhoorns, waar dergelijke overwegingen net zo speculatief zijn als de veelgeprezen beloften van AI-wapens als verdedigers van de democratie.

In Silicon Valley impliceert het motto “move fast and break things” dat problemen die ontstaan ​​bij de uitrol van de technologie altijd later kunnen worden aangepakt en opgelost. In de wereld van defensie en oorlog kan de schade die door dit soort risico’s wordt veroorzaakt, niet zo gemakkelijk ongedaan worden gemaakt.

The Conversation legde de punten die in dit artikel aan bod komen voor aan de genoemde tech- en durfkapitaalbedrijven. Ze reageerden niet op ons verzoek om commentaar.

Elke Schwarz, Lezer in politieke theorie, Queen Mary University of London

Dit artikel is opnieuw gepubliceerd vanaf The Conversation onder een Creative Commons-licentie. Lees de originele artikel.

Related Books:

Over tirannie: twintig lessen uit de twintigste eeuw

door Timothy Snyder

Dit boek biedt lessen uit de geschiedenis voor het behouden en verdedigen van democratie, inclusief het belang van instellingen, de rol van individuele burgers en de gevaren van autoritarisme.

Klik voor meer info of om te bestellen

Onze tijd is nu: macht, doel en de strijd voor een eerlijk Amerika

door Stacey Abrams

De auteur, een politicus en activist, deelt haar visie voor een meer inclusieve en rechtvaardige democratie en biedt praktische strategieën voor politiek engagement en mobilisatie van kiezers.

Klik voor meer info of om te bestellen

Hoe democratieën sterven

door Steven Levitsky en Daniel Ziblatt

Dit boek onderzoekt de waarschuwingssignalen en oorzaken van democratische ineenstorting, op basis van casestudy's van over de hele wereld om inzicht te bieden in hoe de democratie kan worden beschermd.

Klik voor meer info of om te bestellen

Het volk, nee: een korte geschiedenis van anti-populisme

door Thomas Frank

De auteur biedt een geschiedenis van populistische bewegingen in de Verenigde Staten en bekritiseert de "anti-populistische" ideologie die volgens hem democratische hervormingen en vooruitgang in de kiem heeft gesmoord.

Klik voor meer info of om te bestellen

Democratie in één boek of minder: hoe het werkt, waarom het niet werkt en waarom het gemakkelijker is om het op te lossen dan u denkt

door David Litt

Dit boek biedt een overzicht van de democratie, met inbegrip van haar sterke en zwakke punten, en stelt hervormingen voor om het systeem responsiever en verantwoordelijker te maken.

Klik voor meer info of om te bestellen

Artikeloverzicht:

De durfkapitalisten van Silicon Valley pushen militaire AI-innovatie terwijl ze hun ontwrichtende ethos uitbreiden naar democratische processen. De defensie-industrie, die lang weerstand bood tegen verandering, is nu overgeleverd aan door durfkapitaal gesteunde startups die efficiëntie beloven maar chaos riskeren. Dezezelfde drang naar ontwrichting heeft verkiezingsinmenging aangewakkerd, zwak toezicht van de regelgever uitgebuit en winst boven het algemeen belang gesteld. Met militaire systemen die steeds meer worden gevormd door ongeteste AI en democratie die wordt ondermijnd door bedrijfsambities, zijn de inzetten nog nooit zo hoog geweest.

hashtags:
#SiliconValley #Verkiezingsinterferentie #MilitaireAI #TechnischeRisico's #DemocratieOnderDreiging