Pericolul transformării Inteligenței Artificiale, dintr-un instrument al progresului într-un agent al distrugerii globale, este real… Conceptul de „război inteligentizat” subliniind eliminarea factorului moral în deciziile militare luate de algoritmi. Din perspectivă economică, este criticată risipa resurselor pentru „bunuri de distrugere”, supraviețuirea umanității depinzând de prevenirea accesului liderilor „bolnavi patologic” la tehnologia IA, reluând temerile lui Einstein și Oppenheimer privind decalajul dintre avansul tehnologic și maturitatea etică. Conceptul de „război inteligentizat” presupune trecerea de la conflictele conduse de oameni cu ajutorul mașinilor la războiul condus direct de algoritmi, unde decizia de atac este luată în milisecunde de către Inteligența Artificială (IA), eliminând practic factorul de ponderare uman și orice ezitare morală. Folosirea Inteligenței Artificiale (IA) pe plan militar reprezintă trecerea de la forța brută la dictatura algoritmului. Marile puteri (SUA, Rusia și China) investesc masiv în „războiul inteligentizat”, unde victoria nu mai aparține curajului uman, ci vitezei de procesare. Pericolul capital este eliminarea ezitării morale: un algoritm nu are conștiință, nu simte milă și nu tremură înainte de a lansa un atac devastator. În milisecundele în care IA decide o lovitură, factorul uman, singurul capabil de ponderare etică, este complet anulat.
Astăzi, omenirea poate fi distrusă „distinct” prin multiple tipuri de război: nuclear, biologic, chimic sau prin noile super-arme, precum prin cele cu laser, energie direcționată, electromagnetic. După prima explozie nucleară, J. Robert Oppenheimer (directorul ştiinţific al proiectului primei arme nucleare), marcat de consecințele operei sale, exclama citând din Bhagavad Gita: „Dacă strălucirea unei mii de soare ar clipi pe cer, ar fi ca o strălucire a Celui Atotputernic… Eu sunt moartea, distrugătorul lumilor”. Astăzi, prin IA, am creat un „distrugător” și mai eficient. Cele circa 12.500 de arme nucleare deținute în special de Rusia și SUA ar conduce la dispariția totală a omului, transformând Pământul într-un deșert radioactiv pentru milioane de ani. Într-un conflict nuclear „inteligentizat”, nimeni nu are de câștigat; acesta ar duce la anihilarea totală a inamicilor și la învelirea întregului Pământ cu radiații ce ar face ca toate formele de viață să dispară.
Din perspectivă economică și socială, cursa înarmării prin IA este o formă criminală de risipă a resurselor. Deturnarea geniului: Genii ale informaticii sunt cooptate pentru a crea sisteme de moarte, în loc să inoveze în medicină sau educație. Investiția sterilă: Aceste arme sunt „bunuri de distrugere” care nu generează valoare adăugată pentru populație, ci adâncesc deficitele bugetare, sacrificând sănătatea și infrastructura civilă pe altarul unei false securități. Einstein scria în 1917: „Întregul nostru progres tehnologic — însăși civilizația noastră — este ca un topor în mâna unui criminal patologic”. El nu critica tehnologia în sine, ci decalajul moral: am perfecționat „toporul” (= IA), dar scopurile noastre au rămas primitive sau distructive. „Perfecțiunea mijloacelor și confuzia scopurilor par să caracterizeze epoca noastră”, avertiza el în 1950. Dacă tehnologia devine mai importantă decât relațiile umane, vom asista la nașterea unei „generații de idioți” conduse de nebuni. Un război nuclear, care ar însemna sfârșitul lumii, nu poate avea loc decât dacă aceste cuceriri ale IA ajung pe mâna unor „nebuni patologici”, a unor „genii ale răului” sau a unor „cuceritori malefici”. Aceștia, în nebunia lor patologică, sunt capabili să ducă o luptă pentru „dreptate” până când nu va mai rămâne om pe pământ, distrugând însăși umanitatea în numele căreia pretind că luptă.
