Când „Mașina”(AI) începe să aleagă ținta…

Angajații de la Amazon se revoltă! Știm că există însă si proteste documentate ale angajaților din Big Tech împotriva Project Nimbus, contractul cloud de 1,2 miliarde de dolari atribuit Google și Amazon. Scandalul capătă o forță pe care se pare că nu o preconiza nimeni. Există o discuție despre inteligența artificială pe care lumea preferă să o poarte despre viitor. Despre roboți, medicină, mașini autonome, productivitate, educație, supercomputere și despre felul în care AI va schimba economia. Este discuția confortabilă. Există însă și cealaltă față a revoluției artificiale: momentul în care inteligența artificială nu mai este folosită pentru a scrie un text, a diagnostica o boală sau a optimiza o fabrică. Ea e folosită pentru a decide cine trebuie urmărit, cine trebuie clasificat drept suspect, unde se află și, în ultimă instanță, cine poate deveni țintă militară. În Gaza, acest moment nu mai aparține science-fiction-ului. Este deja documentat. Investigațiile realizate de +972 Magazine și Local Call au adus în atenția publică sisteme israeliene precum Lavender, The Gospel și Where’s Daddy?, iar Human Rights Watch a analizat ulterior aceste tehnologii și a confirmat existența unor instrumente digitale folosite de armata israeliană pentru supraveghere, identificarea unor presupuse persoane asociate grupărilor armate, generarea unor liste de ținte și localizarea acestora. Aici începe problema adevărată. Pentru că nu vorbim despre o dronă controlată de un om care primește informații și ia o decizie. Vorbim despre o arhitectură tehnologică în care cantități uriașe de date sunt introduse în sisteme capabile să identifice tipare, să atribuie scoruri de probabilitate și să producă recomandări pentru operațiuni militare. Lavender este descris ca un sistem de machine learning destinat identificării unor persoane despre care armata israeliană suspecta că au legături cu Hamas sau Jihadul Islamic Palestinian. Human Rights Watch (HRW) explică faptul că sistemul se bazează pe tehnici de învățare automată și pe analizarea unor cantități foarte mari de date. Problema fundamentală este simplă și terifiantă: un algoritm poate găsi corelații, dar o corelație nu este o dovadă că un om este combatant.

Cu alte cuvinte, „Mașina” nu „știe” că omul este terorist. „Mașina” calculează că omul seamănă, statistic, cu ceea ce sistemul a fost instruit să considere un terorist. Diferența dintre cele două propoziții este diferența dintre inteligență artificială și adevăr. Și exact aici apare pericolul. Conform investigațiilor citate în documente oficiale americane, Lavender ar fi ajuns la un moment dat să marcheze zeci de mii de persoane ca presupuse ținte. Sursele citate de investigațiile respective au descris situații în care verificarea umană a rezultatului algoritmic ar fi fost extrem de superficială, uneori durând doar câteva secunde. Documentele prezentate în Congresul american au preluat explicit aceste acuzații privind folosirea Lavender pentru producerea unor liste de ținte și caracterul limitat al verificării umane. Iar aici trebuie să ne oprim. Pentru că întreaga industrie occidentală a inteligenței artificiale vorbește despre „human in the loop” ca despre o garanție de siguranță. Dar ce înseamnă, de fapt, un om în buclă atunci când omul are câteva secunde pentru a verifica rezultatul unei mașini? Dacă omul doar apasă butonul „confirm”, atunci nu mai avem cu adevărat o decizie umană asistată de AI. Avem o decizie produsă de mașină și validată formal de un om. Este o diferență uriașă. The Gospel reprezintă o altă parte a acestei arhitecturi. HRW îl descrie drept un instrument care generează liste de clădiri sau alte obiective structurale susceptibile de a fi atacate și arată că sistemul utilizează procese de „machine learning”. Iar apoi apare Where’s Daddy? Numele aproape grotesc de banal al acestui sistem ascunde funcția descrisă în investigațiile jurnalistice: localizarea unei persoane deja identificate ca țintă și semnalarea momentului în care aceasta ajunge într-o anumită locație, inclusiv, potrivit relatărilor, în locuința sa.

Așadar, privit ca un lanț tehnologic, avem ceva mult mai important decât „Israel folosește AI”. Avem: datele, analiza algoritmică, identificarea, clasificarea, localizarea, selectarea obiectivului, si, în final, atacul. Aceasta este adevărata revoluție. Nu faptul că există AI pe câmpul de luptă. Doar faptul că AI poate transforma procesul de producere a țintelor dintr-o activitate limitată de capacitatea umană într-un proces industrial. Chiar aceasta este una dintre problemele fundamentale ridicate de investigațiile privind Gaza: automatizarea poate elimina „blocajul” reprezentat de timpul și capacitatea limitată a oamenilor de a analiza informațiile. Iar când numărul potențialelor ținte crește de la zeci la sute sau mii, apare o întrebare pe care omenirea încă nu a rezolvat-o: câtă decizie morală poate fi delegată unei „mașini”? HRW avertizează exact asupra acestui punct. Algoritmii pot reproduce erorile și prejudecățile datelor pe care sunt antrenați. În cazul unor populații supuse unei supravegheri masive, o eroare statistică nu mai înseamnă o recomandare greșită într-un motor de căutare. Poate însemna un om mort. Și mai există ceva. Un algoritm nu are conștiință. Nu știe ce înseamnă o mamă. Nu știe ce înseamnă un copil. Nu știe ce înseamnă să intri într-o casă și să găsești acolo o familie. Nu are memorie morală. Nu are remușcare. El execută modelul matematic pentru care a fost construit. De aceea, problema nu este doar tehnologică. Este civilizațională. Pentru că atunci când o societate introduce AI în procesul de război, trebuie să stabilească înainte de toate cine poartă răspunderea atunci când algoritmul greșește. Programatorul? Comandantul? Ofițerul care aprobă? Statul? Compania care a furnizat infrastructura? Sau nimeni?!

Ultima variantă este cea mai periculoasă dintre toate. Și aici ajungem la prezent. În iulie 2026, Directoratul israelian pentru AI a prezentat în Knesset un nou plan național care urmărește, între altele, atingerea obiectivului de 100.000 de procesoare AI construite prin sectorul privat, dezvoltarea infrastructurii naționale de calcul și consolidarea capacității Israelului în domeniul inteligenței artificiale (Knesset) Israelul nu ascunde ambiția. Vrea să devină o superputere globală în AI. În sine, obiectivul nu este nimic condamnabil. Orice stat are dreptul să investească în cercetare, tehnologie și AI. Dar există o întrebare pe care lumea trebuie să o pună atunci când același ecosistem tehnologic are legături profunde cu structurile militare și de intelligence: ce se întâmplă atunci când experiența acumulată în războiul bazat pe date, supraveghere și algoritmi devine fundația unei infrastructuri naționale de AI? Nu spun că fiecare proiect civil israelian de AI este militar. Nu există dovezi pentru o asemenea afirmație și ar fi incorect să o facem. Spun altceva. Există o continuitate tehnologică și instituțională care merită examinată. Israelul are una dintre cele mai dezvoltate industrii militare și de intelligence din lume. Unitățile sale de intelligence au dezvoltat tehnologii sofisticate de analiză a datelor, supraveghere și „machine learning”. Iar experiența dobândită în utilizarea acestor tehnologii în război se întâlnește acum cu o strategie națională de dezvoltare accelerată a AI.

Aceasta nu este o conspirație. Este o întrebare de securitate internațională. Și este o întrebare pe care nu trebuie să o punem doar Israelului. Trebuie să o punem Statelor Unite. Trebuie să o punem Europei. Trebuie să o punem companiilor tehnologice. Pentru că Amazon și Google nu sunt observatori neutri ai acestei transformări. Project Nimbus, contractul de cloud în valoare de 1,2 miliarde de dolari atribuit în 2021 Google și Amazon pentru furnizarea de servicii cloud guvernului israelian, a devenit el însuși obiectul unor proteste ale angajaților. Google a susținut că acel contract nu vizează infrastructura militară sau armele, în timp ce protestatarii au contestat această caracterizare. Aici este întrebarea pe care trebuie să o punem unei lumi care se grăbește să introducă AI în absolut orice: cine controlează infrastructura care îi permite mașinii să decidă? Pentru că viitorul războiului nu va fi definit doar de rachete mai precise. Va fi definit de capacitatea de a colecta mai multe date, de a le procesa mai repede, de a identifica mai multe persoane, de a urmări mai multe mișcări și de a produce mai multe decizii militare într-un timp în care niciun om nu ar putea analiza informația respectivă. Asta schimbă însăși natura războiului. În războiul clasic, omul decidea și mașina executa. În războiul algoritmic, există riscul ca mașina să filtreze realitatea, să propună ținta, să stabilească prioritatea și să spună omului ce trebuie să privească. Iar omul să devină, încetul cu încetul, ultimul semnatar al unei decizii pe care nu mai are timpul, informația sau capacitatea de a o verifica. Acesta este motivul pentru care cazul Gaza trebuie urmărit nu numai ca o tragedie politică sau militară, ci și ca un posibil laborator al războiului viitor. HRW avertizează că folosirea unor asemenea sisteme fără o verificare umană suficientă poate pune civilii în pericol grav și poate intra în conflict cu obligațiile dreptului internațional umanitar. Un studiu juridic recent dedicat exact sistemelor de tip Lavender și Where’s Daddy? ajunge la aceeași problemă fundamentală: verificarea trebuie să existe la fiecare etapă a procesului, nu doar la capătul lui.

Asta este miza reală. Nu Netanyahu. Nu propaganda. Nu hashtagurile. Nu disputa dintre tabere. Doar întrebarea dacă omenirea acceptă ca algoritmii să devină parte din mecanismul prin care un stat decide cine este suficient de suspect pentru a fi urmărit, suficient de suspect pentru a deveni țintă și, în cele din urmă, suficient de suspect pentru a muri. Pentru că în momentul în care o „mașină” începe să transforme suspiciunea în țintă, AI încetează să mai fie doar tehnologie. Devine putere. Iar atunci când puterea de a ucide este multiplicată de viteza unei mașini, problema nu mai este cât de inteligentă este inteligența artificială. Problema este cât de puțini oameni mai rămân între algoritm și moarte.

Lasă un răspuns

Adresa ta de email nu va fi publicată. Câmpurile obligatorii sunt marcate cu *

*