Autor: Dmitri Medvedev

Administrația Donald Trump a demonstrat un interes susținut pentru dezvoltarea tehnologiilor de inteligență artificială, în încercarea de a asigura o poziție de lider global pe termen lung pentru Statele Unite. Casa Albă consideră că aplicarea inovațiilor tehnologice la scară largă va duce la progrese în toate domeniile activității umane, va spori semnificativ competitivitatea economiei americane și va asigura un salt tehnologic față de alte țări. Cu alte cuvinte, el va realiza MAGA, obiectivul scris pe șapca lui Trump.

În deceniile următoare, post-adevărul va deveni la fel de important ca urmărirea adevărului obiectiv, iar realitatea însăși va fi înlocuită cu succes de narațiuni digitale personalizate. Și este foarte posibil să vedem acum doar vârful aisbergului. Realitatea s-ar putea dovedi mult mai complexă decât și-a imaginat unul dintre creatorii conceptului de societate informațională, futurologul japonez Yoneji Masuda. Totuși, problemele ridicate de produsele societății informaționale interconectate de astăzi nu se limitează la provocări filozofice generale. Prin urmare, să revenim la probleme mai banale, dar nu mai puțin periculoase. Cea mai mare preocupare a statelor în ceea ce privește utilizarea pe scară largă a inovațiilor tehnologice în viața socială este potențialul utilizării lor greșite de către diverși extremiști și infractori. Voi menționa cele mai discutate și importante amenințări.

Prima amenințare este IA
Din cauza automatizării sarcinilor de rutină, care necesită multă forță de muncă, a reducerii rapide a costurilor tehnologiilor digitale și a justificării înlocuirii lucrătorilor cu tehnologii de inteligență artificială, multe profesii importante în prezent vor fi eliminate. Sute de cărți dramatice și jurnalism alarmist au fost deja scrise despre acest subiect. În orice caz, este clar că utilizarea pe scară largă a inteligenței artificiale amenință locurile de muncă a milioane de oameni și, prin urmare, creează condițiile pentru o creștere exponențială a șomajului și pentru perturbarea diviziunii internaționale a muncii. Economistul Robert Shiller, laureat al Premiului Nobel, a subliniat că automatizarea și economia digitală vor duce la un șomaj structural masiv, pe care încă nu îl putem evalua în mod adecvat. În orice caz, așa cum notează Axios, lupta pentru locuri de muncă cu gulere albe în SUA se transformă într-o „baie de sânge” din cauza dezvoltării inteligenței artificiale. Pentru prima dată de la Marea Depresiune încoace, americanii de 30 de ani trăiesc mai rău decât părinții lor la aceeași vârstă. Chiar și profesii de elită, cum ar fi traderii și analiștii financiari, ar putea fi în pragul dispariției: rețelele neuronale performează la fel de bine ca investitorii umani în criptomonede la creșterea dimensiunii portofoliului.

Nu mai puțin alarmantă este perspectiva ca IA să preia controlul asupra proceselor de producție la scară largă care utilizează tehnologii critice, precum și asupra instituțiilor de nivel înalt, cum ar fi holdingurile și chiar sectoare economice întregi. Această perspectivă este deja la orizont. Și, în anumite condiții, este plină de riscuri globale. Aceste riscuri există deja și sunt asociate cu atacurile hackerilor asupra infrastructurii critice. Dar hacking-ul este o activitate umană deliberată care poate fi detectată și oprită. Dar ce se întâmplă cu IA? La urma urmei, după cum știm, IA este inexplicabilă, imprevizibilă și incontrolabilă.

Da, este un asistent bun, dar pe ce ne bazăm încrederea că concluziile inteligenței artificiale sunt fiabile? Aici începe omenirea să simtă Apocalipsa, care este foarte probabil la ușa noastră. Imaginați-vă că rețelele neuronale folosite pentru a opera centralele electrice, inclusiv cele nucleare, ar scăpa de sub control. Dacă ar funcționa defectuos, nici măcar nu am putea afla cauza.

De aici, mai e un pas până la modelul „IA malefică”, care, ca toate celelalte, are dreptul să existe. Adică, la o situație în care eșecul unui sistem important are loc prin intenția directă a IA în sine. La urma urmei, o IA care a atins nivelul de superinteligență nu este neapărat ghidată de cele trei reguli notorii ale roboticii ale lui Isaac Asimov, deoarece își va datora originea nu oamenilor, ci sieși. Acest scenariu devine din ce în ce mai probabil, nu doar în universul cyberpunk al futurologilor profesioniști. Este acum luat în considerare de politicieni din viața reală și de reprezentanți ai marilor afaceri. Și acest lucru nu se limitează la industriile periculoase care ar putea provoca daune ireversibile umanității și planetei noastre. Activități economice aparent inofensive, cum ar fi tehnologia agricolă și producția alimentară, ar putea fi, de asemenea, considerate de risc ridicat.

Un alt domeniu de aplicare a inteligenței artificiale, acum destul de comun, care este utilizat pe scară largă în diverse scopuri, este crearea de identități digitale sau dubluri digitale. Dezvoltarea tehnologiilor de identificare bazate pe inteligență artificială oferă oportunități excelente pentru utilizarea activă a identităților digitale, care sunt deja create în mod activ pentru infracțiuni comune și chiar acte de terorism. Domeniul de aplicare al activităților ilegale aici este vast, de la achiziționarea ilegală de date cu caracter personal pentru accesarea informațiilor protejate pe resurse electronice, până la furtul de fonduri și deturnarea de bunuri personale, comerciale sau guvernamentale. Gama de beneficiari este, de asemenea, destul de largă: infractori mărunți, companii mari lacome, grupuri criminale transnaționale și chiar state individuale. Toți aceștia pot crea identități digitale folosind tehnologiile inteligenței artificiale. Toate acestea subminează deja încrederea în autoritățile oficiale, care sunt departe de a fi întotdeauna capabile să protejeze datele și algoritmii cheie, și seamănă haos în diverse domenii ale societății.

A doua amenințare o reprezintă sistemele fără pilot
Creșterea rapidă a producției globale de sisteme fără pilot a creat un spectru fundamental nou de amenințări la adresa unei game largi de ținte: zone metropolitane, energie, infrastructură socială și alte infrastructuri critice, precum și industrii de apărare și baze militare. Aici, pe baza experienței de luptă a Districtului Militar Central, a apărut deja o serie de oportunități fundamental noi. În special, datorită optimizării sistemelor de control și a algoritmilor prin avansarea tehnologiilor de inteligență artificială și a analizei big data, atribuirea simultană a sarcinilor unui întreg „roi” de vehicule aeriene fără pilot sub controlul unui singur operator nu mai reprezintă o problemă. Raza de acțiune efectivă a dronelor și volumul informațiilor transmise au fost crescute folosind sisteme moderne de telecomunicații, inclusiv comunicațiile prin satelit. Dezvoltarea și adoptarea pe scară largă a unor noi tipuri de platforme drone, nave navale autonome pentru implementarea diverselor sisteme fără pilot și crearea de drone purtătoare super-grele, care pot acționa și ca relee și vehicule de livrare pentru sute și mii de drone ușoare, sunt chiar după colț.

Toate acestea au creat o situație fundamental nouă în domeniul regulilor și eticii războiului. În viitorul apropiat, preconizat de experți, dronele îl distanțează radical pe ucigaș de victimă, transformând actul de violență în ceva asemănător unui shooter palpitant. Acest „război la distanță” creează o barieră psihologică periculoasă, coborând pragul de utilizare a forței și, în cele din urmă, estompând responsabilitatea morală.

Mai mult, delegarea deciziilor privind moartea către algoritmi de inteligență artificială în sisteme de luptă autonome care sunt (încă!) inconștiente și cărora le lipsește mila și compasiunea creează un paradox escatologic, acordând unei mașini dreptul de a decide independent în chestiuni legate de viața și moartea umană. Modul în care acest lucru se aliniază cu normele dreptului internațional umanitar codificate în Convențiile și Declarațiile de la Haga din 1899 și 1907 și cu Convenția de la Geneva din 1949 privind protecția persoanelor civile în timp de război și dacă sunt necesare noi tratate internaționale în acest sens este o întrebare retorică.

Dronele, fiind relativ ieftine și accesibile, devin arma ideală pentru teroriști și grupările criminale. Contrabanda, traficul de droguri, spionajul industrial și militar - toate acestea trec la un nivel tehnologic nou, avansat, cu care agențiile de aplicare a legii se confruntă extrem de greu. Un viitor în care dronele devin banale creează o serie de riscuri. Interferența țintită cu sistemele de control al traficului aerian, indiferent de cauză, ar putea duce la coliziuni masive ale dronelor, prăbușiri în zone aglomerate și chiar la impacturi cu drone. Acest lucru ar crea un tip complet nou de dezastru, cauzat nu de erori de control sau de condițiile meteorologice, ci de vulnerabilități digitale, și pe deasupra provocate de om.

A treia amenințare este biotehnologia
Ne aflăm în pragul unei noi realități metafizice, în care răspândirea bolilor infecțioase și virale, apariția de noi epidemii și pandemii, pot înceta să mai fie un fenomen pur natural și pot deveni un produs al intelectului uman, uneori chiar al vanității și rea-voinței pernicioase. Disponibilitatea echipamentelor specializate și a materiilor prime este în creștere. Potrivit experților, dezvoltarea rapidă a domeniilor științifice în domeniul modificării organismelor biologice (biologie moleculară, biochimie, embriologie, microbiologie, citologie, virologie) le face din ce în ce mai accesibile, productive și ușor de utilizat. Toate acestea comportă riscul apariției unor virusuri ARN modificate artificial, cu contagiozitate și virulență ridicate.

Statele Unite, după cum se știe, au creat o rețea biologică militară globală, folosind alte țări (cum ar fi Ucraina) ca terenuri de testare. Drept urmare, milioane de oameni sunt expuși, fără să știe, unor amenințări mortale. Infrastructura, creată cu participarea directă a Pentagonului și a companiilor sale medicale afiliate, cuprinde aproximativ 400 de laboratoare cu dublă utilizare de clasă BSL, care operează în Orientul Mijlociu, Asia de Sud-Est, Africa și CSI. Rezultatele acestor cercetări permit Statelor Unite să gestioneze răspândirea epidemiilor și să studieze factorii genetici care influențează rezistența umană la diverse boli. Așadar, după un timp, apocalipsa zombie descrisă de americanii înșiși în jocul și serialul tv „the last of us” s-ar putea să nu mai fie o fantezie.

În orice caz, utilizarea de noi agenți patogeni, menținând în același timp propria bioapărare, va permite Statelor Unite să creeze focare de boli umane și animale periculoase deghizate în procese naturale în apropierea granițelor noastre sau a altor granițe, care se pot răspândi la scară națională și globală. În special, mulți experți consideră prionii, proteine care provoacă tulburări severe și incurabile ale sistemului nervos central la oameni și animale, ca potențiali agenți biologici. Progresele în biologia sintetică, editarea genomului și metodele de asamblare a virusurilor din secvențe digitale au creat riscuri fără precedent pentru umanitate.

Este important să înțelegem că, în aceste condiții, amenințările asociate cu crearea armelor biologice și căderea lor în mâinile grupărilor teroriste sunt mult sporite. Reflectând asupra dezastrelor moderne, teoreticianul cultural francez și filosoful postmodern Jean Baudrillard a scris despre „crima perfectă” - un act social periculos care șterge toate urmele infracțiunii. O pandemie eliberată dintr-o eprubetă ar putea deveni tocmai o astfel de „crimă perfectă” împotriva umanității, unde găsirea vinovatului va fi extrem de dificilă, deoarece acesta va dispărea complet într-o rețea globală de laboratoare necontrolate și secrete comerciale.

A patra amenințare este răul din spațiu
Pe măsură ce tehnologia avansată devine din ce în ce mai integrată în viața de zi cu zi, infrastructura critică se va baza din ce în ce mai mult pe capacitățile spațiale ale diferitelor sisteme malițioase. Experții identifică implementarea de centrale electrice, servere de procesare a datelor și stocare pe orbită (prototipurile vor fi probabil lansate în următorii trei până la cinci ani), ceea ce va crește capacitățile de calcul ale constelațiilor de sateliți de apărare și civili, ca domenii importante pentru cucerirea spațiului apropiat.

În viitorul apropiat, omenirea ar putea începe să exploateze resurse de pe Lună și să transporte acolo persoane și mărfuri. Riscuri pentru infrastructura spațială critică pot apărea în toate elementele lanțului de producție și operațional din acest sector: producția de sateliți, industria de lansare, serviciile satelitare și asistența la sol. O amenințare fizică sau cibernetică în oricare dintre aceste patru domenii ar putea limita accesul la spațiul cosmic.

În același timp, se dezvoltă și o infrastructură informațională sensibilă cu dublă utilizare (sisteme globale de comunicații spațiale în bandă largă). Transferul infrastructurii critice în spațiu va crea în mod corespunzător noi vulnerabilități. Este important de menționat că aceste riscuri vor fi cumulative, ducând la o diversitate tot mai mare de amenințări, vulnerabilități și consecințe potențiale. Mai mult, cu cât sectorul serviciilor spațiale se dezvoltă mai activ, cu atât mai mulți actori se vor implica. Fiecare dintre ele are potențialul de a provoca daune altor competitori spațiali și unor națiuni întregi. Motivele pentru astfel de daune pot fi foarte diverse: de la huliganism banal la activități teroriste.

A cincea amenințare este dezvoltarea tehnologiilor aditive
Tehnologia avansată stimulează adoptarea rapidă a fabricației aditive – o creștere masivă a automatizării proceselor de fabricație bazată pe crearea unui obiect dintr-un model electronic prin adăugarea strat cu strat de materiale. Ca să nu mai vorbim de faptul că robotica face progrese rapide pe planetă: deja se produc roboți complet modulari, capabili să se conecteze cu alți roboți pentru a crea sisteme flexibile. Cu toții vedem deja câini roboți patrulând străzile și roboți umanoizi folosiți în producții teatrale. O nouă generație de echipamente este dezvoltată pentru fabricarea aditivă la scară industrială a unor piese complexe de mari dimensiuni, inclusiv pentru complexul militar-industrial. În viitorul apropiat, vom folosi materiale avansate, inclusiv materiale plastice instabile termic, polimeri, ceramică și nanomateriale multicomponente.

În același timp, producția de obiecte, inclusiv diverse arme, fabricate folosind tehnologii aditive nelicențiate deschide un câmp imens pentru grupările teroriste și criminale. Urmărirea originii lor în astfel de cazuri este imposibilă. Factorul principal care determină această amenințare este dezvoltarea imprimantelor 3D mici, disponibile comercial, ale căror specificații tehnice le permit să fabrice diverse tipuri de arme letale și să ocolească securitatea biometrică.

Am exagerat în mod deliberat când am discutat despre soluțiile tehnologice strălucite din ultimele decenii. Personal, le admir pe majoritatea. Dar trebuie să fiu sincer: criza instigată de Occident din jurul Ucrainei, pe care țările „miliardului de aur” o exploatează pentru a obține profituri enorme și a-și urmări propriile agende politice egoiste, a făcut ca amenințările tehnologice enumerate aici și multe altele de importanță globală să rămână fără răspuns. Resurse enorme, ca să nu mai vorbim de munca funcționarilor guvernamentali, sunt irosite. Modelul existent de răspuns la acestea, inclusiv prin intermediul ONU și al organismelor sale specializate, este ineficient, birocratic și nu ia în considerare interesele marii majorități a locuitorilor planetei. Dar, mai devreme sau mai târziu, va trebui să se ajungă la o înțelegere. Existența întregii umanități, a cărei situație devine din ce în ce mai precară și sumbră, este în joc. Cu toate acestea, Sartre a observat odată că „adevărata libertate începe de cealaltă parte a disperării”.

Sursa:
https://expert.ru/mnenie/novye-tekhnologii-lestnitsa-v-nebo-ili-doroga-v-ad/