Inteligența Artificială, o amenințare pentru alegeri și democrație

Inteligența artificială generativă – o inteligență artificială care poate crea texte, imagini și alte medii noi din datele existente – este una dintre cele mai revoluționare tehnologii din ultimele secole. Având în vedere că această tehnologie este acum mai disponibilă și mai puternică decât oricând, utilizarea sa rău intenționată este pe cale să pună la încercare securitatea procesului electoral al Statelor Unite, oferindu-le actorilor rău intenționați să submineze democrația americană – inclusiv China, Iran și Rusia – capacitatea de a-și intensifica tacticile. Mai exact, inteligența artificială generativă va amplifica riscurile de securitate cibernetică și va face mai ușoară, mai rapidă și mai ieftină inundarea țării cu conținut fals, analizează Foreign Affairs.

Deși tehnologia nu va introduce riscuri fundamental noi în alegerile din 2024 – actorii răi folosesc de ani de zile amenințările cibernetice și dezinformarea pentru a încerca să submineze procesul electoral american – aceasta va intensifica riscurile existente.

Inteligența artificială generativă în mâinile adversarilor ar putea amenința fiecare parte a procesului electoral, inclusiv înregistrarea alegătorilor, exprimarea voturilor și raportarea rezultatelor. În mare parte, responsabilitatea de a face față acestei amenințări va cădea în sarcina funcționarilor electorali de stat și locali din țară. Timp de aproape 250 de ani, acești funcționari au protejat procesul electoral de adversari străini, războaie, dezastre naturale, pandemii și tehnologii perturbatoare.

Dar acești funcționari au nevoie de sprijin, mai ales din cauza presiunii intense cu care s-au confruntat de la alegerile din 2020 și a acuzațiilor de fraudă electorală care le-au urmat. Agențiile federale, producătorii de echipamente de vot, companiile de inteligență artificială generativă, mass-media și alegătorii trebuie să își facă partea lor, oferindu-le acestor funcționari resursele, capacitățile, informațiile și încrederea de care au nevoie pentru a consolida securitatea infrastructurii electorale.

De asemenea, funcționarilor electorali trebuie să li se permită să își îndeplinească în siguranță sarcinile, de la deschiderea votului până la verificarea finală a voturilor. Companiile de inteligență artificială generativă, în special, pot ajuta prin dezvoltarea și punerea la dispoziție a unor instrumente de identificare a conținutului generat de inteligența artificială și prin asigurarea faptului că capacitățile lor sunt concepute, dezvoltate și implementate cu securitatea ca prioritate absolută, pentru a preveni utilizarea lor abuzivă de către actori neaveniți. În joc este nimic mai puțin decât fundamentul democrației americane.

Software-ul de inteligență artificială generativă creează texte, imagini și alte tipuri de suporturi originale folosind modele statistice care generalizează tiparele și structurile din datele existente. Aplicațiile care rulează pe modele lingvistice mari, cum ar fi ChatGPT, primesc textul ca o solicitare și produc un text nou ca rezultat. Această formă de inteligență artificială generativă poate crea în câteva secunde e-mailuri, rutine de stand-up, rețete sau lucrări de facultate. Alte aplicații pot prelua intrări de text și crea ieșiri mediatice sintetice (adesea numite deepfakes), cum ar fi fotografia falsă virală a Papei Francisc purtând o jachetă cu puf.

Inteligența artificială poate genera, de asemenea, fișiere audio clonate pe baza unui simplu fragment de voce înregistrată. În septembrie, de exemplu, o înregistrare audio falsă a apărut pe Facebook cu doar două zile înainte de alegerile din Slovacia; aceasta a folosit clonarea vocii pentru a prezenta un interviu între liderul unuia dintre partidele politice din Slovacia și un jurnalist slovac, în care liderul partidului progresist părea să discute despre cum să fraudeze alegerile.

Aceste tehnologii de generare de texte, discursuri, imagini și videoclipuri sintetice au devenit din ce în ce mai accesibile, reducând barierele pentru cei care doresc să se amestece în alegerile din SUA. În ultimii ani, adversarii străini au încercat să submineze securitatea și integritatea alegerilor din SUA prin lansarea de intruziuni cibernetice, desfășurarea de operațiuni de hacking și scurgere de informații și prin utilizarea fermelor de troli și a rețelelor de roboți din rețelele de socializare pentru a răspândi neadevăruri.

În mod notabil, un număr tot mai mare de actori străini intră în acest spațiu, Biroul Directorului Serviciului Național de Informații făcând public în decembrie că amploarea și domeniul de aplicare a activității străine care vizează alegerile de la mijlocul mandatului din 2022 din SUA au depășit ceea ce guvernul SUA a detectat în timpul ciclului electoral din 2018.

„Implicarea unui număr mai mare de actori străini reflectă probabil schimbarea calculului de risc geopolitic, percepția că activitatea de influențare a alegerilor a fost normalizată [și] costul scăzut, dar recompensa potențial ridicată a unor astfel de activități”, se arată în raportul de informații.

Așadar, deși aceste amenințări nu sunt noi, capacitățile generative de inteligență artificială de astăzi vor face ca aceste activități să fie mai ieftine și mai eficiente. În mod specific, serviciile de traducere, instrumentele de creare de conturi și agregarea de date bazate pe AI vor permite actorilor răi să își automatizeze procesele și să vizeze persoane și organizații mai precis și la scară mai mare.

Pe măsură ce se apropie alegerile prezidențiale din SUA, oficialii federali și de stat sunt foarte conștienți de potențialul perturbator al inteligenței artificiale generative. Deși nu am observat nicio utilizare malițioasă a AI generativă în alegerile statale, locale și municipale care au avut loc în peste 30 de state la 7 noiembrie, am văzut tehnologia utilizată în campaniile politice americane și în alegerile din Slovacia, după cum am menționat mai sus, precum și în alegerile prezidențiale din Argentina din noiembrie. Pe măsură ce adversarii se familiarizează cu aceste instrumente din ce în ce mai accesibile și mai puternice, ar trebui să se presupună că ele vor fi utilizate mai des.

EVALUAREA AMENINȚĂRILOR

Peste două miliarde de oameni – un sfert din populația planetei – sunt așteptați să voteze la diverse alegeri în 2024. Având în vedere că oamenii se vor prezenta la urne în întreaga lume, preocupările legate de efectul AI generativ asupra alegerilor nu se limitează la Statele Unite. După cum a remarcat Centrul Național de Securitate Cibernetică din Regatul Unit, alegerile generale britanice din acest an vor fi primele care vor avea loc pe fondul unor progrese semnificative în domeniul AI.

Centrul a avertizat că „modelele lingvistice de mari dimensiuni vor fi aproape sigur folosite pentru a genera conținut fabricat, roboții hiperrealiste creați de AI vor facilita răspândirea dezinformării, iar manipularea mass-media pentru a fi folosită în campanii deepfake va deveni probabil mai avansată”.

Citește și 2024, cel mai important an electoral din istorie – 2 miliarde de oameni votează global

Inteligența artificială permite o agregare mai ușoară și mai cuprinzătoare a datelor, ceea ce, la rândul său, permite actorilor rău intenționați să întreprindă atacuri cibernetice personalizate, inclusiv atacuri de spearphishing care vizează anumite persoane sau organizații. Atunci când acest lucru este combinat cu un conținut de înaltă calitate generat de AI, chiar și cei mai vigilenți utilizatori de internet pot fi vulnerabili.

Inteligența artificială generativă poate contribui, de asemenea, la crearea unor tulpini de malware care să se sustragă mai bine detectării. În plus, ajutând la optimizarea coordonării și a sincronizării atacurilor botnet, AI ar putea permite „atacuri distribuite de refuz de serviciu” mai eficiente, în care un atacator copleșește un server cu trafic pe internet, ceea ce ar putea duce la căderea site-urilor web legate de alegeri prin inundarea acestora cu cantități masive de date.

În mod similar, instrumentele îmbunătățite de inteligența artificială ar putea fi utilizate pentru a copleși comunicațiile la birourile electorale – fie prin apeluri telefonice robot, mesaje text sau e-mailuri. Deși astfel de atacuri nu ar afecta datele legate de alegeri, acestea ar putea întârzia sau împiedica funcționarii electorali să răspundă la întrebările reale ale alegătorilor și ar putea submina încrederea alegătorilor în procesul electoral.

Inteligența artificială generativă ar putea facilita și alte forme de atacuri digitale, inclusiv hărțuirea online. Oficialii electorali din SUA se confruntă deja cu un nivel de ostilitate fără precedent. Preocupările legate de siguranța personală – inclusiv teama că adresele lor de domiciliu și alte informații personale vor fi făcute publice, o practică cunoscută sub numele de doxing – au fost unul dintre principalele motive care au stat la baza unui val de demisii ale funcționarilor electorali cu experiență din întreaga țară. Instrumentele de inteligență artificială generativă pot îmbunătăți în mod semnificativ hărțuirea pentru a include tactici precum doxing-ul, permițând crearea rapidă și pe scară largă de conținut cu informații personale, poze false compromițătoare sau amenințări.

Cu mult înainte de apariția ChatGPT, actorii străini au folosit dezinformarea pentru a viza alegerile din SUA și din întreaga lume. Cu ajutorul inteligenței artificiale generative, Statele Unite se pot aștepta la o creștere a amplorii și a gradului de sofisticare a acestor eforturi într-o mare varietate de tactici: inducerea în eroare a alegătorilor cu privire la candidați prin utilizarea de mesaje false sau imagini modificate; campanii de suprimare a alegătorilor care utilizează inteligența artificială generativă pentru a se da drept funcționari electorali pentru a răspândi informații incorecte cu privire la locațiile centrelor de votare și orele de funcționare; și imagini sau videoclipuri deepfake ale lucrătorilor electorali care distribuie și numără buletine de vot false, pentru a numi doar câteva dintre acestea. Scenariile ipotetice sunt nesfârșite, dar intenția din spatele lor este întotdeauna aceeași: subminarea încrederii publicului american în rezultatul alegerilor.

OAMENI VS MAȘINI

În ciuda îngrijorărilor sporite, Statele Unite au puterea de a contracara amenințarea pe care utilizarea rău intenționată a inteligenței artificiale generative o reprezintă pentru democrația lor. Procesul electoral american este rezistent, în mare parte datorită dedicării funcționarilor electorali statali și locali care lucrează în fiecare zi pentru a-l administra, gestiona și securiza.

Funcționarii electorali care își desfășoară activitatea în aproximativ 8.800 de jurisdicții electorale lucrează neobosit pentru a identifica, detecta și reduce riscurile. Chiar și înainte de apariția inteligenței artificiale generative, funcționarii electorali au apărat eficient sistemele electorale de întreaga gamă de riscuri cibernetice, fizice și operaționale, precum și de amenințarea reprezentată de operațiunile de influență străină malignă și de dezinformare.

Drept urmare, nu există nicio dovadă că vreun sistem de vot a pierdut voturi – sau a fost compromis în vreun alt mod – în cadrul vreunui scrutin național de când infrastructura electorală a fost desemnată drept infrastructură critică în 2017 și a fost organizat un efort dedicat la nivel federal, statal și local pentru a urmări efectul amenințărilor de securitate asupra integrității procesului de votare.

Într-adevăr, funcționarii electorali subliniază frecvent că singura constantă în administrarea alegerilor este să te aștepți la neprevăzut. Manageri de criză înnăscuți, aceștia sunt exersați în arta de a se adapta la orice situație și de a găsi soluții creative. Uitați-vă doar la Lee County, Florida, în timpul alegerilor de la mijlocul mandatului din 2022. Cu câteva săptămâni înainte de ziua alegerilor, comitatul a fost devastat de uraganul Ian, cel mai costisitor uragan din istoria Floridei și al treilea cel mai costisitor dezastru meteorologic din istoria Statelor Unite.

Cu mii de alegători strămutați, lanțuri de aprovizionare devastate și pagube semnificative la nivelul infrastructurii, funcționarii electorali s-au mobilizat și, în ciuda tuturor acestor lucruri, au reușit să administreze cu succes alegerile, chiar dacă doar 12 din cele 97 de secții de votare obișnuite erau funcționale. Deși aceste amenințări sunt în mod clar diferite în natură de utilizarea rău intenționată a AI, ele demonstrează modul în care funcționarii electorali continuă să depășească multitudinea de provocări complexe la adresa procesului electoral.

În ultimii șapte ani, de la desemnarea infrastructurii electorale ca fiind critică, oficialii electorali au acționat agresiv pentru a stabili controale digitale și fizice puternice asupra sistemelor și rețelelor electorale. Aceștia au pus în aplicare măsuri de securitate pentru a detecta mai rapid activitățile rău intenționate și au depus eforturi pentru a reduce riscurile legate de lanțul de aprovizionare în întreaga infrastructură electorală, impunând furnizorilor să ia anumite măsuri de securitate.

Au migrat site-urile web electorale către site-uri web cu domeniu “.gov” mai sigur pentru a preveni falsificarea – direcționarea utilizatorilor către site-uri web false – și pentru a le permite utilizatorilor să își dea seama mai ușor când au fost redirecționați către un site web extern. Oficialii electorali au încheiat, de asemenea, un parteneriat cu Agenția pentru securitatea cibernetică și securitatea infrastructurii pentru a beneficia de schimbul de informații despre amenințări, de servicii de scanare cibernetică care identifică vulnerabilitățile, de evaluări ale securității cibernetice și fizice și de asistență în caz de incidente.

În cazul amenințărilor cibernetice generate de inteligența artificială, există măsuri – multe dintre ele fiind aceleași bune practici de securitate pe care experții le recomandă de ani de zile – care vor contribui la reducerea acestor riscuri. În mod specific, oficialii de stat și locali pot îngreuna situația adversarilor prin activarea autentificării multifactoriale în toate rețelele lor; dezactivarea sau ștergerea profilurilor de utilizator care nu mai sunt utilizate și asigurarea faptului că utilizatorii au doar acele accese necesare pentru rolurile lor specifice; și utilizarea a ceea ce se numește software de „detectare și răspuns la nivel de punct final” pentru a alerta în permanență și a permite o reacție rapidă la amenințările cibernetice, cum ar fi malware sau acces neautorizat.

Pentru a combate tentativele de phishing din ce în ce mai sofisticate, funcționarii electorali pot utiliza, de asemenea, protocoale de autentificare a e-mailurilor care ajută la verificarea autenticității expeditorului și la reducerea pericolului reprezentat de e-mailurile malițioase.

Pentru a se proteja împotriva doxing-ului și a altor forme de hărțuire țintită, funcționarii electorali ar trebui să elimine orice informații de identificare personală de pe profilurile cu caracter public, să facă conturile personale private pentru a reduce accesul la imaginile foto și să solicite în mod regulat ca informațiile personale să fie eliminate de pe site-urile web de înregistrări publice.

Pentru a se proteja împotriva clonării vocii generate de AI, funcționarii electorali ar trebui să stabilească practici în care, înainte ca informațiile sensibile să fie împărtășite, chiar și la nivel intern, solicitările să fie confirmate prin provocări secundare care să asigure verificarea identității, inclusiv pentru comunicările în timp real.

O bună practică obișnuită de joasă tehnologie implică încorporarea unor fraze de trecere private cunoscute de funcționarii electorali și care se schimbă la intervale de timp specificate. Aceste fraze trebuie apoi furnizate în timpul convorbirilor înainte ca orice informație sensibilă să fie transmisă persoanei de la celălalt capăt al firului, care poate confirma fraza de trecere și, astfel, autenticitatea funcționarului.

În mod separat, punerea în aplicare a unor controale tehnice pe site-urile web unde publicul poate adresa întrebări – cum ar fi cererile de înregistrări publice – poate contribui la limitarea numărului de cereri neautentice generate de inteligența artificială, păstrând în același timp căile de acces pentru cererile umane autentice.

Instrumentele de autentificare umană, cum ar fi CAPTCHA, care pot fi integrate relativ ușor în operațiunile standard ale site-urilor web, pot contribui, de asemenea, la diferențierea întrebărilor umane legitime de cele automate. Deși aceste instrumente nu sunt perfecte și, în unele cazuri, pot fi învinse, ele pot ajuta la contracararea adversarilor care caută să exploateze căile de minimă rezistență.

Poate că cea mai importantă acțiune pe care o pot întreprinde oficialii electorali de stat și locali pentru a reduce efectul operațiunilor de influență străină și de dezinformare, inclusiv cele îmbunătățite de inteligența artificială generativă, este să comunice în mod transparent și consecvent cu publicul, consolidându-și rolul de voci autoritare și consolidându-și relațiile cu mass-media locală, liderii comunității și alegătorii – cu mult înainte de ziua alegerilor.

În acest context, inițiativa #TrustedInfo2024 a Asociației Naționale a Secretarilor de Stat este un efort important de educare a publicului pentru a promova funcționarii electorali ca surse de încredere de informații electorale și pentru a conduce alegătorii direct către site-urile web ale funcționarilor electorali și paginile de socializare pentru a se asigura că obțin cele mai exacte informații. În sprijinul acestor eforturi, Agenția pentru Securitate Cibernetică și Securitate a Infrastructurii continuă să utilizeze site-ul web Zvonuri vs Realitate, lansat în urmă cu câțiva ani, pentru a se asigura că alegătorii au la dispoziție cele mai exacte informații legate de securitatea infrastructurii electorale.

Cu toate acestea, cheia pentru atenuarea potențialelor amenințări potențate de inteligența artificială este conștientizarea situației și pregătirea operațională. Birourile electorale, alte birouri de stat și locale, vânzătorii de echipamente de vot și furnizorii de servicii esențiale, cum ar fi furnizorii de servicii de internet, trebuie să colaboreze pentru a se asigura că înțeleg riscurile și rolurile lor în atenuarea acestor riscuri, inclusiv modul în care să repună în funcțiune operațiunile după un incident. Pentru a reuși, toate părțile implicate în alegeri trebuie să facă în permanență schimb de informații și să se antreneze împreună, utilizând frecvent instrumente precum exercițiile de tip “tabletop” pentru a repeta operațiunile de urgență din manualele stabilite.

A POPORULUI, DE CĂTRE POPOR

Inteligența artificială generativă complică munca birourilor electorale într-un moment în care multe dintre acestea rămân cu resurse și personal insuficient. Rotația ridicată a profesioniștilor cu experiență în domeniul administrării alegerilor din întreaga țară nu a făcut decât să exacerbeze problema. Deși acest an va fi unul foarte dificil pentru funcționarii electorali, aceștia au fost mereu la înălțimea provocării. Guvernul federal va continua să îi sprijine cu resurse, informații și servicii de securitate.

În prezent, toate cele 50 de state și peste 3.700 de jurisdicții locale și organizații din sectorul privat sunt membre ale Centrului de analiză și schimb de informații privind infrastructura electorală, o inițiativă care oferă monitorizare 24 de ore din 24 a amenințărilor, analiză a amenințărilor cibernetice la adresa infrastructurii electorale și asistență în ceea ce privește răspunsul la incidente. Comisia de asistență electorală, o agenție guvernamentală americană, oferă, de asemenea, resurse precum măsuri de securitate a sistemelor de vot și cele mai bune practici pe care funcționarii electorali locali le pot urma pentru a securiza sistemele de vot.

Sectorul privat, inclusiv furnizorii de servicii de internet, furnizorii de servicii cloud și firmele de securitate cibernetică, precum și furnizorii de servicii electorale și companiile care furnizează echipamente de vot, au, de asemenea, un rol de jucat. În ciclurile electorale anterioare, astfel de vânzători și furnizori de servicii au făcut un pas înainte pentru a oferi birourilor electorale locale și de stat măsuri de securitate și servicii de sprijin sporite. Dar orice companie care furnizează servicii esențiale birourilor electorale ar trebui să se întrebe ce mai poate face pentru a reduce riscurile cibernetice, fizice și operaționale la adresa infrastructurii electorale în acest sezon electoral. În special, companiile de inteligență artificială generativă ar trebui să se gândească la modul în care pot sprijini funcționarii electorali, atât prin asigurarea unui design general sigur al produselor lor, cât și, în special, prin dezvoltarea unor metode de identificare a conținutului generat de inteligența artificială.

Anul trecut, o serie de companii de AI de top și-au luat angajamente voluntare cu Casa Albă pentru a contribui la progresul dezvoltării unei AI sigure, securizate și transparente, inclusiv prin punerea la dispoziție a unor mecanisme tehnice care să asigure că utilizatorii știu când conținutul este generat de AI.

Aceste instrumente și altele utilizate pentru stabilirea autenticității digitale, cum ar fi filigranul digital, ar putea fi extrem de utile în anul care urmează, deoarece funcționarii electorali încearcă să distingă conținutul generat de AI de cel generat de oameni, să se protejeze împotriva falsificării prin demonstrarea momentului în care conținutul a fost modificat după crearea acreditărilor digitale și să ajute publicul să verifice conținutul oficial. Deși există în prezent versiuni ale acestor capacități, companiile ar trebui să se angajeze să îmbunătățească în mod continuu calitatea și securitatea acestor produse de autenticitate, deoarece cercetătorii au demonstrat că și aceste produse pot fi vulnerabile la exploatare.

De asemenea, este important ca mass-media să fie conștientă de amenințarea reprezentată de utilizarea rău intenționată a inteligenței artificiale în acest ciclu electoral. Jurnaliștii ar trebui să contribuie la asigurarea faptului că informațiile pe care le transmit provin din surse oficiale și de încredere; atunci când circulă informații incorecte, ei ar trebui să pună la dispoziție informații corecte. Operațiunile sofisticate de influență străină ar putea copleși rapid birourile electorale locale și ar putea depăși capacitatea de reacție a acestora. Aici este locul în care mass-media poate fi esențială, amplificând funcționarii electorali ca surse de încredere de informații și ajutând la asigurarea faptului că informațiile exacte sunt împărtășite publicului.

Și alegătorii își pot face partea lor. Există întotdeauna posibilitatea de a lucra ca lucrător electoral sau observator electoral. Și toată lumea poate sprijini funcționarii electorali locali și de stat, fiind atenți să nu amplifice sau să exacerbeze acțiunile actorilor nefavorabili care doresc să submineze securitatea și integritatea democrației americane. Securitatea alegerilor nu ar trebui să fie o chestiune de politică sau de partizanat, ci mai degrabă de păstrare a integrității celui mai sacru proces democratic al țării. Americanii trebuie să colaboreze pentru ca utilizarea malițioasă a inteligenței artificiale generative să fie doar o altă linie dintr-o listă lungă de provocări pe care procesul electoral american poate fi și a fost depășit.

Tribuna.US