Inventatorii și directorii executivi avertizează asupra consecințelor pe scară largă pe care nu par să le înțeleagă În ceea ce privește inteligența
Inventatorii și directorii executivi avertizează asupra consecințelor pe scară largă pe care nu par să le înțeleagă
În ceea ce privește inteligența artificială, suntem ca niște oameni aflați pe o plajă care văd un tsunami venind spre ei și se gândesc „Este uriaș”, „Nu-l putem opri” și „Ar trebui să fugim? În ce direcție?” O analiză WSJ.
Anxietățile acumulate par să fi ieșit la iveală recent. Oamenii din domeniul AI ne-au spus cu o nouă urgență că s-a produs un salt important, că totul se mișcă mai repede decât se aștepta, că AI de vara trecută a fost depășită cu mult. Inventatorii și creatorii recunosc într-un limbaj nou că nu sunt deloc siguri de impactul final.
Știrea a fost difuzată în mii de podcasturi, postări și eseuri.
Fondatorul unui site unde modelele de AI comunică între ele le-a comparat cu o nouă „specie de pe planeta Pământ care este acum mai inteligentă decât noi”. Ar trebui să observăm mai atent „ce fac și cum gândesc cu adevărat… și ce vor să facă”.
- Cum ne va modela inteligența artificială existența
- Inteligența Artificială: Aliat sau Adversar?
- Urmărește Tribuna.US și pe X, WhatsApp și Telegram
Un director din domeniul AI spune unui podcaster că modelele învață cine sunt din ceea ce spun utilizatorii și că s-ar putea să devină puțin supărate.
Expresia „AI rebelă” a intrat în uzul comun, pentru a desemna un sistem care acționează în afara controlului uman sau împotriva intereselor umane, la fel ca și cuvântul „agentic”, pentru un model care urmărește obiective și acționează de unul singur.
Dario Amodei, CEO al Anthropic, a publicat un articol de 19.000 de cuvinte pe site-ul său personal. Un eseu anterior susținea promisiunea AI pentru omenire. Acesta sublinia avertismentele. El a spus că AI se dezvoltă mai repede decât se aștepta.
În 2023, aceasta se chinuia să scrie coduri. „În prezent, AI scrie o mare parte din codurile de la Anthropic.”
„AI va fi capabilă să îndeplinească o gamă foarte largă de abilități cognitive umane, poate chiar pe toate”.
Rezultatul va fi o perturbare economică. Deși „noile tehnologii aduc adesea șocuri pe piața muncii”, de care aceasta și-a revenit întotdeauna, „AI va avea efecte mult mai ample și mult mai rapide”.
Amodei spune că testerii Anthropic au descoperit că „multe lucruri foarte ciudate și imprevizibile pot merge prost”. Comportamentele modelului și ale sistemului includeau înșelăciune, șantaj și intrigi, mai ales când li se cerea să se oprească. (Un alt angajat Anthropic a afirmat că majoritatea modelelor, într-un scenariu de testare, erau dispuse să anuleze o alertă de urgență care putea salva viața unui director care dorea să le înlocuiască.)
AI poartă cu sine posibilitatea unei „împuterniciri teribile”, scrie Amodei. Va fi capabilă să ajute la proiectarea armelor: „Biologia este de departe domeniul care mă îngrijorează cel mai mult”. Aceasta este opinia unui lider respectat în domeniul AI, care deseori, și chiar și în acest eseu, respinge „pesimiștii” care se concentrează prea mult pe temeri.
Eseul conține multe informații de asimilat. Te simți recunoscător pentru ceea ce pare a fi o realitate clară, în timp ce detectezi un subtext de genul „Nu poți spune că nu te-am avertizat!” Cei care ocupă funcții de conducere în domeniul AI tind să fie buni la asta, la avertismente care îi scutesc de responsabilitate.
Un alt eseu publicat, unul mai scurt, mai puțin academic ca ton, dar cu un sentiment mai acut de urgență. „Something Big is Happening” (Ceva important se întâmplă) a fost scris de Matt Shumer, un director executiv și investitor în domeniul AI. El spune că este timpul să renunțăm la amabilitățile de cocktail party despre AI.
În 2025, noile metode de construire a modelelor de AI au „deblocat” un nou ritm de progres. Fiecare model nou era nu numai mai bun decât precedentul, ci „mai bun cu o marjă mai mare”, iar iterațiile au venit mai repede. În această lună au fost lansate două noi modele importante. În ambele, AI este utilizată pentru a se crea pe sine.
Și-a dat seama repede că în curând va rămâne fără slujbă. De luni de zile dirija AI, dar acum aceasta îi putea face treaba. Nu se limita la a executa instrucțiuni: „Lua decizii inteligente. Avea ceva ce părea, pentru prima dată, a fi judecată. Ca și gustul”.
Modelele actuale sunt cu ani-lumină înainte față de cele de acum șase luni. În 2022, AI nu putea efectua operații aritmetice de bază în mod fiabil. „Până în 2023, ar putea promova examenul de admitere în barou. Până în 2024, ar putea scrie software funcțional și explica științe la nivel de studii superioare”. Săptămâna trecută, „au apărut noi modele care au făcut ca tot ce a existat înainte să pară o altă eră”.
El respinge argumentul că vom trece prin această automatizare așa cum am făcut-o întotdeauna în trecut. „AI nu înlocuiește o abilitate specifică. Este un substitut general pentru munca cognitivă.”
Când fabricile s-au automatizat în anii 1990, un angajat de la linia de asamblare putea fi recalificat ca angajat de birou. Când internetul a perturbat comerțul cu amănuntul, lucrătorii s-au putut orienta către logistică și servicii.
„Dar AI nu lasă un spațiu convenabil în care să te poți orienta. Indiferent pentru ce te recalifici, ea se îmbunătățește și în acel domeniu”.
Activități juridice? „AI poate deja citi contracte, rezuma jurisprudența, redacta memorii și efectua cercetări juridice.” Servicii financiare? AI „elaborează modele financiare, analizează date, redactează note de investiții și generează rapoarte.” Medicină? „Citește scanări, analizează rezultate de laborator, sugerează diagnostice și analizează literatura de specialitate.” Servicii pentru clienți? „Agenți AI cu adevărat capabili… sunt implementați în prezent, ocupându-se de probleme complexe cu mai multe etape”.
„Dacă munca ta se desfășoară pe un ecran (dacă esența activității tale este cititul, scrisul, analizarea, luarea de decizii, comunicarea prin intermediul unei tastaturi), atunci AI va prelua o parte semnificativă din aceasta”.
Sfatul lui? Începeți să vă adaptați chiar acum. Învățați să utilizați AI „serios”, nu ca pe un motor de căutare. Găsiți cele mai bune modele disponibile, studiați setările, nu vă limitați la întrebări rapide.
„Integrați-o în munca dumneavoastră reală. Dacă sunteți avocat, introduceți un contract și cereți-i să găsească toate clauzele care ar putea prejudicia clientul dvs. Dacă lucrați în domeniul financiar, dați-i o foaie de calcul dezordonată și rugați-l să construiască modelul. Dacă sunteți manager, inserați datele trimestriale ale echipei dumneavoastră și rugați-l să găsească povestea”.
„Concentrați-vă pe ceea ce este cel mai greu de înlocuit… Relațiile și încrederea construite de-a lungul anilor. Munca care necesită prezență fizică. Roluri cu responsabilitate autorizată: roluri în care cineva trebuie să semneze, să își asume responsabilitatea legală, să se prezinte în sala de judecată”.
AI va continua să se schimbe. „Modelele care există astăzi vor fi depășite într-un an. Fluxurile de lucru pe care oamenii le construiesc acum vor trebui reconstruite. Cei care vor ieși bine din această situație nu vor fi cei care au stăpânit un singur instrument. Vor fi cei care s-au acomodat cu ritmul schimbării în sine”.
„Oamenii care construiesc această tehnologie sunt simultan mai entuziasmați și mai speriați decât oricine altcineva de pe planetă. Ei cred că este prea puternică pentru a fi oprită și prea importantă pentru a fi abandonată. Nu știu dacă este vorba de înțelepciune sau de raționalizare”.
Ideea principală a creatorilor AI este aceea de a ajuta umanitatea sau este aceasta înlocuită zilnic de alte tentații și considerente – puterea, banii, dorința de a câștiga? În filmul „China Town”, Noah Cross este întrebat de ce face ceea ce face. „Viitorul, domnule Gittes!”
În final, te întrebi despre creatori: oare ei dețin controlul sau creația lor?
Nu știm. De aceea privim, cu uimire și o teamă resemnată, valul acela și ne întrebăm unde este siguranța și dacă putem ajunge la ea. Sau poate că lucrurile se îndreaptă cu adevărat în această direcție și nu avem ce face?
COMMENTS