Recent, un raport elaborat la cererea Departamentului de Stat al Statelor Unite a aruncat lumină asupra provocărilor și pericolelor potențiale pe care dezvoltarea rapidă a tehnologiei Inteligenței Artificiale (IA) le prezintă pentru securitatea națională și existența umanității în sine. Acest document a fost pregătit de Gladstone AI, o organizație dedicată promovării unei abordări responsabile și sigure a IA, și subliniază necesitatea unei acțiuni imediate pentru prevenirea unor scenarii potențial catastrofale, potrivit publicațiilor Time și CNN citate de aznews.ro.
Prin intermediul unei serii de interviuri desfășurate pe durata a peste un an cu peste 200 de experți, inclusiv directori ai unora dintre cele mai influente companii din domeniul IA, specialiști în securitate cibernetică, experți în arme de distrugere în masă și oficiali guvernamentali implicați în securitatea națională, raportul oferă o perspectivă profundă asupra riscurilor asociate cu avansurile tehnologice în domeniul IA.
Cu toate că Departamentul de Stat a confirmat solicitarea raportului, a fost clarificat că documentul nu reprezintă neapărat viziunea oficială a guvernului american. Potrivit lui Jeremie Harris, cofondator și director al Gladstone AI, creșterea capacităților IA pune în evidență un paradox tehnologic: pe de o parte, are potențialul de a revoluționa sectoare precum economia, medicina și cercetarea științifică, dar, pe de altă parte, prezintă riscuri grave, inclusiv amenințări existențiale, pe care societatea trebuie să le înțeleagă și să le gestioneze cu prudență.
Raportul Gladstone IA punctează două pericole majore asociate cu IA: transformarea tehnologiei avansate în arme cu potențial de daune ireversibile și pierderea controlului asupra sistemelor de IA dezvoltate în laboratoare, cu implicații grave pentru securitatea globală. Documentul trage un semnal de alarmă comparând ascensiunea IA și a Inteligenței Generale Artificiale (IGA) cu introducerea armelor nucleare, sugerând că ar putea iniția o nouă cursă a înarmărilor tehnologice.
Pentru a aborda aceste riscuri iminente, raportul recomandă implementarea unor măsuri proactive, inclusiv înființarea unei agenții guvernamentale specializate în supravegherea dezvoltării IA, adoptarea legislației de protecție și limitarea capacităților folosite în antrenarea modelelor de IA, subliniind nevoia critică de intervenție din partea guvernului SUA.
Printre vocile care susțin acest punct de vedere se numără și Geoffrey Hinton, o figură emblematică în domeniul IA, care a exprimat preocupări serioase cu privire la posibilitatea ca IA să conducă la dispariția umanității în următoarele trei decenii, un scenariu pe care și alți lideri de opinie din industrie îl iau în considerare.
Raportul prevede, de asemenea, că dezvoltarea IGA, o tehnologie ce ar putea egala sau depăși capacitățile cognitive umane și să execute sarcini umane cu eficiență superioară, ar putea deveni o realitate până în 2028. Acest progres tehnologic ar putea facilita desfășurarea de atacuri cibernetice devastatoare, campanii de dezinformare în masă și alte acțiuni malefice capabile să destabilizeze societatea și să erodeze încrederea publică în instituții.
Concluziile raportului subliniază necesitatea unei abordări prudente și strategice în dezvoltarea și implementarea IA, cu un accent puternic pe siguranță, etică și control, pentru a preveni scenariile în care tehnologia ar putea deveni incontrolabilă sau ostilă intereselor umanității. Această viziune reiterează apelul la acțiune pentru a asigura un viitor în care progresul tehnologic servește binele comun, protejând în același timp securitatea și viabilitatea societății umane.
