AI, fake news și deepfake amenință adevărul — societatea la pasul de disoluție

Cum ne minte mașina?

Pericolul știrilor false și al inteligenței artificiale a fost adus în evidență la Conferința științifică internațională „Luptarea cu dezinformarea, scutul democrației”.

Evenimentul, organizat la Universitatea Titu Maiorescu din București, a adunat experți și reprezentanți ai comunității academice pentru a discuta impactul dezinformării asupra societății și riscurile pe care le prezintă pentru valorile democratice.

La eveniment, prof. Dr. Sorin Ivan a explicat cum influențează proliferarea informațiilor false și manipularea percepției realității. A arătat de ce tehnologia și inteligența artificială amplifică vulnerabilitățile societății în epoca post-adevăr și care sunt soluțiile pentru a combate fenomenul. Societatea riscă să fie aruncată în confuzie, fragmentare și dizolvare.

Ne discutăm despre adevăr în era post-adevăr. Știm cu toții că suntem într-un conflict de ideologie. Vorbim despre o serie de valori sub steagul umanismului sau noului umanism, dar toate aceste tendințe uneori scurg la extrem. Hai să vorbim despre cultura anularii și alte fenomene. Este un peisaj dramatic în care este foarte dificil să păstrăm semnele noastre de referință.

Minciunile și propaganda sunt vechi.

Sunt de la crearea lumii, de la Geneza în continuare. Rămânem în paradigma mitului Genezei și privim în istorie. Ceea ce s-a schimbat în ultimele decenii este volumul de informații, cu aportul fabulos al tehnologiei.

În acest peisaj, omul este chiar mai vulnerabil. Informația însăși este mai expusă la manipulare.

Unde se ascunde minciuna?

Privind dezinformarea, trebuie să știm câteva moduri în care se practică.

Acestea se realizează prin comunicare publică și propagare în mass-media. Aici ne îndreptăm spre știrile false, deepfake, truncarea informațiilor, otrăvirea informațiilor și campaniile de dezinformare. Toate acestea se fac în concert, în mod sinergic și adesea accidental.

Acestea se realizează în direcția atingerii obiectivelor. Desigur, tehnologia facilitează toate aceste fenomene.

AI marchează o nouă revoluție. Probabil că va fi Revoluția 5.0, cea mai importantă revoluție industrială sau ecologică din istoria omenirii. În opinia mea, va fi o revoluție continuă care nu se va termina niciodată. Din punctul meu de vedere, din cauza modului în care această tehnologie strălucitoare evoluează, săriturile vor fi atât de mari încât totul se va schimba tot timpul.

Evident, aici informațiile vor fi supuse acestor transformări.

Ca s-a întâmplat în istorie, orice tehnologie a venit cu o parte bună, o proiecție utopică, dar și una distopiană. Dacă ne uităm la secolul al XX-lea, poate cel mai relevant exemplu este tehnologia atomică.

Astăzi vorbim despre AI, și nu cred că este vorba doar de a fi optimist sau pesimist. Totul trebuie adus sub ideea de luciditate.

Nu mă mai ocup de dezinformare pentru că ne ocupăm de asta în fiecare zi.

Cât de periculoasă e AI?

Dacă ne gândim la acest flux de informații care vine peste noi, la aceste procese în mijlocul cărora suntem entități manipulabile, atunci ne dăm seama de complexitatea fenomenului.

Suntem în mijlocul unei rețele de informații. Nu toate informațiile sunt exacte și sunt furnizate cu cele mai bune intenții.

Din cauza tehnologiei, așa cum știm, devine din ce în ce mai dificil, poate că în viitor va fi imposibil, să se separe minciunile de adevăr.

Ce e rău și ce e bine? Asta spune poetul și ar trebui să rămână un model. Celălalt concept esențial al abordării noastre este democrația.

Mi se pare foarte util să văd cum acest concert fenomenologic de dezinformare, de demonstrații, în special sub pretextul de manipulare, afectează întregul spectru al democrației.

În primul rând, ea îl afectează prin pierderea individului în valori, în principii, în mecanisme, în procese, în democrație însăși. În momentul în care te afli la intersecția informațiilor contradictorii, care sunt din ce în ce mai credibile, cu atât mai mare este confuzia cognitivă, gnoză, existențială.

Omul se află în centrul unui vortex de informații și ajunge să nu înțeleagă nimic despre ce se întâmplă cu el. Omul se află la intersecția acestei informații, și toți sunt disfrațați în hainele adevărului de mecanismele tot mai specializate de manipulare.