AI-CodeElena Calistru: Deepfake-urile distrug vieți, iar platformele sociale au obligația să intervină

Victime reale în fața conținutului sintetic: De la activism civic la atacuri denigratoare

Dincolo de spectacolul tehnologic, conținutul generat prin inteligență artificială fără consimțământul persoanei vizate provoacă traume psihologice și lezează grav demnitatea umană.

Elena Calistru oferă exemplul concret al unei activiste implicate într-o inițiativă cetățenească europeană de succes, care a strâns peste un milion de semnături, devenită ulterior ținta unei campanii agresive de imagini pornografice contrafăcute prin tehnologia deepfake.

„Dincolo de faptul că acele imagini ajung să îi lezeze demnitatea, imaginați-vă că astfel de materiale pot ajunge și au ajuns la părinții sau la bunicii ei. Fiecare dintre noi se poate pune în papucii unui utilizator pus într-o astfel de situație: cum i-ai explica bunicii tale ce anume se întâmplă acolo? Este extrem de complicat”, spune Elena Calistru.

Impactul emoțional este amplificat de viteza cu care aceste materiale sintetice se viralizează. Astfel, se ajunge în cercurile apropiate ale victimelor înainte ca acestea să poată reacționa sau dezminți autenticitatea imaginilor.

De ce responsabilitatea principală revine marilor platforme?

Combaterea acestui fenomen nu poate fi lăsată exclusiv pe umerii utilizatorilor sau ai victimelor, care nu au pârghiile necesare pentru a șterge rapid conținutul multiplicat la scară largă.

Rețelele de socializare au o datorie directă în gestionarea crizei din două motive majore:

1. Capacitate tehnică unică: Marile platforme sunt singurele entități care dispun de instrumente avansate de detecție, moderare automată și blocare a distribuției materialelor sintetice dăunătoare.

2. Obligație etică și legală: Găzduirea și amplificarea algoritmică a imaginilor non-consensuale impun măsuri drastice de filtrare și protecție a integrității digitale a fiecărui utilizator.

Vedeți întregul interviu video mai sus.