Ghidul "Deepfake - Manipulat sau informat?" a fost realizat de experți ai Directoratului Național de Securitate Cibernetică (DNSC)
și poate fi descărcat accesând [acest link].
În acest articol regăsiți un rezumat al acestui ghid, precum și alte informații de interes public.
(imagine creată cu ajutorul lui ChatGPT-4o)
Ce este un Deepfake?
Deepfake-urile sunt înregistrări video, audio sau imagini falsificate, create cu ajutorul inteligenței artificiale (IA)
sau a altor programe specializate. Acestea sunt atât de bine realizate încât pot fi greu de distins de materialele autentice,
distorsionând astfel realitatea.
Pentru a crea un Deepfake, sunt utilizate tehnologii avansate, cum ar fi rețele neuronale convoluționale (CNNs)
și rețele generative (GANs). Aceste rețele sunt antrenate pe seturi mari de date pentru a învăța caracteristicile specifice
ale imaginilor sau ale vocii unei persoane, pe care le pot replica cu o precizie uimitoare.
Crearea unui Deepfake implică colectarea de date vizuale și auditive, antrenarea unui model IA pentru a reproduce trăsăturile specifice ale țintei,
generarea conținutului falsificat și ajustarea detaliilor pentru a spori autenticitatea. Ulterior, materialul falsificat poate fi distribuit online,
cu scopul de a manipula sau dezinforma.
Impactul Deepfake-urilor este vast și divers, afectând în mod direct încrederea publică, securitatea cibernetică, politica și chiar sistemul judiciar.
De exemplu, Deepfake-urile pot fi utilizate pentru a discredita politicieni sau pentru a frauda indivizi prin scheme de înșelăciune sofisticate.
Detectarea Deepfake-urilor
Detectarea Deepfake-urilor este o provocare continuă. Deși tehnologia pentru detectare evoluează, creatorii de Deepfake-uri dezvoltă metode tot
mai avansate de falsificare. În prezent, tehnici precum analiza comportamentală, examinarea consistenței iluminării și analiza texturii pielii sunt
utilizate pentru a identifica astfel de falsuri.
Spre exemplu, nesincronizarea vorbirii/sunetului și a mișcării buzelor poate fi observată la pronunțarea literelor b, m și p. Uneori apar pixeli în nuanțe de gri
la marginile componentelor modificate. Se poate distinge dacă este vorba de o falsificare și atunci când persoana din înregistrare este privită
dintr-un alt unghi. Dacă pentru crearea conținutului Deepfake nu s-au folosit fotografii ale persoanei din unghiuri diferite, algoritmul nu poate
deduce aspectul persoanei din alt unghi, rezultând distorsiuni fine ale subiectului.
Exemplu real de Deepfake
Banca Națională a României (BNR) a avertizat publicul cu privire la o schemă de înșelăciune care implică utilizarea tehnologiei Deepfake pentru a
crea videoclipuri false cu guvernatorul BNR. În aceste videoclipuri, guvernatorul pare să promoveze o platformă de investiții, însă BNR a declarat
că acestea sunt false. Scamul folosește IA pentru a modifica vocea și imaginea guvernatorului, cu scopul de a induce în eroare publicul pentru a
participa la investiții frauduloase, promițând câștiguri financiare rapide și ușoare:
Există foarte multe astfel de reclame pe platformele de socializare, cum ar fi Facebook, YouTube și Instagram. Din păcate, acestea nu sunt eliminate
chiar și atunci când sunt raportate ca Deepfake, din motive financiare aflate la limita legii.
Noua eră a escrocheriilor online dezvăluie cum reclamele Deepfake și softurile de hacking care accesează telefoanele utilizatorilor proliferează
necontrolat pe internet
(vezi și investigația Recorder).
Cum ne protejăm de Deepfake-uri?
Sfaturi pentru a evita să fii păcălit de Deepfake-uri:
Nu crede tot ce vezi online! Este esențial să dezvoltăm un scepticism sănătos și să fim atenți la detalii atunci când vizionăm conținut online. Verificarea surselor și utilizarea
instrumentelor de verificare a autenticității sunt pași importanți pentru a ne proteja de înșelăciuni.
Verifică sursa! De unde provine videoclipul sau imaginea? Este distribuit pe o platformă de încredere? Caută confirmarea informației din
surse credibile sau direct de la entitățile sau persoanele implicate.
Învață despre Deepfake-uri! Cu cât înțelegi mai bine cum funcționează această tehnologie, cu atât vei fi mai capabil să identifici falsurile.
Există multe resurse online care explică principiile Deepfake-urilor și metodele de detectare.
Nu te baza pe o singură sursă! Caută confirmare din mai multe surse credibile. Un singur videoclip sau imagine nu este suficient pentru a verifica o informație.
Educație și conștientizare
Educația este un element-cheie în combaterea Deepfake-urilor. Prin dezvoltarea gândirii critice și înțelegerea funcționării acestor tehnologii,
indivizii pot deveni mai rezilienți la dezinformare.
Distorsionarea adevărului - "fotonii încurcați"
Există numeroase studii și cercetări despre fotonii încurcați (entangled photons). Aceștia sunt o componentă fundamentală a mecanicii cuantice,
și au fost intens studiați în domenii precum fizica cuantică, criptografia cuantică și calculul cuantic.
Mai multe [postări] pe Instagram s-au viralizat rapid,
prezentând faptul că acești fotoni "arată exact" ca simbolul yin-yang, iar "chinezii știau despre acest lucru acum mii și mii de ani": 😁
O echipă de cercetători a utilizat o tehnică inovatoare numită holografie digitală biphotonică pentru a vizualiza în timp real doi fotoni
încurcați. Modelul Yin-Yang este doar o reprezentare grafică și nu o reflectare reală a fotonilor încurcați. Pentru mai multe detalii, poți citi
[articolul complet aici].
Astfel, pentru un reel de succes, "influencer-ul popular" a prezentat informația bombastic și complet eronat.
Deși nu este direct legat de tehnica Deepfake, exemplul (clickbait) evidențiază cât de ușor pot fi influențate percepțiile a milioane de persoane
prin prezentarea unei imagini convingătoare, chiar și atunci când aceasta nu reflectă realitatea.
Concluzii
Pe măsură ce tehnologia avansează, Deepfake-urile devin tot mai greu de detectat, accentuând necesitatea unor strategii eficiente de
conștientizare și detectare. Colaborarea între instituții și educația publicului sunt esențiale pentru a proteja societatea de
impactul negativ al acestei tehnologii.
Cum ne protejăm de Deepfake?
Inteligența Artificială redefinește educația prin soluții avansate care adaptează învățarea la nevoile fiecărui elev,
sporind astfel performanțele academice. Descoperă potențialul AI de a transforma procesul de predare, oferind unelte
interactive și analize detaliate ce sprijină atât profesorii, cât și elevii.
