Kaip veikia DI vaizdo klastotės ir balsų kopijos? Ką turi žinoti kiekvienas interneto vartotojas

Greitai tobulėjantis dirbtinis intelektas jau leidžia per kelias minutes sukurti įtikinamą žmogaus balsą ar realistišką vaizdo įrašą, kuris niekada neįvyko. Tokios klastotės vis dažniau naudojamos sukčiavimui, šantažui ir dezinformacijai, todėl apie jas būtina žinoti kiekvienam interneto vartotojui.

Nors technologijos pačios savaime nėra nei geros, nei blogos, jų piktnaudžiavimas gali turėti labai realių pasekmių: prarastus pinigus, sugadintą reputaciją ar net įtaką rinkimų rezultatams. Supratimas, kaip šios sistemos veikia ir kaip atpažinti rizikas, tampa nauja skaitmeninio raštingumo dalimi.

Kas yra deepfake ir balsų kopijos

Terminas deepfake dažniausiai vartojamas kalbant apie vaizdo ar garso įrašus, kuriuose dirbtinis intelektas priverčia žmogų atrodyti ar skambėti taip, lyg jis sakytų ar darytų tai, ko iš tikrųjų niekada nedarė. Dažniausiai toks turinys kuriamas su žmonių veidais ar balsais.

Balsų kopijavimo technologijos iš kelių sekundžių įrašo gali sukurti skaitmeninį balso modelį, kuris vėliau naudojamas tariamiems skambučiams, balso pranešimams ar net automatizuotoms telefoninėms apgaulėms. Toks „skaitmeninis dvynys“ gali kalbėti bet kokiu tekstu, parinktu sukčių.

Kaip DI išmoksta kopijuoti balsą ir veidą

DI modeliai mokomi iš didžiulių garsų, nuotraukų ir vaizdo įrašų rinkinių. Kuo daugiau duomenų, tuo lengviau sistemai išmokti žmogaus veido bruožus, mimikas, kalbėjimo stilių ir intonaciją.

Balso atveju sistema analizuoja tarimą, akcentus, pauzes ir ritmą. Vaizdo atveju fiksuojama, kaip juda lūpos, akys, galva, kokios yra veido išraiškos, ir tai vėliau pritaikoma naujam tekstui ar situacijai.

Kodėl šios technologijos taip išpopuliarėjo

Prieš kelerius metus įtikinamos vaizdo klastotės reikalavo brangių kompiuterių ir ilgų darbo valandų. Dabar daug funkcijų galima atlikti interneto naršyklėje ar nemokamomis programomis, o rezultatas gaunamas per kelias minutes.

Tai lėmė trys veiksniai: išaugusi skaičiavimo galia, atvirai prieinami DI modeliai ir didžiuliai vieši duomenų rinkiniai, pavyzdžiui, socialiniuose tinkluose viešinami vaizdo įrašai. Kuo daugiau viešų įrašų žmogus turi, tuo lengviau jį nukopijuoti.

Kaip klastotės naudojamos sukčiavimui

Viena dažniausių rizikų yra telefoniniai ar balso pranešimų sukčiai, kurie pasitelkia imituotą artimojo ar vadovo balsą. Jie gali skubiai reikalauti pervesti pinigus, dalintis prisijungimo duomenimis ar konfidencialia informacija.

Vaizdo deepfake gali būti panaudoti šantažui, reputacijos menkinimui ar socialinių tinklų paskyroms perimti. Klastingiausia tai, kad emocinis šokas dažnai užgožia kritinį mąstymą, ir žmogus nesusimąsto, ar matomas įrašas tikras.

Kaip paprastam žmogui atpažinti riziką

Visų pirma svarbu suprasti, kad girdimas balsas ar matomas veidas internete šiandien nėra neabejotinas įrodymas. Jeigu gaunate netikėtą skambutį, pranešimą ar vaizdo įrašą, kuriame reikalaujama skubiai veikti, tai jau pats savaime yra įspėjamasis signalas.

Erdvėms, kuriose cirkuliuoja jautri informacija ar pinigai, verta susitarti dėl papildomų patvirtinimo žingsnių: pavyzdžiui, atskiro slapto žodžio, papildomo skambučio kitu kanalu ar raštiško patvirtinimo. Tokios taisyklės ypač svarbios versle.

Techniniai ženklai, kurie gali išduoti klastotę

Nors DI sparčiai gerėja, daug klastočių vis dar turi klaidų, kurias galima pastebėti plika akimi ar ausimi. Vaizdo įrašuose verta atkreipti dėmesį į lūpų judesių sinchronizaciją su garsu, akių judesius, keistus veido kontūrų pokyčius ar „nutrūkstančius“ plaukų kraštus.

Garsinėse klastotėse dažnai jaučiamas nenatūralus ritmas, per lygus balsas, keistai išdėlioti kirčiai. Kartais girdėti, kad foninis triukšmas nesikeičia, nors žmogus esą juda ar keičiasi aplinka.

Ką galime padaryti jau dabar

Kiekvienas žmogus gali bent iš dalies riboti medžiagą, kurią būtų lengva panaudoti klastotėms. Pavyzdžiui, mažiau viešinti ilgus, aiškiai artikuliuotus savo kalbėjimo įrašus ar labai aukštos kokybės veido video, ypač jei esate viešas asmuo.

Tėvams verta su vaikais atvirai pasikalbėti apie tai, kad jų nuotraukos ir vaizdo įrašai internete gali būti perdirbami nepageidaujamu būdu. Paaugliai ypač pažeidžiami dėl galimo patyčių ir šantažo, todėl prevencinis pokalbis čia labai svarbus.

Ar DI padės kovoti su DI klastotėmis?

Situacija nėra vien juoda. Kartu su klastojimo įrankiais kuriamos ir aptikimo technologijos, kurios analizuoja pikselius, garso bangas ir kitus subtilius požymius, kad nustatytų, ar turinys tikras, ar generuotas.

Tačiau kol tai taps plačiai prieinama kiekvienam vartotojui, daug ką lemia kritinis mąstymas ir sveikas skepticizmas. Svarbiausia mokytis ne aklai tikėti tuo, ką matome ekrane, ir ypač atsargiai vertinti turinį, kuris stipriai veikia emocijas.

DI klastočių era jau atėjo, todėl skaitmeninis atsargumas tampa tokia pat būtina kasdienio gyvenimo dalimi, kaip užrakintos durys ar atsargumas gatvėje. Kuo daugiau suprasime, kaip šios technologijos veikia, tuo sunkiau bus mus apgauti.