Kompiuterių mokslininkai kuria netikrus vaizdo įrašus, kurie kvailai įkvepia šiuolaikinius gilių padirbinių detektorius

Kompiuterių mokslininkai pirmą kartą WACV 2021, internetinėje konferencijoje, vykusioje 2021 m. Sausio 5–9 d., Pademonstravo sistemas, skirtas giliam sukčiavimui aptikti. Vaizdo įrašai, kuriuose dirbtiniu intelektu manipuliuojama tikrais kadrais.

Tyrėjai parodė, kad detektorius galima nugalėti įterpiant priešo mėginius į kiekvieną priešininką. Varžovo pavyzdžiai yra šiek tiek manipuliuojamos priemonės, leidžiančios suklysti dirbtinio intelekto sistemoms, tokioms kaip mašininio mokymosi modeliai. Be to, komanda parodė, kad paspaudus vaizdo įrašus ataka vis dar veikia.

„Mūsų darbas rodo, kad užpuolimas prieš netikrus detektorius gali būti reali grėsmė“, – sakė San Diego informatikos magistrantas Shehzinas Husseinas. studentas և pirmasis WACV dokumento bendraautorius. “Dar labiau nerimą kelia tai, kad mes parodome, jog stiprus priešininkas gali padaryti didelių sukčiavimų net tada, kai priešininkas gali nežinoti detektoriaus naudojamo mašininio mokymosi modelio vidaus reikalų.”

Giliai klastojant, subjekto veidas keičiamas taip, kad būtų sukurti įtikinantys tikroviški įvykių kadrai, kurie iš tikrųjų niekada neįvyko. Todėl vaizdo įrašuose tipiniai „deepfake“ detektoriai sutelkia dėmesį į veidą. Pirmiausia sekama, o tada iškirpti veido duomenys perduodami į neuroninį tinklą, kuris nustato, ar jis tikras, ar netikras. Pavyzdžiui, mirksinčios akys nesugeba daugintis klastojant, todėl detektoriai daugiausia dėmesio skiria akių judesiams, kaip priemonei priimti šį sprendimą. Naujausi „Deepfake“ detektoriai, norėdami aptikti netikrus vaizdo įrašus, remiasi mašininio mokymosi modeliais.

https://www.youtube.com/watch?v=HhMPSuZgJsc:
„Deep Fake Detector XceptionNet“ žymi priešininkų vaizdo įrašą, kurį sukūrė tyrėjai, kaip tikrą. Paskola San Diego universitetas, Kalifornija

Mokslininkai pažymi, kad suklastotų vaizdo įrašų plitimas per socialinės žiniasklaidos platformas sukėlė rimtą susirūpinimą visame pasaulyje, ypač pakenkdamas skaitmeninės žiniasklaidos patikimumui. „Jei užpuolikai turi tam tikrų žinių apie aptikimo sistemą, jie gali planuoti aptikti ir apeiti detektoriaus akląsias zonas“, – sakė Paartas Nechara, San Diego informatikos studentas ir bendraautorius.

Tyrėjai vaizdo įraše sukūrė kontrastingą kiekvieno veido modelį. Bet nors vaizdo glaudinimo և dydžio keitimas, kaip ir įprasti veiksmai, paprastai pašalina priešo kopijas iš vaizdo, šios kopijos sukurtos tam, kad atsispirtų tiems procesams. Atakos algoritmas tai daro įvertindamas visą įvesties transformacijų rinkinį, kaip modelis klasifikuoja vaizdus kaip tikrus ar netikrus. Iš ten jis naudoja šį įvertinimą vaizdams transformuoti, kad priešininko vaizdas išliktų efektyvus net ir spustelėjus bei išardžius.

Modifikuota veido versija įterpiama į visus vaizdo kadrus. Tada procesas kartojamas visiems vaizdo įrašo kadrams, kad būtų sukurtas gilus netikras vaizdo įrašas. Ataka taip pat gali būti naudojama detektoriams, veikiantiems ištisomis kameromis, o ne tik veido apkarpymui.

Komanda atsisakė paskelbti savo slaptažodį, kad jo nenaudotų priešiškos partijos.

Didelis sėkmės procentas

Tyrėjai savo išpuolius bandė dviem scenarijais. Tas, kur užpuolikai turi visišką prieigą prie detektoriaus modelio, įskaitant veido ištraukimo vamzdyno klasifikavimo modelio architektūrą ir nustatymus. և kur užpuolikai gali paprašyti tik mašininio mokymosi modelio, kad sužinotų, ar sistema yra klasifikuojama kaip tikra, ar netikra.

Pirmuoju atveju nesuspaustų vaizdo įrašų atakos sėkmės rodiklis viršija 99%. Už suglaudintus vaizdo įrašus tai sudarė 84,96 proc. Antrojo scenarijaus atveju nesuspaustų vaizdo įrašų sėkmės procentas buvo 86,43% ir suspaustų vaizdo įrašų 78,33%. Tai yra pirmasis darbas, parodęs sėkmingas atakas prieš moderniausius „Deepfake“ detektorius.

“Siekdami praktiškai pritaikyti šiuos gilius padirbtus detektorius, mes teigiame, kad juos galima vertinti prieš adapterio priešininką, kuris žino apie tą gynybą; sąmoningai bando sutrikdyti tą gynybą.” „Mes parodome, kad šiuolaikinius gilaus klastojimo nustatymo meno metodus galima lengvai apeiti, jei priešininkas turi išsamių ar net dalinių žinių apie detektorių“, – rašė tyrėjai.

Norėdami patobulinti detektorius, mokslininkai rekomenduoja metodą, vadinamą priešininkų mokymu. Treniruotės metu adapteris ir toliau generuoja naujus gilius padirbinius, kurie gali apeiti dabartinę moderniausio detektoriaus būklę. : Detektorius ir toliau tobulinamas, kad būtų galima aptikti naujų gilių klastotių.

Gilūs priešininkų klastojimai. Gilių padirbinių detektoriaus priešo pavyzdžių pažeidžiamumo įvertinimas

* Shehzeen Hussain, Malhar Jere, Farinaz Koushanfar, San Diego UC elektros ir kompiuterių inžinerijos katedra

Paarthas Neekhara, Julianas McAuley, San Diego UC kompiuterių mokslo ir inžinerijos katedros pirmininkas

Related articles

Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share article

Latest articles

Saulės energijos veiklos nepastovumą galėtų kompensuoti Žemės planetos magnetinis laukas

2015 m. Gegužės mėn. Saulė per penkias dienas suvaidino maždaug tuziną aktyvių zonų. Ryškios spalvos pluoštai, sklindantys iš šių aktyvių regionų, yra dalelės,...

Didžiausias Australijos dinozauras – Pietų Titanas – ką tik buvo įrašytas į rekordą!

Australotitan cooperensis, „Pietų Titanas arba Cooperis“. Autorius: Vladas Konstantinovas, Scottas Hocknullas © Eromangos gamtos istorijos muziejus Kiek aukšta yra krepšinio aikštelė, aukštesnė už b-dublius...

Žmonių nulemta klimato kaita yra tik pusė Antarkties kriliaus paveikslo

Antarkties krilasi, Euphausia superba. Autorius: Uwe Kils / Wikipedia Apskaičiuota, kad šiame amžiuje krilių populiacija buveinių centre Antarktidoje sumažėjo apie 30% dėl plačiai paplitusio...

Kokia tavo pirmoji idėja? Remiantis naujais tyrimais, galėtų prasidėti pustrečio amžiaus

Naujas tyrimas ir dešimtmečių duomenų apžvalga laikrodžio atmintį nustūmė už metų ribų, tačiau tyrimas įrodo, kad visi yra skirtingi. Naujas tyrimas rodo, kad vidutiniškai pirmojo...

Naujasis „Ultrathin Liquid Liquid Crystal Metalens“ siūlo elektrinį padidinimą

Cornell հայ „Samsung“ inžinierių sukurtas ultragarso, elektra valdomų metalų konceptualus perteikimas. Paskola Danieliui Schilkinui Kornelio taikomosios inžinerijos mokyklos tyrėjai's „Samsung“ pirmaujantis technologijų institutas sukūrė...

Newsletter

Subscribe to stay updated.