Kompiuterių mokslininkai kuria netikrus vaizdo įrašus, kurie kvailai įkvepia šiuolaikinius gilių padirbinių detektorius

Kompiuterių mokslininkai pirmą kartą WACV 2021, internetinėje konferencijoje, vykusioje 2021 m. Sausio 5–9 d., Pademonstravo sistemas, skirtas giliam sukčiavimui aptikti. Vaizdo įrašai, kuriuose dirbtiniu intelektu manipuliuojama tikrais kadrais.

Tyrėjai parodė, kad detektorius galima nugalėti įterpiant priešo mėginius į kiekvieną priešininką. Varžovo pavyzdžiai yra šiek tiek manipuliuojamos priemonės, leidžiančios suklysti dirbtinio intelekto sistemoms, tokioms kaip mašininio mokymosi modeliai. Be to, komanda parodė, kad paspaudus vaizdo įrašus ataka vis dar veikia.

„Mūsų darbas rodo, kad užpuolimas prieš netikrus detektorius gali būti reali grėsmė“, – sakė San Diego informatikos magistrantas Shehzinas Husseinas. studentas և pirmasis WACV dokumento bendraautorius. “Dar labiau nerimą kelia tai, kad mes parodome, jog stiprus priešininkas gali padaryti didelių sukčiavimų net tada, kai priešininkas gali nežinoti detektoriaus naudojamo mašininio mokymosi modelio vidaus reikalų.”

Giliai klastojant, subjekto veidas keičiamas taip, kad būtų sukurti įtikinantys tikroviški įvykių kadrai, kurie iš tikrųjų niekada neįvyko. Todėl vaizdo įrašuose tipiniai „deepfake“ detektoriai sutelkia dėmesį į veidą. Pirmiausia sekama, o tada iškirpti veido duomenys perduodami į neuroninį tinklą, kuris nustato, ar jis tikras, ar netikras. Pavyzdžiui, mirksinčios akys nesugeba daugintis klastojant, todėl detektoriai daugiausia dėmesio skiria akių judesiams, kaip priemonei priimti šį sprendimą. Naujausi „Deepfake“ detektoriai, norėdami aptikti netikrus vaizdo įrašus, remiasi mašininio mokymosi modeliais.

https://www.youtube.com/watch?v=HhMPSuZgJsc:
„Deep Fake Detector XceptionNet“ žymi priešininkų vaizdo įrašą, kurį sukūrė tyrėjai, kaip tikrą. Paskola San Diego universitetas, Kalifornija

Mokslininkai pažymi, kad suklastotų vaizdo įrašų plitimas per socialinės žiniasklaidos platformas sukėlė rimtą susirūpinimą visame pasaulyje, ypač pakenkdamas skaitmeninės žiniasklaidos patikimumui. „Jei užpuolikai turi tam tikrų žinių apie aptikimo sistemą, jie gali planuoti aptikti ir apeiti detektoriaus akląsias zonas“, – sakė Paartas Nechara, San Diego informatikos studentas ir bendraautorius.

Tyrėjai vaizdo įraše sukūrė kontrastingą kiekvieno veido modelį. Bet nors vaizdo glaudinimo և dydžio keitimas, kaip ir įprasti veiksmai, paprastai pašalina priešo kopijas iš vaizdo, šios kopijos sukurtos tam, kad atsispirtų tiems procesams. Atakos algoritmas tai daro įvertindamas visą įvesties transformacijų rinkinį, kaip modelis klasifikuoja vaizdus kaip tikrus ar netikrus. Iš ten jis naudoja šį įvertinimą vaizdams transformuoti, kad priešininko vaizdas išliktų efektyvus net ir spustelėjus bei išardžius.

Modifikuota veido versija įterpiama į visus vaizdo kadrus. Tada procesas kartojamas visiems vaizdo įrašo kadrams, kad būtų sukurtas gilus netikras vaizdo įrašas. Ataka taip pat gali būti naudojama detektoriams, veikiantiems ištisomis kameromis, o ne tik veido apkarpymui.

Komanda atsisakė paskelbti savo slaptažodį, kad jo nenaudotų priešiškos partijos.

Didelis sėkmės procentas

Tyrėjai savo išpuolius bandė dviem scenarijais. Tas, kur užpuolikai turi visišką prieigą prie detektoriaus modelio, įskaitant veido ištraukimo vamzdyno klasifikavimo modelio architektūrą ir nustatymus. և kur užpuolikai gali paprašyti tik mašininio mokymosi modelio, kad sužinotų, ar sistema yra klasifikuojama kaip tikra, ar netikra.

Pirmuoju atveju nesuspaustų vaizdo įrašų atakos sėkmės rodiklis viršija 99%. Už suglaudintus vaizdo įrašus tai sudarė 84,96 proc. Antrojo scenarijaus atveju nesuspaustų vaizdo įrašų sėkmės procentas buvo 86,43% ir suspaustų vaizdo įrašų 78,33%. Tai yra pirmasis darbas, parodęs sėkmingas atakas prieš moderniausius „Deepfake“ detektorius.

“Siekdami praktiškai pritaikyti šiuos gilius padirbtus detektorius, mes teigiame, kad juos galima vertinti prieš adapterio priešininką, kuris žino apie tą gynybą; sąmoningai bando sutrikdyti tą gynybą.” „Mes parodome, kad šiuolaikinius gilaus klastojimo nustatymo meno metodus galima lengvai apeiti, jei priešininkas turi išsamių ar net dalinių žinių apie detektorių“, – rašė tyrėjai.

Norėdami patobulinti detektorius, mokslininkai rekomenduoja metodą, vadinamą priešininkų mokymu. Treniruotės metu adapteris ir toliau generuoja naujus gilius padirbinius, kurie gali apeiti dabartinę moderniausio detektoriaus būklę. : Detektorius ir toliau tobulinamas, kad būtų galima aptikti naujų gilių klastotių.

Gilūs priešininkų klastojimai. Gilių padirbinių detektoriaus priešo pavyzdžių pažeidžiamumo įvertinimas

* Shehzeen Hussain, Malhar Jere, Farinaz Koushanfar, San Diego UC elektros ir kompiuterių inžinerijos katedra

Paarthas Neekhara, Julianas McAuley, San Diego UC kompiuterių mokslo ir inžinerijos katedros pirmininkas

Related articles

Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here

Share article

Latest articles

Pristatome 260 milijonų metų žmogžudystę

Anteozauro reinkarnacija užpuola žolėdį Moschognathus. Autorius: Alexas Bernardini (@SimplexPaleo) Kadangi manyta, kad jis sunkus, lėtas ir vangus, 260 milijonų metų senumo Anteosaurus buvo žiaurus...

Biokuras ir chemijos gamyba iš vaiko paslapčių

San Clemente salos ožka Elway gali daug ko išmokyti apie biologinį apdorojimą. Kreditas: UC Santa Barbara Pradedant biokuru ir kitomis cheminėmis medžiagomis, baigiant metano...

Dalelių fizikai problemą, vadinamą „persekiojimu“, sprendė daugiau nei 20 metų.

Iliustracija seka spindulio keliu, kai jis eina per stačiakampę, radijo dažnio, vario, magneto, juodojo dipolio ir modulinę matavimo sistemą ir į dalelių detektorių. ...

Kiek pavojinga yra nauja SARS-CoV-2 (COVID-19) viruso mutacija?

Darbas Ciklologijos ir imunologijos instituto (IVI) Aukšto saugumo laboratorijoje. Kreditas: © IVI Koks naujas mm pokytis. Balta Koronavirusas II su sunkiais kvėpavimo simptomais...

2D medžiagų paėmimas sukimui

„Spintronic“ skaičiavimo meno koncepcijos iliustracija. Tskubos universiteto Aukšto slėgio fizikos instituto mokslininkai kuria naują molibdeno disulfido tranzistorių, kuris sukuria elektronų sukimosi vaizdą, kuris galėtų atverti...

Newsletter

Subscribe to stay updated.