Vysvětlená videa Deepfake: Co jsou zač a měli byste si dělat starosti?

Proč můžete věřit

- Videa Deepfake jsou stále běžnější a zlověstnější.

Možná jste je viděli vyskakovat ve zprávách, které nedávno zahrnovaly slavní politici , celebrity , královna na kanálu 4 v roce 2020 pro alternativní vánoční projev provozovatelů vysílání a dokonce i technologické manažery.

Pokud ano, pak vás pravděpodobně zajímá, jak jsou vyráběny a kým a zda ještě více zhorší epidemii falešných zpráv. Chápeme vaše obavy.





Deepfakes mají potenciál být opravdu rušivé a máte pravdu, že se o nich nyní dozvíte vše, co můžete.

kdy vyjde nový spínač
  • Mona Lisa přivedla k životu: Samsung AI dělá malování pohybem

Co jsou deepfake?

Jako by to bylo ze sci-fi filmu, technologie deepfake zahrnuje umělou inteligenci a modely strojového učení, které dokážou manipulovat s videem. Ve své nejjednodušší podobě je deepfake zfalšované video, které ukazuje, jak někdo dělá nebo říká něco, co se nikdy nestalo. Tato schopnost není omezena na Hollywood nebo zpravodajské agentury; kdokoli může používat online software nebo stahovat aplikace, které mu umožní vytvářet přesvědčivá hluboce padělaná videa.



Jedním z nejoblíbenějších cílů deepfakes byl Donald Trump. Je to částečně proto, že o něm existuje poklad dat - tisíce zvukových klipů, videí a fotografií, na kterých mluví a gestikuluje stejným způsobem. Každý, kdo má přístup k softwaru deepfake, může tato data použít k vytvoření hyperrealistických videí o tom, jak něco dělá nebo říká. Mohou dokonce proměnit jeho tvář na jiné téma, jako je Richard Nixon .

Jak se vyrábějí deepfake?

Existuje několik různých způsobů, jak vytvářet hluboce falešná videa, ale všechny vyžadují data pro podávání modelů strojového učení, které budou generovat váš falešný obsah. V současné době všichni od výzkumníků po ty se zlým úmyslem dělají deepfake. Ty nejpřesvědčivější vyžadují výkonné počítačové sestavy a hluboké datové sady se spoustou zvuku, videa nebo obrázků na téma vašeho deepfake.

Aplikace pro sociální média, jako je Snapchat, také používají technologii tvarování obličeje, která by mohla být použita podobně. Existují dokonce i nástroje vyšší třídy jako FakeApp. Vytvořeno anonymním vývojářem pomocí softwaru s otevřeným zdrojovým kódem vytvořeným společností Google, umožňuje realisticky generovat výměny tváří, s malým náznakem, že s vaším videem bylo manipulováno. FakeApp je zdarma, a pokud jste trochu geeky, jeho použití je poměrně snadné.



Další příklady deepfake videí

Na internetu jsou tuny vysoce kvalitních deepfakeů - dokonce i těch, které mají tváře a hlasy známých osobností, proměněné ve filmech pro dospělé. Další příklady vhodné pro rodinu jsou uvedeny níže. Pokud chcete vidět více, proveďte rychlé vyhledávání na YouTube.

Bill Hader

Níže uvedené video začíná jako desítky dalších na YouTube: Vidíme, jak bývalá hvězda Saturday Night Live Bill Hader dělá svůj nejlepší dojem celebrity na bývalého guvernéra Kalifornie Arnolda Schwarzeneggera. Asi 10 sekund po videu se Haderova tvář promění v Schwarzeneggerovu tvář. Tento příklad, který má více než šest milionů zhlédnutí, se stal jedním z nejsledovanějších deepfake videí na YouTube.

Mona Lisa

Další příklad pochází od výzkumníků z Samsung AI Center, kteří vyvinuli technologii deepfake, která dokáže oživit klasické fotografie a umělecká díla. V jejich videu můžeme vidět, jak se Albert Einstein a Mona Lisa pohybují a mluví. K vytvoření kompozitu Mona Lisa konkrétně použili tři zdrojová videa, z nichž každé produkovalo jiné a někdy liché výsledky.

Mark Zuckerberg

Novější příklad ukazuje generálního ředitele Facebooku Marka Zuckerberga, který slibuje věrnost Spectre, zlé organizaci z franšízy Jamese Bonda. Tento konkrétní deepfake manipuluje se zvukem, aby Zuckerberg zněl jako psychopat. Umělci za tímto deepfake, Bill Posters a Daniel Howe, ve spolupráci s reklamní společností Canny, také vytvořili deepfake s hvězdou reality show Kim Kardashian West.

Kim Kardashian: pic.twitter.com/OSpDUtUfer

- Jamie Bartlett (@JamieJBartlett) 13. června 2019

Měli byste si dělat starosti?

Ačkoli je většina deepfakeů zábavná a nevinná, mají potenciál být hanební. Hluboké falešné video by například mohlo ukázat politického kandidáta, který říká nebo dělá něco strašného - možná něco tak neodpustitelného, ​​že kdyby to bylo správně načasováno, mohlo by to ovlivnit volby, než bude veřejnost mít čas dozvědět se skutečnou pravdu. Kdokoli mohl být superponován do kompromitující situace.

Již existují celebrity, které nechtějí, aby se jejich podoba objevovala v hluboce falešné pornografii. Někteří přirovnávali tuto situaci k pomstě porna. Koneckonců, deepfake tvůrce potřebuje pouze sérii fotografií celebrity, které lze rychle vyřadit z jejich kanálů sociálních médií, nebo jejich audio a video, kterých by mělo být dost. A potřebují vědět, jak používat deepfake software.

Věnujte minutu hledání a budete po kolena v tutoriálech o tom, jak se stát deepfake tvůrcem. S takovou dostupností se technologie deepfake bude jen více rozšiřovat a nepochybně bude použita k šikaně a obtěžování.

Jsou deepfakes nezákonné?

NÁS

Regulační orgány a zákonodárci se s tímto problémem teprve začínají potýkat. Někteří argumentují, že deepfake by měl být chráněn prvním dodatkem, popř Svoboda projevu . Ostatní, jako například zástupce Adama Schiffa, však vydali varování. Během slyšení sněmovního zpravodajského výboru o národních a volebních bezpečnostních rizicích Schiff uvedl, že deepfakes mohou mít negativní vliv na volby v roce 2020.

Sněmovní zpravodajský výbor svolal panel odborníků, kteří mají za úkol vymyslet strategii deepfake a možná nová omezení ze strany vlády nebo platforem, ale v současné době v Kongresu koluje legislativa, která má řešit hrozbu falešných médií. Například senátor Ben Sasse navrhl, aby byl nezákonný zlomyslně vytvářet a distribuovat deepfake.

Zajímavé Články