Informace

Deepfake Videos on the Rise as Non-Experts Get into the Game

Deepfake Videos on the Rise as Non-Experts Get into the Game

Deeptrace, startup, který byl založen v loňském roce za účelem výzkumu hlubokých podvodů, ať už jde o videa nebo obrázky, které se nyní šíří po internetu, oznámil 7. října některé vystřízlivění.

Ukázalo se, že za posledních sedm měsíců se počet hlubokých videí téměř zdvojnásobil na 14 678. A co víc, počet hlubokých padělků se zvýšil o 75% oproti předchozímu roku a bylo zaměřeno více než 850 lidí.

SOUVISEJÍCÍ: Hluboké falešné věci jsou špatné, ale co jsou některé z možných výhod?

Deepfakes podvracejí zvuk, video, texty

„Vzestup syntetických médií a hlubokých padělků nás nutí k důležitému a znepokojivému poznání: naše historické přesvědčení, že video a zvuk jsou spolehlivými záznamy reality, již není udržitelné,“ napsal Giorgio Patrini, PhD, hlavní vědecký pracovník a
Spoluzakladatel Deeptrace. „S rozvojem syntetických médií a hlubokých padělků ... každý digitální komunikační kanál, na kterém je naše společnost postavena, ať už jde o audio, video nebo dokonce text, hrozí, že bude rozvrácen.“

Podle Deeptrace tomuto nárůstu pomáhá rostoucí počet nástrojů a služeb, které „neodborníkům“ usnadňují vytváření těchto falešných videí. Deeptrace našel dvacet komunitních webů a fór pro vytváření falešných stránek, přičemž 13 z nich zveřejnilo své členství, což je téměř 100 000. To nezohledňuje 7 webů, které nehlásily, kolik lidí používá jejich nástroje.

Pornografie vede, pokud jde o falešná videa

Skupina zjistila, že 96% z celkového počtu falešných videí online byla nedobrovolná falešná pornografie. Ze čtyř nejlepších webů, které se zaměřují na pornografii, měli více než 134 milionů zhlédnutí videí, která cílila na stovky ženských celebrit po celém světě. Deeptrace uvedl, že to podtrhuje velký trh webových stránek, které vytvářejí a hostí deepfake porno. Skupina předpovídala, že se zvýší, pokud se nic neděje.

Na politické frontě Deeptrace uvedl, že tato falešná videa a obrázky také dělají známku. Deeptrace poukázal na dva případy, jeden v Gabonu a druhý v Malajsii, kde byly použity podvodné padělky k obvinění vládního utajení a potlačení politického rivala. "V souhrnu jsou tyto příklady pravděpodobně nejsilnějšími indicemi toho, jak hluboké podvody již destabilizují politické procesy. Bez obranných protiopatření je ohrožena integrita demokracií po celém světě," napsal Patrini.

Mimo pornografii a politiku se používají deepfakes k zapojení do sociálního inženýrství, aby podváděli podniky a vlády. V letošním roce se objevily zprávy o hackerech, kteří pomocí syntetického hlasu a syntetických lidí podváděli své oběti.


Podívejte se na video: Deepfake Queen: 2020 Alternative Christmas Message (Září 2021).