Tech
Olyan rendszert fejlesztettek, amely kiszúrja még Zelenszkij deepfake videóit is
Az egyedi arckifejezések és kézmozdulatok azonosítására kifejlesztett deepfake detektor képes kiszúrni a világ vezetőiről, például Volodimir Zelenszkijről és Vlagyimir Putyinról készült manipulált videókat.
2022.12.08 11:21ma.huEgy deepfake detektor a hangok, az arckifejezések és a felsőtest mozgásának kombinációját elemezve nagy pontossággal képes kiszűrni a Volodimir Zelenszkij ukrán elnökről készült hamis videókat. Ez az észlelőrendszer nemcsak Zelenszkijt védheti meg, aki az ukrajnai orosz invázió első hónapjaiban egy deepfake-kísérlet célpontja volt, hanem arra is kiképezhető, hogy más világvezetők és iparmágnások deepfake-eit is jelezze.
"Nem kell megkülönböztetnünk téged egy milliárd embertől - csak meg kell különböztetnünk téged attól a deepfake-től, aki megpróbál utánozni téged" - mondja Hany Farid a Berkeley-i Kaliforniai Egyetemről.
Farid a csehországi Johannes Kepler Gimnáziumban Matyá± Boháčekkel együtt dolgozott az arcok, a hangok, a kézmozdulatok és a felsőtest mozgásának felismerésére szolgáló képességek kifejlesztésén. Kutatásuk korábbi munkájukra épül, amelyben egy mesterséges intelligencia-rendszert képeztek ki a világ vezetőinek, például Barack Obama volt elnöknek meghamisított arcainak és fejmozdulatainak felismerésére.
Boháček és Farid több mint 8 órányi, Zelenszkijt ábrázoló, korábban nyilvánosan közzétett videón képezte ki a számítógépes modellt.
A felismerő rendszer egyetlen videóból vett sok 10 másodperces részt vizsgál meg, és akár 780 viselkedési jellemzőt is elemez. Ha a rendszer egy videóból több képkockát is hamisítványnak jelöl meg, az jelzi a humán elemzőknek, hogy közelebbről is megvizsgálják azt.
A deepfake detektor holisztikus fej- és felsőtest-elemzése egyedülállóan alkalmas a manipulált videók kiszűrésére, és kiegészítheti a kereskedelmi forgalomban kapható deepfake detektorokat, amelyek többnyire a pixeleket és más képi jellemzőket tartalmazó, kevésbé intuitív minták kiszűrésére összpontosítanak - mondja Siwei Lyu, a New York-i Buffalo Egyetem munkatársa, aki nem vett részt a tanulmányban.
A deepfake detektor 100 százalékos pontosságot ért el, amikor Zelenszkij három, a szájmozgását és a beszélt szavakat módosító deepfake-videón tesztelték, amelyeket a delaware-i székhelyű Colossyan cégtől rendeltek meg, amely mesterséges intelligenciával rendelkező színészeket felvonultató, egyedi videókat kínál. Hasonlóképpen hibátlanul teljesített a detektor a 2022 márciusában megjelent tényleges deepfake ellen is.
Az időigényes betanítási folyamat azonban, amely órákig tartó videót igényel minden egyes érdeklődő személy esetében, kevésbé alkalmas a hétköznapi embereket érintő deepfake-ek azonosítására.
A kutatók már építettek egy másik deepfake detektort, amely Joe Biden amerikai elnök hamis videóinak felkutatására összpontosít, és fontolgatják, hogy hasonló modelleket készítenek olyan közszereplők számára, mint az orosz Vlagyimir Putyin, a kínai Xi Jinping és a milliárdos Elon Musk. Tervezik, hogy a detektort bizonyos hírügynökségek és kormányok számára is elérhetővé teszik.