Na Politechnice Krakowskiej (PK) trwają prace nad wykrywaczem deepfake’ów w treściach wideo, audio i obrazach. Krakowscy naukowcy do walki z deepfake’ami chcą użyć ich własnej broni – nowoczesnych technik opartych na sieciach neuronowych i metodach uczenia głębokiego. 

Prace nad projektem pt. „Detekcja zmanipulowanych treści audio-wideo w celu ochrony przed rozprzestrzenianiem wiadomości o charakterze deepfake” prowadzone są w ramach I konkursu „Infostrateg” Narodowego Centrum Badań i Rozwoju. Zespół z PK otrzymał na nie dofinansowanie w wysokości blisko 4 mln zł.

Zakładamy, że te same lub pokrewne metody uczenia maszynowego, które są wykorzystywane do produkcji treści typu deepfake, mogą być użyte do detekcji zmanipulowanych treści – mówi kierownik projektu dr hab. inż. Michał Bereta, prof. PK z Wydziału Informatyki i Telekomunikacji Politechniki Krakowskiej.

W finale prac jego zespołu powstanie automatyczny system do weryfikacji treści typu obraz/dźwięk/wideo, z którego będą mogli korzystać m.in. pracownicy mediów, redakcje, agencje PR i inne podmioty, chroniące wizerunek swoich klientów i produktów, portale internetowe i społecznościowe, policja i inne służby zapewniające bezpieczeństwo, także organizacje pozarządowe i wszyscy zainteresowani sprawdzaniem wiarygodności treści.

Naukowcy z Politechniki Krakowskiej prognozują, że podobnie jak pomiędzy twórcami wirusów komputerowych oraz autorami programów antywirusowych trwa nieustający wyścig zbrojeń, tak podobna sytuacja będzie miała miejsca pomiędzy twórcami materiałów deepfake a badaczami sieci neuronowych i obliczeń ewolucyjnych, którzy będą się starali opracować jak najlepsze metody ich wykrywania.

Pojawienie się głośnych medialnie przypadków prób groźnego wykorzystania fałszywych materiałów w celu walki politycznej, zniesławienia bądź oszustwa czyni nasz projekt jeszcze bardziej pożądanym rynkowo – uważa prof. Michał Bereta.

Adrian Andrzejewski