Jedno z zagrożeń, przed którymi firma Trend Micro przestrzegała od dawna, staje się rzeczywistością. Stwierdzono pierwszy przypadek wykorzystania deepfake'ów video w złej wierze. Rik Ferguson, wiceprezes ds. bezpieczeństwa w Trend Micro, przybliża zjawisko deepfake'ów, a także wyjaśnia dlaczego jest to technologia, która stanowi realne zagrożenie. Jakie możliwości stwarza to przed cyberprzestępcami? Jak przedsiębiorstwa mogą sobie radzić z tym problemem?
W jaki sposób przekonano jednego z dyrektorów pewnego brytyjskiego przedsiębiorstwa do przelania z firmowego konta setek tysięcy funtów? Zacznijmy jednak od wyjaśnienia czym jest deepfake.
Słowo "deepfake" powstało w wyniku połączenia wyrażeń deep learning ("głębokie uczenie" - odmiana uczenia maszynowego) i fake media ("fałszywe wiadomości"). Istnieją różne sposoby tworzenia tego rodzaju treści. Najczęściej wykorzystuje się do tego technologię głębokich sieci neuronowych o nazwie "autoencoder". Jest ona wykorzystywana do pobierania, kompresowania i przekształcania treści video. Dzięki temu można tak połączyć nagrania z dwoma różnymi osobami, aby mimika i gesty osoby A imitowały osobę B. W efekcie pozwala to "włożyć" dowolne słowa w usta każdej osoby.
Najnowszy przypadek wykorzystania tej technologii pokazuje, jak bardzo rozwinęła się ona w ciągu zaledwie kilku lat. Ofiarą fałszerzy padli politycy z Wielkiej Brytanii, Łotwy, Estonii, Litwy i Holandii, którzy zostali "wmontowani" w widekonferencję z Leonidem Wołkowem, bliskim współpracownikiem i szefem personelu rosyjskiego lidera opozycji Aleksieja Nawalnego. Zrzut ekranu opublikowany przez jednego z tych polityków pokazuje, jak wiarygodnie odtworzono jego wizerunek na fałszywym materiale wideo.
Osoby, które potrafią się efektywnie posługiwać technologią deepfake, mają praktycznie nieograniczone możliwości szerzenia fałszywych informacji dotyczących przedstawicieli najwyższych sfer rządowych.
To nie wszystko. Już w 2018 r. objaśniające technologię deepfake, eksperci Trend Micro zwrócili uwagę na możliwość wykorzystania ataków z wykorzystaniem biznesowych wiadomości e-mail (ang. Business Email Compromise - BEC) w celu nakłonienia pracowników działu finansowego firmy do dokonania przelewów dużych sum pieniężnych na rzecz osób trzecich.
Przedsiębiorstwa powinny odpowiednio przygotować zespoły odpowiedzialne za bezpieczeństwo. W celu lepszego zrozumienia, jak technologia może zostać wykorzystana w złej wierze, warto zwracać uwagę na nasze (i nie tylko) ostrzeżenia.
Staramy się również spojrzeć w dalszą przyszłość i przewidzieć, w jaki sposób sztuczna inteligencja i deepfake’i mogą w najbliższych latach zostać użyte w cybernetycznym wyścigu zbrojeń. Należy zaznaczyć, że już teraz musimy nauczyć się lepiej szkolić pracowników w wykrywaniu fałszywych informacji i używaniu do tego odpowiednich narzędzi.
Pełną treść eksperta Trend Micro na temat deepfake'ów znajdziesz w tym wpisie.
Źródło: Trend Micro