12:49
27/6/2022

Prezydenci miast Berlina, Wiednia oraz Madrytu (i pewnie także kilku innych miast, o których jeszcze nie wiemy) twierdzą, że w piątek rozmawiali z kimś, kto podszywał się pod ukraińskiego byłego boksera, a obecnie prezydenta miasta Kijowa. Politycy mówią “deepfake”. Ale na razie dowodów na deepfake’a brak, nagrania wideo z rozmowy brak. Jest tylko takie zdjęcie:

Deepfake w czasie rzeczywistym

Deepfake to doskonale podrobione nagranie audio-video, w którego bohater jest wyrenderowany zawczasu (albo renderowany w czasie rzeczywistym). W uproszczeniu, do stworzenia deepfake potrzeba kilku(set) materiałów z bohaterem i algorytmu, który na ich podstawie (a często także na podstawie dodatkowego aktora) odpowiednio zanimuje postać bohatera mapując ją na postać (podstawionego) aktora.

Na marginesie, początkiem deepfake’ów był Reddit, gdzie w filmy dla dorosłych wmontowywano twarze znanych aktorek, a potem za opłatą także kobiet, które podobały się płacącemu lub ex, na których płacący chciał się zemścić upubliczniając fałszywe materiały video.

Jest kilka aplikacji na smartfony, dzięki którym można zamienić swoją twarz z cudzą (np. znanego aktora w znanej scenie znanego filmu). To nie są deepfake’i w czasie rzeczywistym. Są prerenderowane. I wyglądają dość słabo. Mają pełno widocznych artefaktów, glitchy. Tu natomiast macie jeden z bardziej znanych przykładów takiego deepfake’a w czasie rzeczywistym:

Jak widać, nie jest on doskonały, ale pochodzi sprzed 4 lat. Do wygenerowania takiego nagrania nie potrzeba superkomputera, wystarczy karta graficzna.

Czy to naprawdę był deepfake Kłyczki?

Mógł być, ale politycy nie ujawnili żadnych dowodów, które pozwalałyby niezależnym ekspertom na ocenę materiału video pod kątem charakterystycznych dla deepfake’ów artefaktów/glitchy. Jest jedna fotografia, która pokazuje Webex z dziwnie zcropowaną kamerą Kłyczki.

Warto tu zadać sobie pytanie, czy trzeba przygotowywać aż deepfake’a żeby wkręcić polityków? Ten sam efekt można zrealizować bez ryzyka zauważenia glitcha na deepfake’u, co położy cały “atak”. Można np. znaleźć sobowtóra albo ucharakteryzyować kogokolwiek innego (od makijażu przez silikonowe maski). Aktora można posadzić dalej od kamery, a jakość transmisji można celowo obniżyć, aby niedociągnięcia nie rzucały się tak w oczy. W przypadku videcalli nie jest to nic podejrzanego.

Głos. Głos jest problemem. Ale o ile zapewne poznalibyście Obamę po głosie, to czy kojarzycie głos Kłyczki? Politycy relacjonowali, że rozmawiał on w języku rosyjskim przez tłumacza, co również sprzyja podszywaniu się.

Na marginesie, co jakiś czas przez media przetacza się sensacyjny artykuł, który opisuje jak to jakaś firma straciła miliony, bo pracownik odebrał telefon od prezesa, który kazał mu puścić przelew. I ten głos — zapiera się pracownik — to był prezes! 100% pewności! No ale, jak się domyślacie, to nie prezes dzwonił. Co na to nabrany pracownik? To musiał być deep fake!

Zupełnie nas nie dziwi, że pracownik, który dał się oszukać i naraził firmę na straty będzie szedł w zaparte, że głos był 1:1 jak prezesa i że oszukano go w wyrafinowany sposób, deepfakem. Nagranie? Takie na którym każdy mógłby porównać głos dzwoniącego oszusta do prezesa? Niestety zawsze w takich historiach brak. Ale to zrozumiałe, nikt nie nagrywa rozmów telefonicznych. Trzeba wierzyć na słowo, że to deepfake. Choć takich ataków są codziennie setki i robią je zwykli ludzie, nierzadko z obcym akcentem.

Żeby było jasne. Takie ataki są możliwe i pewnie niebawem się pojawia. Ale istotne jest to, aby deepfake’ami nazywać deepfake’i, a nie każdy taki incydent. Próbki głosu to jedyny dowód w takiej sprawie. A tego właśnie brakuje.

Jeszcze ciekawsze w historii jest to, że — jak informują ofiary fałszywego Kłyczki — rozmowa z nim została zaplanowana kilka dni wcześniej. Jak? Tego nie wiemy. Ktoś dzwonił i umówił rozmowę? Wysłał maila? Z jakiego adresu e-mail? Urzędy miast europejskich nie rozpoznały wkrętki na tym etapie, po nieprawidłowych domenach?

Kto za tym stoi i dlaczego?

Ten incydent z 3 prezydentami miast (choć podejrzewamy, że ofiar było więcej) przypomina nam prank rosyjskich komików. Tych co to już raz obdzwaniali prezydentów i oszukali też naszego. Może postanowili wyjść poza “samo audio” i pobawić się też w żarty z video?

Ciekawy jest też przebieg rozmów. Najpierw fałszywy Kłyczko poruszał tematy dotyczące uchodźców. Ale potem zagadywał o bardzo dziwne lub kontrowersyjne kwestie, np. dotyczące środowisk LGBT lub “wyłudzania świadczeń socjalnych” (prawdopodobnie aby pozyskać nagranie, na którym ofiara wypowiada się w kontrowersyjny, dający się wykorzystać np. do dezinformacji lub ośmieszenia rozmówcy sposób).

Jak rozpoznać deep fake?

Z 3 ujawnionych miast, wiemy że najmocniej nabrał się Wiedeń. Po rozmowie na oficjalnym koncie na Twitterze opublikowano nawet jej podsumowanie (twit już skasowano, publikując takie oświadczenie). Rozmowa z Berlinem doznała problemów technicznych i została nagle zerwana. Madryt z kolei twierdzi, że sam zerwał rozmowę po kilku minutach, podejrzewając, że coś jest nie tak.

Wygląda więc na to, że nawet jeśli przedstawiciele różnych europejskich miast nie mieli wprawnego oka, aby wychwycić glitche na generowanym komputerowo Kłyczce, to całkiem nieźle poradzili sobie z rozpoznaniem tego, że są wkręcani po samym przebiegu rozmowy. Poza Wiedniem i być może innymi miastami, o których niebawem się dowiemy. Ciekawe czy była też rozmowa z Warszawą? :-)

Wciąż brak dowodów na użycie deepfake’a do czegoś poważnego

Podsumowując, deepfake’ów wiele osób się obawia. Jeszcze więcej nimi straszy. Inwazja Rosji na Ukrainę wydawała się wręcz idealnym pretekstem do tworzenia deepfak’ów w celach dezinformacyjnych. Ale tak się nie stało. Powstał zaledwie jeden, bardzo kiepski i szybko wyśmiany (prezydent Zełenski nakłaniał w nim Ukraińców do “poddania się”).

Brak większej liczby deepfake’ów nie dziwi. Żeby obalić deepfake, wystarczy czasem jeden charakterystyczny artefakt ukazujący jakieś niedopasowanie. Trudniej obala dezinformacje w postaci zmanipulowanego przekazu tekstowego. Trzeba dotrzeć do źródeł, przekopać się przez różne relacje, a to zajmuje czas. Poniżej na filmiku znajdziecie kilka porad jak to sprawnie robić (a tu zdecydowanie więcej):

Sprawie fałszywego Kłyczki będziemy się przyglądać. Jeśli za tym incydentem stali rosyjscy komicy, to zapewne za chwilę wrzucą coś na YouTube, jak to mają w zwyczaju. Czy tam RuTube, hehe.


Aktualizacja 27.06.2022, 20:36
Fałszywy mer Kijowa dzwonił także do prezydenta Warszawy, poinformowało o tym Radio ZET. Prezydent naszej stolicy także wyczuł w trakcie rozmowy, że nie rozmawia z prawdziwym merem Kijowa i powiadomił o sprawie organy ścigania.

Z materiału Radia ZET poznajemy też kolejną stolicę-ofiarę: Budapeszt. Ale ciekawsze jest to, że…

zaproszenie do wideopołączenia przychodziło z oficjalnego adresu kijowskiego urzędu miasta.

Czy to oznacza, że ktoś, kto stoi za tą szopką wcześniej włamał się na skrzynki e-mail kijowskich urzędników?

Nie można tego wykluczyć, ale nie można też tego potwierdzić. Źródło tej rewelacji mogło po prostu nie być w stanie odróżnić zespoofowanego e-maila. Dopóki nie zobaczymy nagłówków, do sprawy “e-maila z oficjalnego adresu kijowskiego urzędu miasta” podchodzimy z rezerwą.

To nie był deepfake

Daniel Laufer namierzył oryginalne nagranie wypowiedzi Kłyczki, które wykorzystano podczas rozmów z prezydentami miast. I porównał je do nagrania z wideokonferencji z Berlinem. Poszczególne klatki są identyczne, a na nagraniach z wideorozmowy brak charakterystycznych dla “deepfake’ów” glitchy. Tutaj cały wątek.

Okazuje się, że ktoś po prostu powycinał fragmenty kwietniowej wypowiedzi Kłyczki i najwyraźniej w trakcie rozmów z prezydentami miast odtwarzał je w odpowiednich kolejnościach. Przejścia między fragmentami najprawdopodobniej maskowano chwilowymi spowolnieniami/glitchami/zatrzymaniami obrazu, które każdy z nas zna z rozmów video i które nie budzą podejrzeń. Czasami przecież tnie.

Innymi słowy, ktoś zbudował sobie taka Klarę Sobieraj z wypowiedzi Kłyczki i puszczał nagrane wcześniej fragmenty w odpowiednich momentach. Ponieważ wypowiedzi mera Kijowa były w trakcie calla tłumaczone na niemiecki, to Berlin mógł nie wychwycić, że nie zawsze tłumacz mówi to co faktycznie powiedział Kłyczko na nagraniu.

Jak najbardziej więc prawdziwe jest wrażenie prezydentów oszukanych stolic, że postać którą widzieli wyglądała dokładnie jak Witalij Kłyczko. Bo to był najprawdziwszy on. Tylko, że z kwietnia. Odtwarzany w fragmentach, w odpowiedniej kolejności.

Przeczytaj także:


Dowiedz się, jak zabezpieczyć swoje pieniądze, dane i tożsamość przed cyberprzestępcami. Wpadnij na nasz kultowy 3,5 godzinny wykład pt. "Jak nie dać się zhackować?" i poznaj kilkadziesiąt praktycznych i prostych do wdrożenia porad, które skutecznie podniosą Twoje bezpieczeństwo.

Na ten wykład powinien przyjść każdy, kto korzysta z internetu na smartfonie lub komputerze. Prowadzimy go przystępnym językiem, przeplatając demonstracjami ataków na żywo -- dlatego zabierz ze sobą swoich rodziców! W najbliższych tygodniach będziemy w poniższych miastach:

Zobacz pełen opis wykładu klikając tutaj lub kup bilet na wykład klikając tu.

14 komentarzy

Dodaj komentarz
  1. “Politycy relacjonowali, że rozmawiał on w języku rosyjskim przez tłumacza”

    Podejrzane. Politycy ukraińscy mówią na oficjalnych spotkaniach po ukraińsku. Rosyjski jest teraz źle widziany.

    • Kliczko zna też angielski więc tym bardziej dziwne

    • Co więcej, Kłyczko w rozmowach i wywiadach z cudzoziemcami zwykle się posługuje językiem angielskim. Może nie jakoś super płynnie, ale całkiem dobrze sobie radzi.

    • Tyle, że on słabo gada po ukraińsku. Wbrew pozorom, w Ukrainie nie jest to niczym niecodziennym.

    • Klyczko jest rosyjskojęzycznym Ukraińcem, bardzo słabo posługuje sie ukraińskim, natomiast bardzo dobrze angielskim i niemieckim wiec sama potrzeba tłumacza tym bardziej gdy rosyjski nie jest mile widziany jest dziwne

  2. Ciekawa sprawa, jak przez mnóstwo instytucji urzędowych to wszystko przeszło, i w jaki sposób doszło w ogóle do rozmowy. Sama rozmowa już musi zostać wyłapana przez kogoś “technicznego” – byle urzędnik nie załapie w szybkim tempie że nie rozmawia z docelową osobą.
    Lecę po popcorn i będziemy obserwować.

  3. Może lepiej nie odbierać jak Klara dzwoni z fotowoltaiką? – Może próbki głosu zbierają, jak myślicie?

    • Skąd ktoś ma wiedzieć kto dzwoni?
      Próbki głosu i tak są już zarchiwizowane.

  4. Może to był Wołodymyr…

  5. Do grona nabranych rozmówców dołączył Rafał Trzaskowski z Warszawy.

  6. […] rano opisaliśmy, jak to ktoś, podszywając się pod mera Kijowa, Witalija Kłyczko, obdzwonił prezyden…. Zastanawialiśmy się, czy oszust próbował także łączyć się z kimś z Polski. Okazuje się, […]

  7. Dlaczego nagle na człowieka o nazwisku Kliczko (Кличко) zaczęto mówić Kłyczko?

    • Widze, ze teraz to bedzie pytanie na topie. Wczesniej (i do tej pory) najwazniejsze bylo w debacie polskiej, czy mowic w Ukrainie czy na Ukrainie…

    • Bo to jest wymowa ukraińska. Mieliśmy już etap rusyfikacji, potem amerykanizacji, a teraz przyszedł czas na ukrainizację.

Twój komentarz

Zamieszczając komentarz akceptujesz regulamin dodawania komentarzy. Przez moderację nie przejdą: wycieczki osobiste, komentarze nie na temat, wulgaryzmy.

RSS dla komentarzy: