3/11/2023
Scrollujesz sobie Twittera, a tam nagle pojawia się taki post:
Scam wchodzi na wyższy poziom i korzysta z generatora głosu AI. pic.twitter.com/vezMmRe4e5
— Marian Baczał 🇵🇱🇱🇦 (@marian_baczal) November 2, 2023
Czy ten deepfake z prezydentem jest wiarygodny? No nie jest idealny, ale nam się wydaje, że wiele osób nabierze. Nie każdy jest świadomy tego, że taki klip można dziś tanio wygenerować w (kilku) serwisach/aplikacjach. Przestępcy zaś są i generują reklamy ze znanymi osobami, które w coraz bardziej wiarygodny sposób zachęcają np. do inwestycji w instrumenty finansowe. Ci którzy się złapią, bo ufają zdeepfejkowanej znanej osobie, stracą pieniądze.
Będzie tego jeszcze więcej
Narzędzia do generowania tego typu nagrań w ostatnich miesiącach mocno poszły do przodu. W redakcji najbardziej podoba nam się to, które pozwala przetłumaczyć nagranie na inny jezyk (z zachowaniem głosu osoby i z dopasowaniem ruchu warg).
Współczesne narzędzia do generowania deepfake’ów pozwalają wgrać jakiś klip video i następnie:
- podmienić wypowiedź na dowolną, ale wciąż “czytaną” oryginalnym głosem osoby z nagrania
- dopasować do nowej wypowiedzi ruch warg na nagraniu
Takich narzędzi (aplikacji) jest już kilka. Niektóre darmowe inne niezbyt drogie. Korzystaliście już z jakichś? Jak wrażenia? Które z nich są Waszymi ulubionymi?
Na tę ciekawą reklamę wykorzystującą Deepfake’a zwrócił nam uwagę na Twitterze nasz Czytelnik Daniel (pozdrawiamy!). Jeśli i ty widzisz coś ciekawego i związanego z cyberbezpieczeństwem, daj nam znać! Przypominamy też, że na Twitterze piszemy najwięcej/najczęściej, tam też wklejamy najwięcej memów ;) Więc jeśli jeszcze nas tam nie śledzicie, to zacznijcie. Tu link do naszego profilu.
Posłuchaj jednego z naszych 8 cyberwykładów. Wiedzę podajemy z humorem i w przystępny dla każdego pracownika sposób. Zdalnie lub u Ciebie w firmie. Kliknij tu i zobacz opisy wykładów!
Każdy powinien zobaczyć te webinary! Praktyczna wiedza i zrozumiały język. 6 topowych tematów — kliknij tutaj i zobacz szczegółowe opisy oraz darmowy webinar.
W sumie widzę kolejny krok scamerów. Od jakiegoś czasu na Androdzie na “belce” z newsami od Google pojawiają się scamy np z funduszami inwestycyjnymi Muska, bywały fundusze z Morawieckim, gdzie obiecywano zyski w miesiąc na zawrotne kwoty i stronki to opisujące są coraz lepsze
Ten kto to zmontował, nie wziął pod uwagę jednej prostej rzeczy – Kwachu nigdy nie pierdzieli takich głupot jak Pinokio
Urzekła mnie twoja historia. Błysnąłeś tym tekstem jak szprota w oleju :D
mnie za to urzekła twoja elokwencja. Masz to po rodzicach, czy zdobywałeś szlify w Wyższej Szkole Umiejętności Społecznych?
Mnie cały czas dziwi fakt, że Google czy Microsoft przepuszczają reklamy które są typowym oszustwem. Za krytykowanie szczepionek potrafili zamykać kanały, a sami przepychają reklamy oszustw.
Deepface z prezydentem jest bardzie ciekawy. Idealnie jest podłożony głos, jedynie po temperamencie mówiącego można poznać, że to podkładka.
Tutaj też fajnie zostało to zmontowane ;)
https://m.youtube.com/watch?v=DvFuiRgo-dc
To jest mocne, ale co najwyżej na 40% ;)
> Przypominamy też, że na Twitterze piszemy najwięcej/najczęściej
Eee… klikam, a tam ostatnie z 2021 roku. Ke?
Bo się nie zalogowales a Twitter od pewnego czasu sortuje profil po “najpopularniejszych”
Ile z tych AI dziala lokalnie? Ilu nie da sie zidentyfikowac?
Firma udostepnila narzedzie do popelnienia przestepstwa nigeryjskim ksiazetom – niech placi…
Otóż to. Są to narzędzia o znikomym zastosowaniu legalnym (nie potrzebujemy kolejnego koncertu 2Paca) natomiast o ogromnym spektrum wykorzystania do oszustw. Walić po oczach i zwalczać ile się da. Życzę powodzenia w sądzie, gdy ktoś wygeneruje taki filmik z dużą dbałością o detale a potem np. pozwie kogoś pod wymyślonym powodem. Piękne narzędzie do niszczenia życia ludziom.
Niech każdy producent noży…
Mogę dokładnie opisać sposoby zastosowania różnych noży w codziennym życiu, które nie szkodzą nikomu a wręcz przeciwnie – pomagają.
Spróbuj podać podobne sposoby wykorzystywanych deepfake’ów.
Jakoś niedawno była mowa o polityku, który sam dla siebie stworzył nagrania w różnych językach, żeby się popisać przed odbiorcami. Mogę sobie wyobrazić zastosowanie w przemyśle filmowym (postprodukcja przy dubbingu).
Profesjonalne podmioty – niech się rejestrują i weryfikują tożsamość, żeby było wiadomo, co kto wytworzył.
Dla mnie raczej to narzędzie nie jest porównywalne do noża, a przynajmniej do samochodu (na który trzeba mieć uprawnienia, rejestrację i publicznie widoczny numer rejestracyjny).
To miała być odpowiedź @bueh dot. producentów noży.
[…] ostrzega przed DeepFake z Aleksandrem Kwaśniewskim, proumjącym […]
[…] inteligencji przez atakujących możemy zobaczyć w jednej z niedawnych publikacji niebezpiecznika: » Przestępcy użyli deepfake’a z Aleksandrem Kwaśniewskim — Niebezpiecznik.pl –. Prześledźmy jednak kilka sposobów w jaki zespoły broniące mogą użyć sztucznej inteligencji […]
Od czasu do czasu bawię się jednym z takich narzędzi do klonowania głosów. Nie będę robił reklamy, zresztą jest dość znane i chyba zagościło w artykule. Mój głos i sposób mówienia, wygląda na to, są na tyle specyficzne, że narzędzie nie jest w stanie ich wiernie odtworzyć :D