14:28
10/7/2017

Do takiego wniosku doszedł dr Emilio Ferrara, który bada aktywność wyborczych botów. Jego zdaniem to wcale nie musi być Rosja. Możliwe, że po prostu istnieje czarny rynek botów do wprowadzania wyborców w błąd.

Podczas (i po) kampanii prezydenckiej w USA dość powszechny był pogląd, że wyborcy w USA zostali zmanipulowani z użyciem social mediów, m.in. Twittera. Później do podobnych manipulacji dochodziło we Francji. Wielu komentatorów (m.in. firma Trend Micro) przypisywało te działania Rosji, twierdząc dodatkowo, że poza prowadzeniem kampanii dezinformacyjnych włamywano się także na skrzynki e-mail polityków. Teraz tę teorię częściowo potwierdził dr Emilio Ferrara z University of Southern California. Według niego istnieje powiązanie pomiędzy botami wspierającymi Trumpa w roku 2016 i tymi które oczerniały Macrona.

Emilio Ferrara z ostrożnością typową dla naukowców nie dochodzi do wniosku, że “to wina Rosji“. Jego zdaniem dokonywanie takich atrybucji jest trudne i to samo powtarzamy Wam w praktycznie każdym artykule poświęconym “cyberatakom”. Choć ciężko wskazać kto dokładnie stoi za atakami, to można sądzić, że z całą pewnością istnieje czarny rynek politycznej dezinformacji. I ktoś na tym w ten czy inny sposób zyskuje.

Ile jest człowieczeństwa w tweetach?

Ferrara opisał swoje ustalenia w 33-stronicowym artykule. Jest on wynikiem analizy 17 mln postów z Twittera opublikowanych między 27 kwietnia i 7 maja 2017 roku. Przy pomocy uczenia maszynowego oraz modelowania behawioralnego oddzielono boty od żywych ludzi. Analizując zachowania jednych i drugich udało się ustalić m.in. dlaczego wycieki na temat Macrona (tzw. MacronLekas) miały ograniczony wpływ na wybory we Francji. Wywołały one zaangażowanie głównie u skrajnie prawicowych anglojęzycznych użytkowników Twittera, zatem miały ograniczony wpływ na ludzi francuskojęzycznych, którzy naprawdę wybierali prezydenta.

W artykule bardziej szczegółowo opisano identyfikowanie botów i ludzi. Pod uwagę brano różne zmienne jak np.:

  • liczbę znajomych,
  • obrazki na koncie,
  • informacje o położeniu geograficznym,
  • ustawienia profilu

Ponad 99 tys. użytkowników zaangażowało się w MacronLeaks, z czego ponad 18 tys. mogło być botami (18%). Wcześniej, przed wybraniem Trumpa, odsetek Twitterowych botów w dyskusjach oszacowano na ok. 15%. To niemało zważywszy na to, że boty łatwo się nie zniechęcają, a przecież wywołują reakcje u żywych ludzi. Tabela poniżej wymienia konta najbardziej aktywne, które później zostały usunięte lub zawieszone (Twitter również stara się usuwać boty oraz konta naruszające jego regulaminy na różne sposoby).

Boty zidentyfikowane przez naukowców w większości zostały powstrzymane. W dwóch przypadkach konta są aktywne, zatem zanonimizowano ich nazwy na wypadek, gdyby miało to naruszyć czyjąś prywatność

Kolejna tabela pokazuje jak silne reakcje mogły wywoływać boty. Wymienia konta zidentyfikowane jako boty i opisuje ich osiągnięcia. Aktualnie te konta są zawieszone lub usunięte.

Co ciekawe, poprzednie badania na temat botów sugerowały, że w ich wykrycie jest stosunkowo proste, bo dawniej boty były aż nadto aktywne. Jednak te użyte przy MacronLeaks zachowywały się ostrożniej. Potrafiły być nawet mniej aktywne od żywych ludzi i zdaniem badaczy jest to dowód na ulepszanie strategii ich użycia.

Co z tymi powiązaniami?

Najciekawszym odkryciem Ferrary pozostaje zidentyfikowanie kont, które były utworzone na czas kampanii Trumpa, wygasiły działalność po listopadzie 2016 roku (dosłownie nie publikowały nic) i wróciły do gry tuż przed wyborami we Francji. Emilio Ferrara zauważa, że już wcześniejsze badania sugerowały istnienie czarnego rynku botów do agitacji, ale teraz on i jego koledzy zidentyfikowali konta, które wyraźnie wiązały ze sobą dwa istotne politycznie wydarzenia.

Nie należy tu jednak zakładać, że boty w social mediach są zawsze są “chwalące” lub “krytykujące”. Ferrara wcześniej badał aktywność botów wyborczych w USA. Ustalił m.in., że boty wspierające Clinton publikowały mieszankę krytycyzmu dla przeciwnika i wsparcia dla swojej kandydatki. Tymczasem boty pro-Trumpowskie koncentrowały się na chwaleniu swojego kandydata. Trzeba brać pod uwagę, że boty “Clintonowskie” były mniej liczne i mniej aktywne.

Dezintegracja przez polaryzację

Boty są generalnie niebezpieczne, niezależnie od tego kto ich używa. Publikują informacje, które — choć są fałszywe — trafiając na podatny grunt prawdziwych ludzi, często są podawane dalej i przypisuje się im coraz większą wiarygodność. Można więc zaryzykować stwierdzenie, że boty uderzają w podstawowe zabezpieczenie, jakie powinno być wszyte w demokrację. Zakładamy, że społeczeństwa nie podejmą decyzji bardzo szkodliwych (często skrajnych), ale czy ten mechanizm działa, jeśli całe społeczeństwa są wprowadzane w błąd? Boty polaryzują opinię publiczną zatem dezintegrują społeczeństwa. Są coraz lepsze w udawaniu żywych ludzi i potrafią nawet wdawać się w dyskusję z innymi użytkownikami. Tu warto zaznaczyć, że niekoniecznie przez boty należy rozumieć “program komputerowy”. Część z botów może być ręcznie sterowana — są to jednak konta piszące to, co narzuca się ich operatorowi. Przypomnijmy tu nasz artykuł na temat rosyjskiej farmy trolli, czyli komercyjnej firmy, która płaci tysiącom osób, aby codziennie pisały komentarze zgodnie z narzuconą narracją.

Kto za to płaci?

Najłatwiej jest wskazać oczywistych winnych — sztaby wyborcze przeciwników politycznych albo obce państwa. Jednak równie dobrze takich botów mogą używać lobbyści lub organizacje walczące o różne sprawy. Co gorsza, wszystko funkcjonuje w “szarej strefie”, bo poza łamaniem regulaminów Twittera czy Facebooka nie dochodzi do wyraźnego łamania prawa.

Politycy będący u władzy sądzą, że znaleźli już na to sposób. Serwisy społecznościowe mają w przyszłości usuwać komentarze “ekstremistów” oraz “dezinformację”, ale w praktyce oznacza to tylko zwiększenie kontroli firm takich jak Facebook czy Google nad informacjami trafiającymi do obywateli/wyborców. Rozwiązania problemu botów agitacyjnych tak naprawdę nie wymyślono…

A gdyby tak każdy z nas miał wszczepionego od urodzenia chipa i założenie konta w mediach społecznościowych musiało być jednoznacznie powiązane z tym chipem i naszą prawdziwą tożsamością? Hmm… to chyba też nie najlepszy pomysł ;)

Przeczytaj także:

26 komentarzy

Dodaj komentarz
  1. W dwóch przypadkach konta są aktywne, zatem zanonimizowano ich nazwy na wypadek, gdyby miało to naruszyć czyjąś prywatność (…)
    jaka prywatnosc ?
    o czym wy mowicie, linki do profili nie sa tajemnica przeciez :) o kyrie elejson

    • Jeżeli są to jednak prawdziwi użytkownicy, to powielanie informacji, iż są botami raczej nie jest prawidłowym zachowaniem. Byłoby to oczernienie, z bezpośrednim wskazaniem danej osoby. Stąd nie podane ich profilu. Chyba proste?

  2. Czy badania tego Dr są do zweryfikowania przez innych ekspertów czy wierzy im się na “słowo”?

    • A czemu miałyby być nieweryfikowalne? Tu masz artykuły tego pana:

      https://scholar.google.com/citations?user=0r7Syh0AAAAJ

      Tu masz ten konkretny, możesz sobie przeczytać i weryfikować:

      https://arxiv.org/ftp/arxiv/papers/1707/1707.00086.pdf

      Na razie widać nie ma cytowań, ale to nic dziwnego – za wcześnie. Potem się pojawią i będziesz sobie mógł śledzić co inni naukowcy o tym myślą.

    • faktem jest jednak, że nie da się tak prosto sprawdzic czy dane konto uzywane jest przez bota czy przez człowieka. Na pewno takiej pewnosci nie daje sprawdzenie lokacji czy zdjec profilowych.

  3. niezbyt wierze w takie behawioralne identyfikowanie botow – na 99% moje twitterowe konto byloby wskazane jako bot: loguje sie rzadko aktywizuje sie jeszcze rzadziej i tylko przy konkretnych tematach, na te tematy mam dosc mocno spolaryzowane poglady – wypisz-wymaluj bot wedlug pana doktora :P

    • Dobrze, że dodałeś emotikon na końcu bo jeszcze by ktoś pomyślał, że piszesz na serio… :P

  4. “czarny rynek politycznej dezinformacji”

    To raczej całkowicie legalny (!) choć nie lubiący rozgłosu rynek usług PRowych, który dostosował się do nowych narzędzi i dziś zamiast zamawiać artykuły w gazetach zamawia się boty na twitterze.

    Pytanie tylko, czy to boty? Czy stworzenie takiego twitterowego bota jest aż tak uciążliwe aby używać go przy dwóch różnych operacjach? Albo czy tak kosztowne jest pozorowanie aktywności przez repostowanie lub lajkowanie wpisów raz na kilka dni także POZA kampanią wyborczą? Prawdę mówiąc wygląda mi to bardziej na armię trolli posiadających po kilka kont i wynajmowanych przez agencję PR.

    • Otóż to, nihil novi. Dezinformacja była, jest i będzie. Wolne media to fikcja. Każdy nabiera się na jakieś kłamstwa. Ignorance is bliss.

  5. Jeszcze wiecej kontroli i manipulowania swoimi uzytkownikami? Na mordoscianie? Nie mozliwe…

  6. część z tych botów to wytwór świrów z /pol/ na 4chanie

    • Pewnie jesteś ekspertem ? Jakieś dowody na potwierdzenie twojej wątpliwej tezy ? Nie ? Tak myślałem.

  7. Cóż, problem opłacania propagandzistów przez osoby inwestujące w sukces wyborczy określonego kandydata lub idei jest tylko odrobinę młodszy od demokracji… Zmieniają się natomiast metody dotarcia do wyborców, znaczy środki społecznego przekazu / media… I zawsze było trudno z tym walczyć… Teraz nie jest inaczej…

  8. Nie rozumiem w czym problem? Jak ktoś nie ma własnego mózgu to i tak zostanie zmanipulowany przez bota trolla czy nawet sąsiada…

    • Problem w tym, że – z mózgiem czy bez – ma prawo głosu.

    • Rozumiem, że Ty masz mózg i przekonanie, że nie dajesz się manipulować?

    • @Radek ale w czym problem? I tak jest manipulowany przez polityków, media i ludzkie boty zwane dziennikarzami, którzy kłamią, manipulują itp.
      Tak dla przypomnienia, to w jednej z telewizji(*) padają ostatnio stwierdzenie, że cyber bezpieczeństwo w Polsce od momentu kiedy władzę przejął Populizm i Socjalizm, jest na najwyższym poziomie i żadne ataki od jesieni 2015 roku nie mają miejsca. Wcześniej to był bajzel. A to super bezpieczeństwo zawdzięczamy rządom PiS.
      Ile w tym prawdy? Wystarczy przejrzeć newsy na tym forum od jesieni 2015 roku
      W tej samej telewizji ciągle podawane są władności jak to wzrosły przychody z VAT, PIT i CIT, że mamy nadwyżkę budżetową, tylko dlaczego wszystkie ceny regulowane przez rząd idą w górę? Np. paliwo o 20 gr./l.
      Dla równowagi, to w TVN przed wyborami w USA, puszczano filmy jaki to zły i niedobry jest Tramp, a jaka kochająca dzieci jest Clinton. Amerykanie mieli wybór jak między dżumą, a cholerą.
      https://www.youtube.com/watch?v=D0ZNhzs3yho
      Jak widać spora część społeczeństwa jest manipulowane przez zwykłe media, więc nie ma różnicy między botami i ludźmi. Zresztą borty są sterowane i programowane przez ludzi.

      (*) – Ta telewizja to TVPiS, gdyby ktoś nie wiedział.

    • @John Sharkrat, masz rację – ja poprostu tych dziennikarzy, co to im się nie chce sprawdzić źródeł też bym wywalił. I też z wilczym biletem – nie za rasizm, a za to, że nie nadają się do swojej pracy.
      No, ale takiej utopii, żeby dziennikarze byli rzetelni a politycy rozsądni to my raczej nie doczekamy…

  9. Jak ktoś prowadzi badania czy dane konto jest botem czy nie to rzetelność nakazuje podanie parametrów statystycznych wykorzystywanej metody badawczej takich jak np. czułość i swoistość. Tu oczywiście tego nie ma co jednak nie przeszkodziło w wyciągnięciu, jakże poprawnego politycznie wniosku, że botów clintonowych jest mniej niż trumpowych

    • A przeczytałeś cały artykuł Emilio Ferrary? To 33 strony, w tym 4 strony bibliografii (którą też warto znać, jeśli chce się oceniać metodologię).

  10. “[wiadomości] trafiając na podatny grunt prawdziwych ludzi, często są podawane dalej i przypisuje się im coraz większą wiarygodność. Można więc zaryzykować stwierdzenie, że boty uderzają w podstawowe zabezpieczenie, jakie powinno być wszyte w demokrację”
    – dokładnie tak samo, jak TV…

  11. A M$ i Intel już z 10 lat temu proponowali wprowadzenie deanonimizacji(poprzez przypisanie unikalnych numerów) korespondencji internetowej.

  12. Parę miesięcy temu czytałem fascynujące dziennikarskie śledztwo na temat firmy Cambridge Analytica, której polityczny marketing oparty na personalizowanej reklamie bezpośredniej być może zaważył o zwycięstwie Trumpa i Brexicie. To o czym piszecie to inna strona tej samej sprawy.
    https://motherboard.vice.com/en_us/article/mg9vvn/how-our-likes-helped-trump-win

  13. Nie dzielmy tych “usługowców” aż tak na boty i ludzi. Myślę, ze nie problem na tyle zgrać maszynę z człowiekiem, by operator sterował, kierował i na bieżąco modyfikował działanie sfory botów na smyczy, czy aby legion botów zgłaszał się do człowieka po nowe zdania i opinie, ew kopiował opinie i zachowania z kont nawet niczego nieświadomych użytkowników (np tych, którzy maja 90% znajomych wypowiadających się ciepło o danym polityku). Podział prac w takim zespole nie pozwala na jasne określenie czy to robot, czy człowiek z narzędziem.

  14. Ale w czym problem?
    Od kilkudziesięciu lat w mediach boty zwane, nie wiedzieć czemu, dziennikarzami robią DOKŁADNIE to samo. Kłamią, powtarzają kłamstwa, nie sprawdzają wiadomości i zawsze rozmawiają z ekspertami, mimo iż gość ledwo ogarnia jakiś temat i co ciekawe nawet się nie przygotował, chociaż pewnie znał temat rozmowy wcześniej.
    Jedyny problem jaki jest, a raczej mają go posiadacze mediów starego typu, to to, że ich wpływ na rzeczywistość maleje, a co za tym idzie i kasa z reklam.
    To dzięki mediom mamy dziś na świecie coś takiego
    https://www.youtube.com/watch?v=5fTnAdGXUts
    W Szwecji można wylecieć z pracy za samą dyskusję o uchodźcach i do tego z wilczym biletem – rasisty. W Niemczech za krytykę rządu wylatuje się z pracy i podlega karze grzywny, szczęście, że nie wsadzają do jakiegoś KL (Konzentrationslager), bo jak wiadomo mają w tym niezła wprawę.
    Ale problemem nie są rządy, politycy czy media, tylko media społecznościowe.

Twój komentarz

Zamieszczając komentarz akceptujesz regulamin dodawania komentarzy. Przez moderację nie przejdą: wycieczki osobiste, komentarze nie na temat, wulgaryzmy.