12:17
27/8/2019

Wiele aplikacji z których korzystamy ma dostęp do naszego głosu za pomocą wbudowanych w smartfona, komputer czy konsolę do gier mikrofonu. W niektórych aplikacjach, takich jak Skype, głos — co zrozumiałe — służy do komunikacji z innymi i wiemy że jest przekazywany przez internet. W innych urządzeniach, np. Xboksie, nasz głos jest także wykorzystywany do sterowania zachowaniem urządzenia (lub gry). Okazuje się, że do tego co mówimy przy odpalonym Xboksie lub na Skype dostęp mają nie tylko nasi rozmówcy lub wirtualni przeciwnicy ale także pracownicy Microsoftu, którzy aktywnie nas słuchają.

Takie piękne AI, prawie działające

Potrzeba podsłuchiwania użytkowników — jak twierdzi Microsoft — to nie chęć ich inwigilacji, a konieczność. Chodzi o proces “weryfikowania jakości” usług automatycznego rozpoznawania mowy, który jest obsługiwany przez algorytmy i ciągle-uczące się sieci neuronowe, które trzeba ręcznie poprawiać.

W skrócie: Microsoft zatrudnia kilkudziesięciu (kilkuset?) ludzi w słuchawkach na uszach, którzy siedzą gdzieś na sali i weryfikują, czy algorytmy AI poprawnie rozpoznały to, co do Skype’a, Cortany lub konsol Xboksa mówią korzystający z nich ludzie.

Nie chodzi tu o wychwytywanie takich subtelności jak to, że gracz Andrzej powiedział innemu graczowi:

“nie robisz mi łaski, przynosząc bandaże na to pole walki”

choć latwo zrozumieć, że pomyłka w zaledwie jednym słowie tego zdania, mogłaby doprowadzić do niepotrzebnej eskalacji emocji i odwetowego head-shota oraz zaburzenia rozgrywki.

Chodzi o to, że o ile Xbox powinien reagować na komendy tylko po słowach kluczowych “Xbox” lub “Cortana“, a czasem silnik komend głosowych wzbudzał się przez inne zwroty, które ludzie wychwytywali — być może właśnie słowo “łaska“. I wtedy cyk, pracownik Microsoftu robi korektę w algorytmie, aby przypadkowe “robienie łaski” nie wzbudzało więcej Cortany.

Warto tu zaznaczyć, że jeśli chodzi o podsłuchiwanie rozmów na Skype, to nasłuch nie był prowadzony na wszystkim jak leci, a jedynie na rozmowach w usłudze “translacji” (Skype umożliwia “transparentne” i automatyczne tłumaczenie tego co mówimy na język naszego rozmówcy). Zadaniem pracowników była weryfikacja, czy automatyczne tłumaczenia są zrozumiałe.

Niby OK, nie? A jednak cały proces jest pewnym zagrożeniem dla prywatności, bo nagrania, które miały być analizowane zostały wyniesione przez kilku pracowników-poprawiaczy-AI i udostępnione prasie — i to mimo podpisania przez nich NDA w trakcie przyjmowania posady, że nikomu nie zdradzą dla kogo pracują i co robią. A w wyniesionych nagraniach wrażliwych rozmów, np. między skajpowymi kochankami, było bez liku.

Grałem w grę — co robić, jak żyć?

Jeśli jesteś graczem Xboksa albo posiadaczem jakiejkolwiek innej słuchającej usługi Microsoftu (np. Skype). Możesz przejrzeć swoje “nagrania” i skasować je pod tym adresem. Nie ma jednak pewności, że znajdą się tam wszystkie z próbek naszego głosu, do których pracownicy Microsoftu mieli dostęp.

Na koniec zaznaczmy, ze Microsoft, podobnie jak Apple i Google, przyłapane na podobnym podsłuchiwaniu obiecało doprecyzować swoje polityki bezpieczeństwa, aby jaśniej dać użytkownikom znać, że “pomoc w ulepszaniu usługi” może oznaczać, że ktoś będzie słuchał tego jak opowiadamy innym o “robieniu łaski”.

PS. O tym, że duże firmy zatrudniają ludzi do “nasłuchiwania” swoich klientów pisaliśmy już 4 lata temu, kiedy pierwszy z tego typu pracowników się “wygadał”.

Przeczytaj także:

30 komentarzy

Dodaj komentarz
  1. … pod warunkiem że do XBOX’a jest podłączony jakiś mikrofon :-D

    • Albo głośnik.

    • @gosc Pokazowy przykład ignorancji.

    • John Sharkrat 2019.08.28 18:11 | # |

      @gosc Pokazowy przykład ignorancji.

      A dlaczego? Głośnik dynamiczny może robić za mikrofon.

    • no ale po podłączaniu go do gniazda mic chyba co?

    • @sdcsdc ktoś tu chyba nie wie, że większość zintegrowanych kart ma dziury które można przekonfigurowywać

    • Zgaduję że na “wszelki wypadek”, żeby właśnie mogli słuchać, dali gdzieś dodatkowy mikrofon wlutowany na płytce i że ma własne wejście – włożenie wtyczki jack do gniazda mikrofonowego go nie wyłącza. Numer z wykorzystaniem głośnika dynamicznego jako mikrofonu też jest dobrze znany i używany odkąd karty dźwiękowe mają uniwersalne porty audio – mogące robić za wejście i wyjście. Co to byłby za pożytek dla M$/NSA jakby można było słuchać tylko jak jest podłączony zewnętrzny mikrofon?

  2. I na czym grać?
    Xbox – podsłuchują
    PS4 – cenzura gier i propaganda LGBT
    Switch – maszynka na porty z innych konsol w mniejszej rozdzielczości, dodatkowo specjalnie napsuli z kablami do ładowania i powerbankami, by trzymać monopol
    Windows – niby można konfigurować na antyszpiegowanie, ale może się wszystko popsuć po aktualizacji
    Linux – niby Wine i Proton, ale i tak słaba optymalizacja
    Stadia – brak jakiejkolwiek kontroli przez użytkownika
    Na cymbałkach – nie umiem na cymbałkach :(

    • Nie ma zmiłuj, bierz się za cymbałki.

    • Odkurzyć Spectruma, Atari, albo Commodore’a. Ewentualnie Amigę. Te nie szpiegują.

    • Grać na czym chcesz, tylko komunikację samodzielnie szyfrować end-to-end, samodzielnie, czyli nie wierzyć w zapewnienia w stylu “my za Ciebie zaszyfrujemy, tylko jak będziesz o seksie rozmawiać to rozmowy przypadkowo wyciekną”. Na razie różne zapewnienia firm o tym, jak to nikt, nawet żaden pracownik nie ma do nich dostępu okazują się delikatnie mówiąc na wyrost.

    • Jeżeli rozważamy to tylko z perspektywy bezpieczeństwa to Linux wydaje się najlepszym wyborem. Sam proces instalacji uległ takiemu uproszczeniu, że każdy gracz przesiadający się z Windy, jest w stanie to zrobić bez potrzeby nauki jakiegoś skomplikowanego procesu.

      Zostaje jeszcze kwestia laptopów z dedykowanym GPU; i tak jak wspominałeś kiepska optymalizacji gier. Na te problemy jest bardzo proste rozwiązanie – upgrade sprzętu.

    • Linux na taki problem, że większość DRMow i Punkbasterow (szczególnie dla gier online) zaczyna się czepiać i można bardzo łatwo zarobić bana na Steam lub innych platformach (typu Battle.net od Blizzard). Pozostaje GOG ;)

    • W jaki sposób PS4 propaguje LGBT? Pytam serio, bo nie słyszałem nic.

    • Bana na Steam? Za granie na Linuksie?… Znasz jakikolwiek przypadek takiego zdarzenia?

    • osobiscie zasuwam na klawikordzie:) czad!

    • Nie chcę elaboratu pisać, ale troche pomęczyłem ten temat i jeśli ktoś na poważnie myśli o migracji, ale wstrzymuje się przez gry, to dużo się zmieniło ostatnio i na linuxach da się grać (dzięki bogowie wirtualnych przestworzy za dxvk, vkd3d!). Polecam spradzić lutris.
      Dobrze zauważyła Paulina, że trzeba mieć na uwadze DRM (m.in. apex legends wywala po kilku minutach przez drm EAC) i trzeba mieć na uwadze (jeśli mowa o grach online), że jedna aktualizacja gry może coś zkiepścić i gra nie odpali, ale to kwestia godzin/dni kiedy ktoś wpadnie na to o co chodzi.
      Osobiście nie miałem kłopotów i jeśli gra się włączała to wszystko działało dobrze (steam/lutris/gog). Dobrze mieć w miarę swieżą grafikę szczególnie w przypadku amd, bo stare sterowniki to porażka nowe wolne dobrze radzą sobie z vulkanem. W przypadku nvidii to można na starszch sprzętach, ale bloby wymagane. Temat dla ludzi, którzy są cierpliwi albo lubią podłubać.

  3. ….na nerwach polecam ;-)

    • Też może się skończyć head-shotem :D

  4. Teraz najlepiej, to w warcaby albo w haker grac.

  5. zawsze można na bębenku – jest prostszy od cymbałek :)
    A poważniej – a kto każe używać skype’a – zamiast tego corpo-rozwiązania, można zawsze użyć jakiegoś open-source’a albo nawet takiego teamspeak’a . Póki co , zawsze mozesz postawić serwer na swoim dedyku, ograniczyć (przyciąć) ruch wedle życzeń na własnym FW – tylko do/od wyznaczonych klientów, szyfrowanie transmisji tez posiada więc powinno być w miarę bezpiecznie :)
    Co do grania – trzeba się dobrze pochylić nad Winzgrozą i to wielopoziomowo (bo od poziomu routera na wejściu , poprzez różne rozw. systemowe i aplikacyjne na samym hoście ) no i kontrolując zachowywanie się tego wszystkiego można chyba w miarę spokojnie żyć …. Oczywiście linux lepszy (w sensie kontroli i możliwości konfiguracji) no ale wiele gier przez wine’a jest odpalić ciężko …
    Ogólną zasadą (dobrą) jest posiadanie osobnego sprzętu (kompa) do gier i osobnego do pracy . W razie nawet odkrycia jakiejś 0-day’owej wpadki (ew. Wielkiej S/Wtopy) nie ryzykujemy tym co najważniejsze .

    • Ja też uważam, że najlepsza jednak opcja to osobny pecet do grania.

    • Polecenie TeamSpeaka zamiast Skype, bo się narzeka na korporacje… Jak już to Mumble albo Riot i własny Matrix ;)

    • A mumble w wersji 1.3 jest bardzo ładny, użyteczny i duzo lzejszy niz wszystko inne ;)
      Nie trzeba wyrzeczeń żeby sobie pograć z kumplami.

  6. Ex boner czy sexbox?

  7. Ucho od śledzia, Kwinto, Ucho od Śledzia.

  8. Polecenie TeamSpeaka zamiast Skype, bo się narzeka na korporacje… Jak już to Mumble albo Riot i własny Matrix ;)

    • Chyba coś grzebią przy Matrix-ie bo mam dejavu

  9. “Zadaniem pracowników była weryfikacja, czy automatyczne tłumaczenia są zrozumiałe.

    Niby OK, nie?..”

    NIE!! cholernie daleko od okej! Czy przed zdarzeniem była podana informacja, że mirek z januszem bedą podsłuchiwani?? tak aby świadomie mogli podjąć decyzje czy wchodzić w to czy nie? nie bylo, wiec NIE jest okej i nigdy nie będzie. Pozdro

Odpowiadasz na komentarz Paulina Stopa

Kliknij tu, aby anulować

Zamieszczając komentarz akceptujesz regulamin dodawania komentarzy. Przez moderację nie przejdą: wycieczki osobiste, komentarze nie na temat, wulgaryzmy.

RSS dla komentarzy: