21:18
14/3/2015

Dziś praktycznie wszystko jest podpięte do internetu — zabawki dla dzieci też. Poznajcie lakę Barbie, która oprócz ładnej fryzury i wpędzającej dzieci w kompleksy supersylwetki została wyposażona w mikrofon, interfejs Wi-Fi oraz …połączenie z chmurą. Zgadnijcie, dlaczego?

Barbie w wersji Hello. Słucha, śle do chmury, ripostuje i donosi na dzieciaka

Barbie w wersji Hello. Słucha, śle do chmury, ripostuje i donosi na dzieciaka

Po co lalce Wi-Fi i mikrofon?

Najnowszy model lalki Barbie, który właśnie pokazano na targach zabawek i który ma trafić na półki przed świętami, łamie stereotyp lalki jako głupiej zabawki. Barbi jest już inteligentna. Nie tylko można ją podłączyć do internetu, ale także za sprawą wbudowanej w lalkę funkcji rozpoznawania mowy, Barbie jest w stanie dobrać pasujący do sytuacji żart lub rzucić ciętą ripostą.

Proces rozpoznawania mowy wygląda tak:

  • dziecko naciska klamrę na pasku Barbie i lalka zadaje mu pytanie oraz nagrywa jego odpowiedź.
  • słowa dziecka są wysyłane do serwerów producenta, gdzie następuje proces rozpoznawania mowy. Jeśli liczyliście na to, iż głos dziecka nie jest szyfrowany w transporcie do chmury, to musimy Was rozczarować — Barbie jest inteligentniejsza od telewizorów Samsunga (por. Uważaj na to co mówisz w salonie przed telewizorem).
  • po analizie słów dziecka, do Barbie wraca komenda wskazująca którą z przechowywanych w pamięci lalki odpowiedzi odtworzyć, aby zgodnie z kontekstem kontynuować rozmowę.

Całość brzmi niewinnie, ale… dobrze wiemy jakie ryzyka niesie za sobą rozpoznawanie mowy w chmurze — por. Wszystko co mówisz do telefonu jest nagrywane i ten gość tego słucha całymi dniami.

Szpiegolalka Barbie

Pierwszy zarzut, jaki Mattelowi (producentowi lalki) stawiają obrońcy prywatności dotyczy możliwości szpiegowania dzieci przez rodziców. Otóż Barbie udostępnia rodzicom możliwość monitorowania tego, o czym z lalką rozmawiają ich dzieci. Barbie można skonfigurować tak, aby regularne wysyłała raporty podsumowujące rozmowy z dzieckiem wprost na skrzynkę e-mail rodziców.

Obrońcy prywatności zauważają też, że nagrania tego o czym z lalką rozmawiają dzieci, zgodnie z polityką prywatności Barbie, są na stałe przechowywane w chmurze w celu “udoskonalenia mechanizmu rozpoznawania mowy”. Niektórzy podejrzewają jednak, że poza doszlifowywaniem algorytmów antysepleniowych, producent może czerpać cenną wiedzę z rozmów Barbie z dziećmi. W końcu, przebywając sam na sam z Barbie, dzieci nie mają świadomości że ktoś jeszcze może je słyszeć i często dzielą się z Barbie swoimi sekretami, traktując lalkę jako zaufaną przyjaciółkę.

Problem jest tym większy, że Barbula-szpiegula zadaje dość interesujące (zwłaszcza pod kątem marketingu) pytania. Chce m.in. wiedzieć czym interesuje się dziecko i jego rodzina, jakie są ich lubione miejsca, potrawy, zajęcia itp. Obrońcy prywatności boją się więc, że pozyskanie tego typu danych przez producenta może służyć do nieetycznego marketingu nie tylko swoich produktów ale i usług powiązanych firm.

Czarny scenariusz wyobrażamy sobie tak: brzdąc żali się Barbie, że mama zarysowała samochód w drodze do przedszkola, a chwilę później tata dostaje SMS-a od warsztatu samochodowego z rabatem 5% na usługi lakiernicze.
Inny model lalki Barbie

Inny model lalki Barbie

Producent lalki oczywiście odpiera zarzuty i wskazuje, że do rozpoznawania mowy wykorzystuje technologię zewnętrznego podmiotu — startupu ToyTalk. Ten z kolei przysięga, że nikomu nie udostępnia zbieranych przez siebie danych. Ale po wielokrotnych wpadkach różnych chmur, wiemy, że czasem pomimo dobrych intencji ich właścicieli, dane mimo wszystko wyciekają… (por. Wyciek nagich zdjęć 101 modelek i aktorek).

Przyszłość inteligentnych zabawek

Czyżby do przekazywanej swoim dzieciom rady “nie rozmawiaj z obcymi” rodzice będą teraz musieli dorzucać “i nie mów Barbi, gdzie pracujemy, ile zarabiamy oraz czym się interesujemy“? Dobrze, że w sprzedaży wciąż jeszcze są nieinteligentne zabawki:

Kto misiowi pomieszał kabelki?

Kto misiowi pomieszał kabelki?

Swoją drogą, to ciekawe czy niebawem usłyszymy o tym, że ktoś włamał się na podłączoną do internetu lalkę Barbie i albo zdalnie aktywował jej mikrofon w celu podsłuchu dziecka albo złośliwie opowiedział dziecku zbereźny żart. A ponieważ firmware Barbie producent może zdalnie aktualizować, to nie wykluczone że procedura jest podatna na atak MITM. To zaś stwarza ryzyko, że ktoś kiedyś wypchnie do lalek update, który podmieni słodki głos Barbie na growlującego diabła


Przeczytaj także:



51 komentarzy

Dodaj komentarz
  1. Czekam, aż rozpoznawanie głosu w chmurze będzie zaimplementowane w kiblach tak, że będą one odróżniać komendę głosową “długo spuść wodę” od hałasu związanego z użytkowaniem… ;)

    • Inteligentne toalety już są. Ale uważałbym z używaniem, bo: https://niebezpiecznik.pl/post/hackowanie-automatycznych-sedesow/

    • @Piotr Konieczny
      Dobry art. Toaleta widzę powoli przestaje być ustronnym miejscem. Aż strach iść piechotą… ;)

    • Jest jeszcze jedna możliwość, pedofil, złodziej, włamywacz, służby bezpieczeństwa, lub sprzedawca, hurtownik itd. podmienia firmware lalki , nawiązują z dzieckiem kontakt, więź i w ramach zabawy każe wykonywać różne czynności . Taka zdalna pluskwa- dodać tylko kamerę do lalki :)

    • @oli
      I na koniec mogą dziewczynkę zabrać do psychiatryka, jak będzie zeznawać, że słyszy różne ludzkie głosy z lalki, które ją pchają do złego… ;)

      /Żarty żartami, ale to straszne jest…/

  2. I teraz producenci zabawek będą zatrudniać hackerów. Hakerzy Cindy shackują odpowiedzi Barbie na takie, żeby dziecko przestało lubić barbie i zaczęło lubić Cindy…. oraz żeby zagłosowało na PSL ;0 :) itd…

    • * zagłosowało jak już będzie miało prawa wyborcze (pamiętając, że czym skorupka za młodu nasiąknie…) albo przekonując rodziców

    • “Barbie to dzi*ka!”

      Podpisane: Canaris.

  3. Czarny scenariusz, to “barbie” wzywająca służby, które zabierają rodzicom dziecko. Bo powiedziało coś, co można zinterpretować jako np. “biedę” http://www.gazetaprawna.pl/artykuly/768455,w-polsce-z-powodu-biedy-zabieraja-dzieci-rodzicom.html

    • Podejrzewam, że Mattel jednak zadbał, żeby biedni nie mieli tej lalki ;)

    • @Incognito, po pierwsze definicja “biednego” przez urzędników jest bardzo pojemna. Po drugie wystarczy, że “ciotka z Ameryki” kupi bratanicy/siostrzenicy lalkę …

  4. Zawsze mozna wymontowac mikrofon xd

    • Kupić inteligentną lalkę, wydając na to $$$ by potem wydłubać scyzorykiem całą inteligencję. Świetny plan :D Dziecko też będzie mega zadowolone, że lalka koleżanki rozmawia, a jej jest głucha ;< Dobry grunt do nauki tolerancji?

    • @wikrap1: tolerancja to zachowanie wbrew naturze, DLATEGO NIE ISTNIEJE pomimo wieloletnich starań wielu grup z różnych warstw społecznych. Możecie sobie zmieniać prawo jak chcecie, zmuszać ludzi do nienaturalnych zachowań (np. tolerancja LGBT wśród społeczeństwa), ograniczać swobodę wypowiedzi (polityczna poprawność), narzucać idee mniejszościowe większości, ale natura się sama obroni, o to się nie martwię. Wystarczy poczekać :)
      A druga sprawa, co jest nietolerancyjnego w tym, że jedna lalka gada a inna nie? Polityczna poprawność AŻ tak padła ci na mózg? Pokolenie pierdolonych ofiar – wyhodujcie sobie w końcu jaja i przestańcie tchórzliwie chować za kotarą chorej wrażliwości. Jeszcze kilka lat i mężczyzn już nie będzie – będą kobiety, męskie kobiety i cipy-kiedyś-zwani-mężczyznami.

  5. Lata płyną, ja nadal czekam na Teddy’ego:

    https://www.youtube.com/watch?v=RDgecjYaCCA

  6. Nie rozumiem w czym problem, jak ludzie chcą być szpiegowani i swoje ciężko zarobione pieniądze wydają na urządzenia które ich szpiegują to ich sprawa. Dla mnie to debilizm ale może ktoś inny myśli inaczej. Inaczej jak byłby przymus i prawo by zmuszało do instalacji szpiega w swoim domu, ciekawe tylko ile osób by się wtedy postawiło a coś czuję że niewiele.

    • Problem polega na tym, że ludzie zaczynają przyzwyczajać się do wszechobecnego szpiegowania, powoli, małymi krokami -> patrz smartphony

    • Możesz nie mieć po prostu wyboru. Wolnorynkowe kuce namawiają do głosowania portfelem, ale głosowanie, jak to w demokracji, odbywa się z zamkniętego kręgu podstawionych marionetek. I tak od wielu lat nie można znaleźć PDA nieskoordynowanego z siecią szpiegowską (łączność tylko kablowa), a dodatkowo poskutkowało to spadkiem żywotności baterii (nieszpiegujące PDA trzymały od tygodnia do miesiąca). Więc ludzie będą chcieli, ponieważ nie będą mieli możliwości niechcenia.

    • Problem w tym, że wirusy czy szpiegi komputerowe są jak wirusy biologiczne czyli zagrazają nie tylko nosicielowi ale i wszystkim z kim maja kontakt.
      Jeżeli mała Kasia pójdzie do parku z tą lalką pobawić sie z koleżankami to ona nagrywa nie tylko ją ale i wszytko w jej pobliżu w tym również i Ciebie jesli kurat poszedles na spacer z dziewczyną w tą okolicę.
      Rozumiem że nie masz nic przeciwko nagrywaniu Waszych prywatnych rozmów?

  7. Hmhmmm… Jest na to openwrt?:)

  8. Bardzo dobry artykuł – “Chłopcy nie bawią się Lalkami …” :-D. A Feministki co na to ?

    • A feministki niech wypieprzają na swoje własne podwórko ludzi męczyć swoimi bzdurami.

  9. Hurr durr zmuszajo podłączania wszystkiego do internetuff. Klienci tacy biedni i niechco kupować a im wciskajo.
    Pogadamy gdy ta lalka będzie faktycznie jakimś rynkowym hitem a nie jedynie niszową ciekawostką.

  10. Kolejny biznes to magazynowanie danych dla CIA, której braknie możliwości własnej, a apetyt szpiegów (Google fb itd) na kasę za przechowywanie i późniejsze udostępnianie – zrodzi nową branżę. Oczywiście nie chodzi tu o leszczy sprzedających powierzchnię dyskową…

  11. Taka technologia niekiedy się przydaje. Było kiedyś w TVN Uwaga jak jeden sprytny rodzic nafaszerował pluszowego misia elektroniką podsłuchową a potem dziecko z misiem zostawił w żłobku. W ten sposób wyszły na jaw różnie nieprawidłowości w tej placówce!

    • czerpiesz informacje z programów rozrywkowych? Gratuluję źródła informacji!

    • Informacje można (a MSZ nawet należy) czerpać ze wszystkich możliwych źródeł. Nawet rozrywkowych. Gdyby ten temat był opublikowany w kwartalniku “Problemy edukacji przedszkolnej i żłobkowej” wydawanym w 50 egzemplarzach to rozumiem byłoby dobre źródło? Ale ta sama informacja w zależności od miejsca publikacji zyskuje/traci?

    • @Romek
      chodzi o wiarygodność

  12. Ta afera to zwykły marketing :-) Jak można posądzać rodzica o naruszanie prywatności dziecka ?? bez jaj

    • Można. Dziecko ma konstytucyjne prawo do tajemnicy korespondencji, to ma i prawo do tajemnicy swoich rozmów z lalką. Problem w tym że leniwi rodzice, którym nie chce się rozmawiać z dzieckiem i tworzyć taką relację żeby samo chciało się dzielić ważnymi dla niego sprawami – leniwi rodzice wolą szpiegować. I wierzą, że dziecko nie ma żadnego prawa do prywatności, a z zaufaniem i szczerą komunikacją to jakaś ściema, bo przecież podstawą jest kontrolowanie i szpiegowanie. Żenada.

    • W przypadku dziecka szpiegowanie i kontrolowanie są tożsame i wymienne. I nie, dziecko (dziecko, nie nastolatek) nie ma prawa do prywatności korespondencji; dziecko ma się słuchać rodziców, obojętnie co ci rodzice sobie wymyślą. Wiesz dlaczego? Bo jest dzieckiem!

  13. Pierwszy zarzut, jaki Mattelowi (producentowi lalki) stawiają obrońcy prywatności dotyczy możliwości szpiegowania dzieci przez rodziców. Otóż Barbie udostępnia rodzicom możliwość monitorowania tego, o czym z lalką rozmawiają ich dzieci. Barbie można skonfigurować tak, aby regularne wysyłała raporty podsumowujące rozmowy z dzieckiem wprost na skrzynkę e-mail rodziców.

    to już nawet tego rodzicom nie wolno? poza tym takie coś mogłoby uratowac dziecko po porwaniu.

    • podam przykład, dziecko żali się lalce, że ojciec go bije, ojciec to dostaje to w raporcie i bije dziecko, że źle mówi o nim

    • “podam przykład, dziecko żali się lalce, że ojciec go bije, ojciec to dostaje to w raporcie i bije dziecko, że źle mówi o nim”

      to ja podam kolejny podobny:

      … dziecko żali się lalce, że ojciec go bije, ojciec dostaje … wizytę opieki społecznej i policji a dziecko postarzyło się lalce że dostało w dupę za jakieś przewinienie.

  14. Świetne z tym misiem z pomyloną rączką i nóżką :)

  15. polecam opowiadanie “I Always Do What Teddy Says” z 1965 Harrego Harrisona
    (pl : Zawsze słucham misia)…

    • W ogóle polecam powieści Harrisona, zwłaszcza o Stalowym Szczurze, rzecz jasna.

  16. Wszystko fajnie, zgadzam się. Tylko ci obrońcy niech się wezmą za rządy, które nie są własnością obywateli, a które podsłuchują swoich obywateli.
    Dziecko jest własnością (powiedzmy) rodziców i to oni odpowiadają za swoje dziecko (wg rządu za wszystko) i jeśli rodzic ma taką psychozę (której nie pochwalam), ma prawo do tego by w ten sposób kontrolować dziecko.
    Wg mnie jest to następny etap po tym jak rodzice zaczęli kupować swoim pociechom komórki. Też jest stały nadzór na dzieckiem.

    • Dziecko NIE jest własnością rodziców, tylko są oni jego opiekunami. Dziecko ma KONSTYTUCYJNE prawo do tajemnicy korespondencji, więc dlaczego nie do tajemnicy rozmów z lalką?

    • O, witamy feminę. Nie jest ci głupio?

      Dziecko JEST własnością rodzica, to oni je wyprodukowali i to oni są za to dziecko odpowiedzialni, nie ty, moi znajomi, twoi znajomi czy rząd kukiełek. Opiekunem mogę być psa, którego wezmę ze schroniska. I nie ma znaczenia co nasz kochany i opiekuńczy rząd ma w tej materii do powiedzenia, ich prawa to nie moje prawa.

    • Z całą pewnością się mylisz. To znaczy ty uważasz, że dziecko jest własnością rodzica, ale to że tak uważasz nie czyni tego prawdą. To, co jest czyją własnością, to kwestia prawa, a prawo w naszym kraju jest takie, że jeden człowiek nie może być własnością innego człowieka, niezależnie od tego czy jest dorosły czy nie, i niezależnie od tego czy to jest w dobrej wierze czy nie. Wyobraź sobie, że twoja opinia jest tylko opinią, i w związku z tym jest zupełnie nieistotna w kontekście tego “jak jest”.
      W Polsce zwierzę może być czyjąś własnością, choć nie jest rzeczą, ale człowiek własnością być nie może. W tym dziecko, ponieważ dziecko jest człowiekiem, chociaż jeszcze nie na tyle rozgarniętym, by w pełni o sobie decydować. Jego RODZICE LUB OPIEKUNOWIE PRAWNI podejmują decyzje, i powinni je podejmować w interesie dziecka, a nie “bo dziecko jest ich własnością i mogą z nią robić co zechcą”. Twoja niechęć do słowa “opiekun” nie ma żadnego znaczenia wobec faktu, że tak właśnie jest. Nie chodzi o to, czy jestem feministką czy nie (gdyby nie feministki, nie miałabym nawet prawa do edukacji, więc oczywiście że jestem) tylko o to, że opinie takich jak ty są nieistotne w porównaniu z prawem. Twoja opinia nie stanowi prawa.

  17. eee tam lalki, telewizory, smartfony, smartwatche, tablety, komputery, portale społecznościowe, wyszukiwarki, dostawcy internetu, karty bankomatowe, bramki sklepowe, kelnerzy, pralki, żelazka, liczniki prądu, kamery uliczne, drony, satelity szpiegują… Jak to mówią, jak nie ma co do ukrycia, to nie ma się co bać. To co, że ktoś wie wszystko o Tobie, gromadzi dane co robisz, z kim przebywasz, co się Ci podoba i jakie preferencje seksualne masz. Przecież nie robi tego niezgodnie z prawem czy licencją, bo tam wszystko jest zapisane…

  18. @Adam to jest właśnie zagrożenie z strony technologi.
    Bardziej realne to nakłonienie właściciela lalki do np. pokazania karty kredytowej rodziców.
    Dalej prośba o umieszczenie lalki np. w sypialni rodziców albo w łazience – materiał filmowy jak znalazł do szantażowania.

  19. Hi, I’m Chucky. Wanna play?

  20. A czy przypadkiem tytul nie jest bledny ? To nie lalka bawi sie z dzieckiem tylko dziecko bawi sie/z lalka

  21. Hmm, a to jest kwestia tylko podsłuchu? Na obrazku napisano, że tam jest “camera lens”, a nie microphone.

  22. … Nie chcę mieć dzieci żeby potem nie mieć problemów z aparatem władzy ludowej :D

  23. To cię rozczaruję, dziecko nie ma żadnych praw – skrobanka jest tego przykładem.

  24. Ciekawe czy NSA już wprowadziło zakaz wnoszenia do budynku, podobnie jak kiedyś zabawek Furby?

  25. 1. Bardzo dobrze, że ta lalka ma mikrofon i kamerę. Naturalne lalki Barbie, te z agencji towarzyskich, zawsze coś przekręcą jak wysyłają do Chmury (inspektora albo aspiranta :)

    2. Barbie to dopiero początek. Za chwilę na bazarach pojawią się setki różnych zabawek posiadających taką samą funkcjonalność i jest tylko kwestią czasu, kiedy jedna z nich przemówi “Cześć jestem Wojtek i mam 12 lat”. Przy szyfrowaniu transmisji między lalką a pedofilską chmurą nie trzeba TORa, a różne drogie algorytmy do analiz można będzie sobie wsadzić w … kieszeń. Jak widać pedofile brylują w nowych technologiach i mogą kpić z “kontroli” internetu, która jest dla tych, co narzekają na władzę.

  26. Mam wrażenie, że część diagnoz schizofrenii jest błędna. Ci ludzie słyszący głosy z lalek czy telewizorów mogli mieć rację. Niedługo 50% społeczeństwa będzie chora.

Twój komentarz

Zamieszczając komentarz akceptujesz regulamin dodawania komentarzy. Przez moderację nie przejdą: wycieczki osobiste, komentarze nie na temat, wulgaryzmy.

RSS dla komentarzy: