Pro účely této reportáže jsme si pořídili plyšového AI medvídka, který je napojený na umělou inteligenci. Zatím komunikuje v cizích jazycích, brzy ale zvládne i češtinu. Prodávat by se tak měl i na českém trhu. Hračka reaguje na hlas dítěte a umí například vymýšlet pohádky na přání. Umí ale také další věci, ze kterých by rodiče nadšení určitě nebyli.
„Je napojena na umělou inteligenci. To znamená, že s vámi umí komunikovat, vyprávět vám příběhy, povídat si,“ uvedl expert na kyberbezpečnost Miloslav Lujka. „Musí mít přístup k internetu – ať už přes wifi, nebo telefon. Má v sobě také mikrofon, aby vás mohla poslouchat. Ty hračky mívají, podobně jako třeba robotické vysavače, kamerku, aby dokázaly reagovat na předměty okolo nebo na to, jestli se na ně dítě dívá. Takže je to dokonalé špehovací zařízení. (...) Stává se z toho senzace, zaplavuje to čínský trh a v řádu týdnů a měsíců se to dostane k nám,“ dodal.
[chooze:article;value:628981]
Naše hračka sice kameru nemá, ale to ještě neznamená, že je bezpečná. Vyzkoušeli jsme si proto, co všechno se může stát, když takovou hračku – klidně i vypnutou – někdo takzvaně hackne. Expert na kyberbezpečnost si pro tento pokus vzal notebook a odešel do vedlejší místnosti. U stolu zůstal náš reportér s kolegou a jen tak si povídali. Hračka je vypnutá.
Po chvíli nahodilého mluvení je expertovi na kyberbezpečnost jasné, že hračka dokonale přenáší všechen zvukový záznam, a tím pádem všechny informace během konverzace.
„Já se nacházím ve vedlejší místnosti, kde jsme se dostali na dálku do medvídka. Automaticky vidíme, kde se s velkou přesností nacházíme a odposloucháváme živě, co si povídají lidé vedle u medvídka. Mám přístup k tomu, co se živě okolo medvídka děje,“ komentoval dění skrze hacknutou hračku Lujka.
[chooze:article;value:617718]
„Prolomit jde úplně všechno. Záleží jen na tom, kolik času tomu věnujete,“ řekl o kybernetické hrozbě v podobě AI hraček spolumajitel firmy Cyber Rangers Daniel Hejda. „Ono záleží na tom, jakým způsobem a kde je to zařízení provozováno. Ale v té domácnosti se o to lidé moc nestarají a spoléhají se na zabezpečení poskytovatele internetu. (...) Viděl jsem spoustu malých internetových poskytovatelů, kteří dávají do domácností zařízení, která jsou skoro nezabezpečená,“ přiznal.
V naší anketě jsme se zeptali lidí, zda se jim plyšový medvídek na první pohled líbí. Hračka se všem líbila do doby, než jsme řekli, že jde o dokonalý špionážní nástroj. Nejen, že medvídek neustále poslouchá, ale také veškerá data, včetně polohy, neustále posílá na síť.
„Něco takového jsem netušila,“ přiznala po odhalení nebezpečí jedna z dotazovaných. „To by nemělo být, každý má mít to svoje doma,“ řekla nám jiná paní. „Ta umělá inteligence je nebezpečná věc. Na jednu stranu to pomáhá, ale může to být i nebezpečné,“ přiznala další.
Možné zneužití hraček ke špionáži
Přestože výrobce na obalu garantuje stoprocentní zabezpečení hračky, jedná se o pouhý marketingový tah.
„Je to hodnota samolepky, kterou tam vytisknou, a strašně záleží na tom, kam se ta data posílají. Problém není tu věc hacknout, aby nekomunikovala například s ChatemGPT, který je bezpečný. Problém je, aby to nekomunikovalo s jiným modelem, který může generovat například nějaká sprostá slova nebo může být napojený na čínskou společnost Deepseek. Ta je cenzurovaná samozřejmě s pročínskou propagandou. V rámci toho, že dítě má tu hračku v noci u sebe a poslouchá to, tak může narušit i psychiku dětí. To vnímám jako obrovské riziko.
Možná si říkáte, že vaši hračku přece jen tak někdo nehackne. Jenže i bez toho se v ní skrývá zásadní bezpečnostní problém. Veškerá data, která při používání vznikají – ať už jde o to, o čem si s medvídkem povídáte, kde se nachází, nebo v případě hraček s kamerou dokonce i o obraz – odcházejí k jejímu výrobci, v tomto případě do Číny.
[chooze:article;value:623140]
„V Číně platí, že když se vláda rozhodne, že k něčemu bude mít přístup – ať už do datových center, či k datům – tak ta firma jim to poskytne. (...) Po celém světě jsou v domácnostech miliony až miliardy těchto hraček. Ale spíš vnímám to riziko ze strany výrobce a toho, kdo k tomu má přístup. Vy totiž vůbec nevíte, kam ta data tečou,“ uvedl Lujka.
„Lze očekávat, že něco takového může být hrozba,“ potvrdil podobný scénář Hejda.
Vliv AI hraček na psychiku dítěte
Kromě toho mohou mít takové hračky neblahý vliv i na psychiku dítěte. Medvídek je totiž ideální parťák, protože naslouchá a chválí. Jenže v reálném světě to tak obvykle nechodí.
[chooze:article;value:631840]
„Dostupnost kamaráda ve formě třeba toho medvídka, která je neustále k dispozici, je neodmítavá. To je možná něco, co to dítě musí ve vztazích zažít. To dítě se může potkat s odmítnutím a s tím se musí naučit zacházet. Taková hračka může vytvořit absenci, kterou si to dítě ponese do konce života,“ varoval ředitel Psychiatrické léčebny Petrohrad Jakub Sláma.
I přes všechna rizika se stávají AI hračky hitem. Jen v Číně se jich podle odhadů loni prodalo asi sedm milionů. Jestli si zvládnou podmanit i český trh a čínský marketing převálcuje rodičovský selský rozum, uvidíme nejspíš během několika týdnů.
]]>