Podľa rodiča, ktorý zverejnil snímky histórie Alexovej aktivity, hlasový asistent Amazon, keď ho dieťa požiadalo, aby ponúklo výzvu, uviedol príklad smrtiaceho experimentu s elektrinou, pričom jeho popis vytrhol z kontextu náhodného článku. Rubrika Echo hovorila o experimente obľúbenom medzi fanúšikmi TikTok s použitím mince a nabíjačky pre smartfón – o početných incidentoch, zraneniach a požiaroch po jeho realizácii informovali rôzne médiá viackrát. Nápad na túto výzvu zariadenie zrejme získalo z článku, ktorý ho opísal ako nebezpečný, pričom citoval správu o údajnej existujúcej výzve TikTok.
Podľa snímky obrazovky, ktorú urobila Christine Livdahlová, keď bola Echo požiadaná, aby mi „ukázala úlohu“, odpovedala: „Tu je niečo, čo som našla online.“ Podľa ourcommunitynow.com je úloha jednoduchá: „zasuňte nabíjačku telefónu asi do polovice do zásuvky a potom sa holé kolíky dotknite centom.“
Vo vyhlásení pre BBC Amazon potvrdil správanie Alexy slovami: "Akonáhle sme sa dozvedeli o tejto chybe, okamžite sme podnikli kroky na jej opravu." Livdahl včera tweetovala, že žiadosť o výzvu už nefunguje. Používatelia na webe tiež testovali požiadavku s Alexou a dostali podobný výsledok.
OMFG Moje 10-ročné dieťa práve požiadalo Alexu na našej Echo o výzvu a toto povedala. obr.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) Decembra 26, 2021
Amazon nie je jedinou spoločnosťou, ktorá sa stretla s problémami pri analýze webového obsahu. V októbri používateľ nahlásil, že spoločnosť Google zobrazuje v jednom zo svojich úryvkov potenciálne nebezpečnú radu, ak ste do Googlu zadali „máte záchvat, čo robiť“ – informácie boli prevzaté z časti webovej stránky popisujúcej, čo nie robiť, ak má niekto záchvat. Používatelia však nahlásili ďalšie podobné problémy, vrátane jedného používateľa, ktorý oznámil, že Google vracia výsledky pre ortostatickú hypotenziu pri vyhľadávaní ortostatickej hypertenzie, a ďalší zverejnil snímku obrazovky Google, na ktorej sú hrozné rady na upokojenie smútiaceho človeka v zmysle „Som rád, že „Som v poriadku“ alebo „Nebuď smutný! Raduj sa!".
Súhrn vyhľadávania Google vs. skutočná stránka obr.twitter.com/OJxt1FrBqh
— soft.linden (｡•̀ᴗ-)✧ (@soft) Októbra 16, 2021
Videli sme tiež, že varovania pred nebezpečným správaním sa zintenzívnili, aby sa problém stal väčším, než bol – začiatkom tohto mesiaca boli niektoré školské obvody v USA uzavreté po správach o hrozbách streľbou na TikTok. Ukázalo sa, že spoločenskú búrku spôsobilo najmä to, že ľudia hovorili o hrozbách oveľa viac ako o hrozbách, ktoré v skutočnosti existovali. V prípade Alexa algoritmus vybral popisnú časť varovania a zosilnil ju bez pôvodného kontextu. Hoci rodičia mali okamžite zasiahnuť, je ľahké si predstaviť situáciu, že to tak nie je, a dôsledky.
Livdahl na Twitteri uviedla, že využila príležitosť „diskutovať o bezpečnosti na internete so svojím dieťaťom a neveriť tomu, čo čítate bez prieskumu a overenia“, čo vám odporúčame urobiť tiež.
Prečítajte si tiež: