ТехнологииИсточник29 дек.

Колонка из Amazon Alexa предложила ребенку опасный челлендж

По словам одного из родителей, разместившего скриншоты истории активности Alexa, голосовой помощник от Amazon по просьбе ребенка предложить какой-то челлендж привел пример смертельно опасного эксперимента с электричеством, вырвав его описание из контекста произвольной статьи. Колонка Echo рассказала о популярном среди фанатов TikTok эксперименте с применением монетки и зарядного устройства для смартфона — о многочисленных инцидентах, травмах и пожарах после его исполнения уже не раз сообщали различные СМИ. Очевидно, устройство почерпнуло идею этой задачи из статьи, в которой оно описывалось как опасное, со ссылкой на сообщение о якобы существующей задаче TikTok.

nk_hauz/9Drz1707g.jpeg

Согласно скриншоту, сделанному Кристином Ливдалом, на просьбу «подсказать мне задание» Echo ответила: «Вот кое-что, что я нашла в Интернете». По данным сайта ourcommunitynow.com: задача проста: «вставьте зарядное устройство для телефона примерно наполовину в розетку, а затем коснитесь копейкой в ​​обнаженные штырьки».

В заявлении для BBC компания Amazon подтвердила поведение Alexa, сказав: «Как только нам стало известно об этой ошибке, мы приняли оперативные меры по ее устранению». Вчера Ливдал написала в Твиттере, что запрос на вызов больше не работает. Пользователи в сети также тестировали запрос с помощью Alexa и получили аналогичный результат.

Amazon – не единственная компания, столкнувшаяся с проблемами при анализе веб-контента. В октябре один из пользователей сообщил, что Google отображает потенциально опасные советы в одном из своих фрагментов, если вы набираете в Гугли «у вас произошло нападение, что делать» – информация взята из раздела веб-страницы, описывающей, что не следует делать если у кого случился приступ. Однако пользователи сообщали и о других подобных проблемах, в том числе один пользователь сообщил, что Google выдает результаты из ортостатической гипотензии при поиске ортостатической гипертензии, а другой разместил скриншот, на котором Google показывает ужасные советы по поводу утешения скорбящего человека на кшалт «Радуй, что с вами все хорошо» или «Не грусти! Взбодрись! ».

Мы также видели, как предупреждения об опасном поведении усугубляются, чтобы сделать проблему больше, чем она была сначала – в начале этого месяца некоторые школьные округа США были закрыты после сообщений об угрозах стрельбы в TikTok. Оказалось, что социальный шторм был вызван в основном тем, что люди говорили об угрозах гораздо больше, чем о действительно существующих угрозах. В случае с Alexa, алгоритм выбрал описательную часть предупреждения и усилил ее без исходного контекста. Хотя родители были рядом, чтобы немедленно вмешаться, легко представить себе ситуацию, когда это не так и ее последствия.

Ливдал написала в Твиттере, что она использовала эту возможность, чтобы обсудить со своим ребенком тему интернет-безопасности и не доверять тому, что вы читаете без исследования и проверки, что предлагаем сделать и вам.

💬 Последние комментарии
Елена
Не ко мне претензии,к Роджеру,он сказал что это есть прогресс цивилизации,я всегда была за социально-ориентированное государство, всегда,в отличие от этого козла козлоослика,хе,при царях видите ли хорошо жилось,от он уже ,кому то то да, хорошо,а большинство куево жили.
это Джо посчитает агрессией
а пересечение Россией границ КНДР и закрепление там со всеми вытекающими
е
а СВОИ позы можешь не перечислять - не интересно...НИКОМУ, кроме тех морячков под мостами...
е
шо, сопля..жареным запахло? сразу в отказ, тварь? держи ОТВЕТ за СВОИ слова и утверждения! БРЕХАТЬ тебе не дадут!
Антиелена
Слышь, "майданутая рАгуля", а ты можешь АРГУМЕНТИРОВАННО рассказать почему амэрика первая? Ну так, может что-то новое узнаю кроме списка... (какого списка - хз)
Луна -2
А кто их защищает -Не я же, не Антиелена ,не Роджер , не Е. в конце -то концов?Кто пишет здесь -чтоПорошенко умный, а Коломойский - гениальный- кто? как не ты?Кто защищает нынешнюю власть подлецов и майданутых - кто?КАК НЕ ТЫ? кто защищает Америку - которая дала этим селюкам - рагулям власть - Кто как не ты ? И ты пишешь здесь что ты не виновата -ты виновата в том , что защищаешь этих воров в законе .
А.П.Сушкин
Ехал Рузвельт на коне, Вёл индейца на ремне. Ну а негр в это время Драл Елену, всю в говне.