На YouTube размещается множество видео, предназначенных для широкого круга зрителей, но иногда видео может быть слишком доступным. Анимации для взрослых, такие как «Счастливые лесные друзья» или «Не обними меня, я напуган», могут понравиться детям с их яркими цветами или куклами, похожими на кукол, даже если они не подходят для детей. Но, похоже, что платформа обмена видео может решать жалобы с помощью обновленной версии приложения YouTube Kids, за которой будут следить реальные люди, согласно сообщению BuzzFeed News. Запрос Romper о комментариях от YouTube относительно сообщений об обновлении не был немедленно возвращен.
Идея заключается в том, что это новое приложение будет сосуществовать с YouTube Kids, первоначальной попыткой компании использовать алгоритм фильтрации контента, доступного для детей, сообщает BuzzFeed News. В новостях сообщалось, что это даст родителям возможность отключить алгоритмически предложенные видео. Вместо этого дети не имели бы доступа к любому видео, которое не было просмотрено человеком из плоти и крови. Это имеет смысл; Алгоритмы могут быть хорошими, но это компьютерная программа, и ее можно кодировать только для чтения и пометки для стольких.
Приложение YouTube Kids позволяет блокировать основных пользователей, которые ищут неподходящие видео; поиск любого явного контента не даст никаких результатов. Кроме того, у родителей была возможность полностью удалить кнопку поиска, оставив доступными только предварительно выбранные видео. Но, как сообщает Tech Radar, проблемы, связанные с видео YouTube Kids, предположили, что дети уже давно существуют. Хотя YouTube Kids - достойная попытка отфильтровать вредоносную информацию, были случаи, когда приложение якобы предлагало детям видео заговора, как сообщает Business Insider.
Другие видео включали заявления, что мир плоский, посадка на Луну была сфальсифицирована, и что планета управлялась гибридами рептилий-людей, согласно Business Insider. Но YouTube Kids сталкивался с более серьезными проблемами, чем теории заговора, с момента его создания в 2015 году. Менее чем через два месяца после выпуска приложения, в мае 2015 года, кампания за свободное от торговли детство, коалиция групп защиты прав детей и потребителей, жаловалась Федеральной торговой комиссии (FTC). Их опасения касались содержания, которое группа называла «не только … беспокоящее для маленьких детей, но потенциально опасное».
Используя популярных персонажей мультфильмов, таких как «Человек-паук» и «Эльза», YouTubers смогли заманить детей в оскорбительные видеоролики. По словам Полигона, видео началось нормально, но вскоре показывали принцесс, супергероев и других фаворитов, участвующих в непристойных или насильственных действиях. Поскольку система на основе алгоритма не сканирует все видео, YouTubers смогли обойти систему, используя названия видео и миниатюры, которые алгоритм считал безопасными для детей.
Другие вопросы, списки отчетов, как сообщает Polygon, включают в себя: явный сексуальный язык представлен среди мультипликационный анимация, профанация пронизан пародия казино фильм с участием Берта и Эрни из Улицы Сезам, графика для взрослых дискуссии о насилии в семье, порнографии и детского самоубийства, шутки о педофилии и употреблении наркотиков, а также моделирование небезопасного поведения.
Это то место, где должно появиться заявленное приложение. Вместо того, чтобы полагаться на легко вводимые в заблуждение алгоритмы, весь контент должен фильтроваться через реальных людей. Как сообщается, источник сообщил BuzzFeed News, что опция приложения, включенная в белый список, может быть выпущена в ближайшие недели. Согласно BuzzFeed News, YouTube не отрицал планы относительно приложения, но якобы заявил: «Мы всегда работаем над обновлением и улучшением детей YouTube, однако мы не комментируем слухи или предположения».
Но, по словам Polygon, генеральный директор YouTube Сьюзан Войчицки заявила, что в 2018 году компания расширит свой модерационный корпус до более чем 10 000 подрядчиков, и они сосредоточат свое внимание на контенте, который может нарушать политику YouTube. «Рецензенты по-прежнему важны как для удаления контента, так и для систем машинного обучения, поскольку человеческое суждение имеет решающее значение для принятия контекстных решений по контенту», - написала она в своем блоге в декабре 2017 года.
Следующее заявление было выпущено YouTube в то время для Polygon:
Содержание, которое вводит в заблуждение или ставит под угрозу детей, является для нас неприемлемым. У нас есть четкие правила в отношении этих видео, и мы применяем их агрессивно. Мы используем комбинацию машинного обучения, алгоритмов и пометок сообщества для определения содержания в приложении YouTube Kids. Команда YouTube состоит из родителей, которые глубоко заботятся об этом и стремятся каждый день улучшать приложение.
Хотя YouTube еще не подтвердил разработку этого нового приложения, похоже, что оно будет соответствовать политике и стандартам компании. Надеемся, что YouTube продолжит реагировать на проблемы, связанные с YouTube Kids, поэтому родители могут быть уверены, что их дети не будут знакомиться с неприятным контентом в приложении, предназначенном для детей.
