Алгоритми YouTube рекомендують дітям відео про виготовлення зброї
Нехитра перевірка показала, що YouTube може рекомендувати неповнолітнім користувачам ролики про те, як зібрати зброю власноруч. Цим зацікавився окружний прокурор Мангеттена.
У 2023 році організація Tech Transparency Project провела експеримент, під час якого було створено 4 тестових акаунти YouTube, які імітували дев’ятирічних та чотирнадцятирічних хлопців. З цих сторінок дослідники відтворювали різноманітні відео, присвячені комп’ютерним іграм.
Після цього платформа почала пропонувати цим користувачам ролики, присвячені створенню «ghost gun» — вогнепальної зброї, зібраної з надрукованих на 3D-принтерах частин або компонентів, придбаних у вигляді комплектів. Така зброя не має серійних номерів і непридатна для відстеження.
Цікаво, що ці рекомендації не залежали від того, чи користувачі взаємодіяли з будь-яким контентом із зображенням справжньої зброї.
У нещодавньому листі окружний прокурор Мангеттена Елвін Брегг посилався на це дослідження та вимагав зустрічі з гендиректором YouTube Нілом Моханом для обговорення того, чому платформа дозволяє публікувати такі відео і чому алгоритм показує це неповнолітнім глядачам, які дивляться вміст про відеоігри.
Брегг також звернув увагу YouTube на те, що батьки не можуть контролювати рекомендації за допомогою функцій батьківського контролю. За його словами, багато молодих людей, щодо яких відкрито провадження через володіння зброєю в Нью-Йорку, сказали, що навчилися робити її саме за роликами в YouTube.
Представник YouTube повідомив New York Daily News, що платформа ретельно перегляне відео, якими прокуратура Мангеттена поділиться з компанією. Платформа також переконує, що продовжує видаляти будь-який вміст, який порушує її політику. Утім, хоча сайт справді видаляє ці відео, прокуратура вважає, що YouTube має бути більш проактивним у боротьбі з таким контентом.
* * *