Алгоритми соцмережі також свідомо рекомендували небезпечний контент

[ads-pc-2]

Працівники Youtube роками ігнорували скарги користувачів на ролики про теорії змови, агітацію за відмову від щеплень та дитяче порно. Небезпечний контент збирав високі рейтинги, тому його блокування негативно позначилося б на кількості й тривалості переглядів. Про це йдеться в розслідуванні Bloomberg, під час якого журналісти поспілкувалися з 20 колишніми працівниками соцмережі.

Відео, яке рекомендується користувачам, відбирають нейронні мережі – запрограмовані аналоги людського мозку. Ці алгоритми мали б повідомляти про небезпечний контент. Однак їхні повідомлення часто або лишалися без уваги, або спеціально перепрограмовували, щоб вони рекомендували суперечливі ролики.

В останні роки десятки працівників YouTube та Google були занепокоєні поширенням фейкових роликів, їхнього токсичного змісту та подальшого впливу на користувачів. Один з них хотів маркувати відео з мовою ворожнечі та припинити рекомендувати їх глядачам. Інший працівник створював аналітичні таблиці, в яких демонстрував зріст популярності небезпечного контенту. Проте щоразу керівництво стверджувало, що «не варто розкачувати човен».

Про шкідливий контент, за інформацією видання, знають виконавча директорка YouTube Сьюзен Войжицьки та інші топ-менеджери, але вони не приймають рішень для зменшення його кількості на сервісі.

«Моя робота – в управлінні компанією, а не аналізі відео», – заявляла Войжицьки.

Одна з причин такої поведінки – нарощування рекордної кількості переглядів за будь-яку ціну. Очоливши 2014-го компанію, Войжицьки поставила за мету досягнути 1 млрд годин переглядів за добу. Місія була виконана через 2 роки.

Войжицьки відмовилася особисто прокоментувати ситуацію. Натомість прес-секретар компанії запевнила: платформа щодня вирішує десятки важливих глобальних викликів.

«Ми суттєво оновили систему рекомендацій YouTube, аби запобігти поширенню дезінформації та підвищити якість відео на сервісі. Також інвестували в машинне навчання, щоб мати змогу швидше знаходити та видаляти неприйнятний вміст. Крім того, регулярно вносимо зміни до нашої політики. Торік здійснили 30 оновлень. Відповідальність залишається нашим пріоритетом номер один», – запевнили в компанії.