Социальная сеть "Одноклассники" внедрила функцию автоматического обнаружения и скрытия интим изображений
Соцсеть "Одноклассники" внедрила функцию автоматического обнаружения и скрытия эротических изображений. Теперь ok.ru самостоятельно определяет такие картинки и GIF-файлы, размывая их в ленте и комментариях. Данное улучшение направлено на создание оптимальной среды для подписчиков ресурса.
Пользователи могут кликнуть на скрытое изображение или GIF-файл, чтобы его посмотреть, или просто проигнорировать и продолжить просмотр. Для улучшения определения и ограничения такого контента "Одноклассники" провели исследование среди своих пользователей, выяснив, что именно они считают нежелательным.
На основе полученных данных инженеры "Одноклассников" обучили модели машинного обучения для обнаружения и размытия неподходящего контента. Всего было проанализировано более 6 миллионов файлов и создано две модели: одна оценивает визуальные элементы изображения, а вторая классифицирует контент, решая, нужно ли его размывать или оставить в исходном виде.