Roblox публикует три модели безопасности с открытым исходным кодом через ROOST

Компания Roblox объявила о передаче трёх моделей безопасности с открытым исходным кодом в сообщество Robust Open Online Safety Tools (ROOST). Это партнёрство было анонсировано ещё в начале 2025 года, когда Roblox стала одним из основателей инициативы вместе с Google, OpenAI и другими крупными игроками индустрии.

🛡️ Какие инструменты вошли в открытый доступ

В рамках новой инициативы Roblox открывает исходный код трёх ключевых систем безопасности. Первая — это обновлённая версия PII Classifier, которая предназначена для обнаружения попыток обмена личной информацией. Вторая — система Sentinel, нацеленная на раннее выявление признаков опасности для детей. Третья — последняя версия классификатора безопасности голосового чата, которая работает в режиме реального времени.

Все три инструмента уже активно используются на платформе Roblox. Они помогают модерировать голосовые чаты, выявлять ранние сигналы угроз для несовершеннолетних и блокировать попытки распространения персональных данных. По данным компании, Sentinel смог обнаружить около 70% всех случаев, связанных с угрозой детям, за 12 месяцев, завершившихся 7 августа 2026 года.

📊 Улучшения в PII Classifier и голосовой модерации

Обновлённый PII Classifier получил значительные улучшения в понимании контекста разговоров. Система теперь эффективнее распознаёт попытки обойти модерацию с помощью опечаток, закодированного языка и малоизвестных отсылок. Версия 2.0 классификатора расширила поддержку языков с 17 до 189, а показатель F1 (метрика точности) вырос с 63.41 до 90.52.

Голосовой классификатор безопасности третьей версии поддерживает 30 языков и восемь категорий нарушений. Его точность обнаружения достигает 61% при уровне ложных срабатываний всего 1%. Это позволяет эффективно модерировать голосовое общение в реальном времени, не создавая лишних неудобств для пользователей.

📚 Новый набор данных для разработчиков

Помимо моделей, Roblox выпустила новый бенчмарк-датасет, предназначенный для оценки систем модерации. Этот набор данных содержит синтетические многопользовательские диалоги, которые имитируют попытки обойти фильтры PII. Другие компании смогут использовать его для тестирования и сравнения эффективности собственных решений по безопасности.

Инициатива ROOST направлена на объединение усилий крупных технологических компаний в борьбе с онлайн-угрозами. Открывая исходный код своих инструментов, Roblox надеется ускорить развитие индустриальных стандартов безопасности и помочь меньшим платформам внедрять надёжные системы защиты без необходимости разрабатывать их с нуля.

🍓 Sweet Berries — это самый выгодный способ пополнить счёт в мобильных играх. Быстрый донат с самой низкой комиссией в РФ. Гарантия сохранности вашего аккаунта.