Roblox, azyaşlıları onlayn qısnama və məlumat məxfiliyi risklərindən qorumaq üçün Robust Open Online Safety Tools (ROOST) icmasına yenilənmiş süni intellekt təhlükəsizlik modellərini təqdim edib. 2026-cı ilin avqustunda elan edilən bu yeni AI uşaq təhlükəsizliyi alətləri, şəxsi məlumatların ələ keçirilməsi və ya söhbətlərin digər platformalara yönləndirilməsi cəhdlərini aşkar etmək üçün nəzərdə tutulmuş təkmilləşdirilmiş PII Təsnifatçısını (PII Classifier) əhatə edir.
AI uşaq təhlükəsizliyi alətləri necə işləyir?
Yenilənmiş PII Təsnifatçısı (Versiya 2.0), qısnama siqnallarını və şəxsi məlumat sorğularını müəyyən etmək üçün qabaqcıl kontekst analizindən istifadə edir. Sadə açar söz uyğunlaşmasına əsaslanan köhnə filtrlərdən fərqli olaraq, bu sistem şifrələnmiş dili və ya istifadəçiləri xarici mesajlaşma proqramlarına yönləndirmək cəhdlərini aşkar etmək üçün bütün söhbətləri qiymətləndirir. Model hazırda 189 dili dəstəkləyir.
Roblox bu texnologiyanı niyə paylaşır?
ROOST-un təsisçi üzvü kimi, Roblox öz mürəkkəb sistemlərini qurmaq üçün resursları olmayan platformalara açıq mənbəli təhlükəsizlik texnologiyası təqdim etməyi hədəfləyir. Google, OpenAI və Discord kimi tərəfdaşlarla bu modelləri paylaşaraq, şirkət internetdə daha ardıcıl bir təhlükəsizlik şəbəkəsi yaratmağa çalışır. Rəsmilər şirkətin zərərli şəxslərə qarşı sıfır dözümlülük siyasəti yürütdüyünü vurğulayırlar.
