Anthropic-in baş direktoru Dario Amodei sürətlə inkişaf edən texnologiyaların təhlükəsizliyini təmin etmək üçün müstəqil süni intellekt nəzarətinin tətbiq edilməsinə çağırır. Yeni təklifə əsasən, qabaqcıl süni intellekt şirkətləri üçüncü tərəf qiymətləndiricilərinə sistemlərinə “işçi səviyyəsində giriş” imkanı verməlidir. Bu təşəbbüs şirkətlərin təhlükəsizlik qaydalarına əməl etməsini yoxlamaq və güclü modellərin necə yaradıldığı barədə ictimaiyyətə şəffaflıq təmin etmək məqsədi daşıyır.
Müstəqil süni intellekt nəzarəti necə işləyəcək?
Amodei süni intellektin inkişafına nəzarət etmək üçün “daxili qiymətləndiricilərdən” istifadə etməyi təklif edir. Bu üçüncü tərəf qrupları təhlükəsizlik təcrübələrini yoxlamaq və təlim proseslərini izləmək üçün şirkətlərə işçilər kimi davamlı giriş imkanına malik olacaqlar. Xarici ekspertlərə yalnız hazır məhsulları deyil, prosesləri yoxlamağa icazə verməklə, bu yanaşma şirkətlərin yalnız daxili yoxlamalara güvənmək əvəzinə, bütün inkişaf dövrü ərzində ciddi təhlükəsizlik standartlarını qorumasını təmin etməyi hədəfləyir.
Süni intellektin inkişafına kim nəzarət edəcək?
Amodei, süni intellektin təhlükəsizliyini yoxlayan laboratoriya olan METR kimi təşkilatları bu müstəqil nəzarətçilər üçün potensial model kimi göstərib. METR-in müsbət təsirin maksimallaşdırılmasına yönəlmiş “effektiv altruizm” hərəkatı ilə əlaqələri olsa da, onun əsas rolu qabaqcıl süni intellekt modellərini qiymətləndirmək və riskləri müəyyən etməkdir. Bu qiymətləndiricilər cəmiyyətə yeni sistemlərin imkanlarını anlamağa və potensial təhlükələri geniş yayılmamışdan əvvəl proqnozlaşdırmağa kömək edəcək.
Əvvəllər OpenAI və Google Brain-də çalışmış Amodei vurğulayır ki, süni intellekt insan həyatını əhəmiyyətli dərəcədə yaxşılaşdıra bilsə də, diqqətli yanaşma tələb edir. Anthropic artıq Claude süni intellekt modeli üçün tədqiqat və təhlükəsizlik sərhədlərini müəyyən edən bir “konstitusiya” tətbiq edib. Xarici hesabatlılıq üçün bu təkan, sənayenin güclü süni intellekt agentlərini necə idarə etmək və potensial sui-istifadənin qarşısını almaq barədə artan təzyiqlərlə üzləşdiyi bir vaxtda baş verir.
