“OpenAI” və “Google DeepMind” şirkətlərinin tədqiqatçıları neyron şəbəkələr əsasında maşın öyrənilməsi və süni intellekt sistemlərinin hazırlanması sahəsində təhlükəsizlik tədbirlərinin yetərli olmadığını bildiriblər. Onların fikrincə, texnologiyanın inkişafı o qədər sürətlə gedir ki, insanın özünü öyrədən və özünü təkmilləşdirən süni intellekt sistemlərinə nəzarət etmək imkanları getdikcə məhdudlaşır.
NTV “Reuters” agentliyinə istinadla xəbər verir ki, tədqiqatçılar bu narahatlıqlarını “Palisade Research” qeyri-kommersiya təşkilatının iştirakı ilə yaradılmış “Frominside.ai” layihəsi çərçivəsində bölüşüblər. Layihənin iştirakçıları bildiriblər ki, onlar bu təhdidlərdən marketinq məqsədilə deyil, problemi həqiqətən ciddi hesab etdikləri üçün danışırlar. Onların sözlərinə görə, süni intellekt şirkətlərində yeni modellər yaradan mütəxəssislərə daha çox diqqət yetirilir, ehtiyatlı olmağa çağıran əməkdaşlar isə azlıqda qalırlar.
Layihənin əsas mövzularından biri rekursiv özünü təkmilləşdirmədir. Bu, süni intellektin insanın demək olar ki, iştirakı olmadan öyrənməyə davam etmə və müstəqil şəkildə yeni imkanlar əldə etmə qabiliyyətidir. Daha əvvəl “OpenAI” və “DeepMind” şirkətlərində çalışmış, hazırda isə “Resolution” qeyri-kommersiya təşkilatında elmi istiqamətə rəhbərlik edən Ceffri İrvinq bildirib ki, bununla bağlı risk “kifayət qədər sürətlə artır” və mütəxəssislər bu barədə açıq danışmalıdırlar.
“DeepMind” tədqiqatçısı Nil Nanda süni intellekt səbəbindən bəşəriyyətin yox olması ehtimalını ən azı 10 faiz qiymətləndirdiyini və bu göstəricini “inanılmaz dərəcədə yüksək” hesab etdiyini bildirib. “OpenAI”nin tədqiqatçı-mühəndisi Xuan Felipe Seron Uribe də ehtiyatlı olmağa çağıraraq aparıcı süni intellekt laboratoriyaları arasındakı hazırkı rəqabəti “gözləri bağlı” yarışla müqayisə edib.
Bununla yanaşı, şirkət rəhbərləri də inkişaf tempinin azaldılmasının zəruriliyindən açıq danışmağa başlayıblar. Belə ki, “Anthropic” şirkətinin rəhbəri Dario Amodey sənayeni inkişaf tempini yavaşlatmağa və “tərəqqinin sürətini nəzarət imkanları ilə uyğunlaşdırmağa” çağırıb. “OpenAI”nin baş direktoru Sem Altman da onunla razılaşdığını bildirib.
Bu risklərlə bağlı müzakirələr iyul ayında baş vermiş hadisədən sonra daha da intensivləşib. Həmin vaxt “OpenAI”nin agentləri sınaq mühitinin hüdudlarından kənara çıxaraq süni intellektlə işləmək üçün beynəlxalq platforma olan “Hugging Face”ə müdaxilə ediblər. Daha əvvəl “OpenAI”də idarəetmə və təhlükəsizlik məsələləri ilə məşğul olmuş Daniel Kokotaylo bildirib ki, bundan sonra keçmiş həmkarları onunla mütəmadi əlaqə saxlayaraq narahatlıqlarını bölüşməyə başlayıblar.
“OpenAI”nin baş elmi əməkdaşı və “Anthropic” şirkətinin həmtəsisçilərindən biri, o cümlədən bir neçə tədqiqatçı qanunvericiləri sənayedə rekursiv özünü təkmilləşdirmə funksiyasına malik modellərin necə hazırlandığına diqqət yetirməyə çağırıb.
Bununla yanaşı, “OpenAI” və “Anthropic” yeni modellər təqdim etməkdə davam edirlər. “Reuters” agentliyi xəbər verir ki, “Anthropic” şirkəti səhmlərini birjaya çıxarmazdan əvvəl potensial investorları bəşəriyyət üçün mümkün “fəlakətli və ya ekzistensial risklər” barədə xəbərdar etməyi planlaşdırır.
NTV canlı
Radio canlı
Nuhçıxan