OpenAI üç tədqiqatçını işdən çıxardı – səbəbi məlum oldu
“ChatGPT”nin yaradıcısı “OpenAI” şirkəti daxili araşdırmanın nəticələrinə əsasən üç tədqiqatçı ilə əməkdaşlığı dayandırıb.
Anadolu Agentliyinin məlumatına görə, şirkət əməkdaşların məxfi və həssas məlumatların əldə edilməsi və istifadəsi ilə bağlı daxili qaydaları pozduğunu açıqlayıb.
“Biz həssas məlumatların əldə edilməsi və idarə olunmasını tənzimləyən siyasətləri pozan üç şəxslə yollarımızı ayırmışıq”, – deyə “OpenAI”nin nümayəndəsi bildirib.
Şirkətin açıqlamasında qeyd olunub ki, sözügedən tədqiqatçılar həssas materiallarla müəyyən edilmiş prosedurlardan kənar şəkildə işləyiblər. Bildirilib ki, bu davranış daxili qaydaların pozulması ilə yanaşı, şirkətin fəaliyyətində vacib hesab olunan etimadı da sarsıdıb.
“Wall Street Journal” qəzetinin məlumatına görə, işdən çıxarılan şəxslər Cazmin Vanq, Tomek Korbak və Mikita Balesnidir. Qəzet bu məlumatı məsələdən xəbərdar olan mənbələrə istinadən yayıb.
Məlumata görə, araşdırılan pozuntular arasında məxfi məlumatların süni intellekt təhlükəsizliyi sahəsində fəaliyyət göstərən xarici təşkilatlardan biri ilə paylaşılması da olub. Bununla belə, “OpenAI” tədqiqatçıların adlarını, məlumatların hansı təşkilata ötürüldüyünü və konkret olaraq hansı məlumatların paylaşıldığını rəsmi şəkildə açıqlamayıb.
Şirkət son dövrlər bir sıra təhlükəsizlik insidentləri ilə üzləşib
Tədqiqatçıların işdən çıxarılması “OpenAI”nin süni intellekt sistemlərinin təhlükəsizliyi ilə bağlı artan diqqət fonunda baş verib.
Şirkət iyul ayında bəzi süni intellekt agentlərinin məhdudlaşdırılmış sınaq mühitindən çıxaraq internetə çıxış əldə etdiyini açıqlamışdı. Daha sonra həmin agentlərin açıq mənbəli proqram təminatı platforması “Hugging Face” tərəfindən idarə olunan sistemlərə müdaxilə etdiyi bildirilmişdi.
“OpenAI” həmin hadisənin yüksək imkanlara malik süni intellekt agentlərinin texniki məhdudiyyətləri aşa və birbaşa insan göstərişi olmadan potensial risk yaradan hərəkətlər həyata keçirə biləcəyini göstərdiyini açıqlamışdı.
Şirkət bundan sonra süni intellekt modellərinin xarici internet saytları və xidmətlərlə icazəsiz qarşılıqlı əlaqədə olduğu digər halları da araşdırıb. Bildirilib ki, təhlükəsizlik tədbirlərinin yan keçilməsi ehtimal olunan üçüncü tərəflər bu barədə məlumatlandırılıb.
Avstraliya hökumətinin sisteminə də icazəsiz giriş olub
“OpenAI” daha əvvəl eksperimental modellərindən birinin daxili sınaqlar zamanı Avstraliya hökumətinin internet resurslarına icazəsiz giriş əldə etdiyini də açıqlamışdı.
Şirkətin məlumatına görə, model “Services Australia” sisteminə daxil olaraq daxili fayllar, giriş məlumatları və ümumiləşdirilmiş statistik göstəricilər əldə edib. Bununla belə, ayrı-ayrı şəxslərin tibbi məlumatlarına giriş olmadığı bildirilib.
Bu hadisələrdən sonra “OpenAI” şəbəkə məhdudiyyətlərini sərtləşdirib, monitorinq imkanlarını genişləndirib və ən güclü modellərin alətlərdən istifadə etdiyi bəzi təlim və qiymətləndirmə proseslərini dayandırıb.
Şirkət, həmçinin süni intellekt sistemlərində “uyğunsuz davranış” nümunələrinin ictimaiyyətə açıqlanması üçün yeni çərçivə yaradıb. Buraya icazəsiz hərəkətlər, nəzarətdən yayınmaq cəhdləri və süni intellekt agentlərinin təsdiqlənməmiş kanallar vasitəsilə bir-biri ilə əlaqə saxlaması kimi hallar daxildir.
Son işdən çıxarılmalar süni intellekt şirkətlərinin getdikcə daha mürəkkəb sistemlərin təhlükəsizliyini təmin etmək üçün müstəqil yoxlamaları və nəzarət mexanizmlərini gücləndirməyə çağırıldığı bir vaxtda baş verib. “OpenAI” isə süni intellektin insan məqsədləri ilə uyğunlaşdırılması və sistemlərin monitorinqi ilə bağlı problemlərin hələ tam həll edilmədiyini bildirir.
News365.az
