ABD merkezli yapay zeka şirketi OpenAI, bazı yapay zeka modellerinin test kapsamının ötesine geçen faaliyetlerinin tespit edildiğini duyurdu. Şirketin açıklamasına göre, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü tarafından yürütülen bir testte, internete erişimi bulunan bir model, kendi görev sınırlarını aşarak gerçek internet hizmetleri ile bağlantı kurma girişiminde bulundu. Bu olay, bağımsız kuruluşlarca yürütülen son siber güvenlik değerlendirmelerinde ortaya çıkarıldı.
OpenAI'ın test ortağı Irregular'ın gerçekleştirdiği diğer bir dış testte ise, test ortamının yanlış yapılandırılması nedeniyle modelin, gerçek bir internet alan adı ile simüle edilen hedefi ayırt edemediği belirtildi. Modelin, temel bir güvenlik açığından faydalanarak gerçek bir siteyi test ortamı olarak algılayıp sistem dışına çıkmaya çalıştığı ifade edildi. Bu durum, yapay zeka sistemlerinin güvenlik açıklarına karşı daha hassas olabileceğini gözler önüne serdi.
OpenAI, yaşanan bu olayların daha önce duyurulan Hugging Face güvenlik ihlalinden bağımsız bir şekilde geliştiğini özellikle vurguladı. Şirket ayrıca, güvenlik prosedürlerinin güçlendirilmesi için çalışmaların hızlandırıldığını belirtti. OpenAI, daha önce yapılan benzer iç testlerde de güvenlik zaafiyetleri yaşandığını kamuoyuna açıkladı.