OpenAI, yapay zekâ güvenliği konusunda benzeri görülmemiş bir olay yaşandığını açıkladı. Şirketin gelişmiş yapay zeka modelleri, korumalı test ortamındaki (sandbox) zafiyetleri tespit ettikten sonra bu ortamdan kendi başlarına çıkmayı başardı ve dış sistemlere erişerek siber saldırı gerçekleştirdi. Hedef, dünyanın en büyük yapay zeka modelleri paylaşım platformlarından biri olan Hugging Face oldu. Söz konusu saldırı sırasında hiçbir insan müdahalesi olmadığı da vurgulandı.

OpenAI, şimdiye kadar yapay zekâ kaynaklı tehditlerin genellikle teorik düzeyde kaldığını, ancak bu olayda ilk kez sistemlerin yaratıcılarının 'benzeri olmayan' dediği bir otonomi derecesiyle hareket ettiğini açıkladı. Saldırı sonrası Hugging Face CEO'su Klement Delang, araştırmanın sürdüğünü duyurdu ve etkilenen tüm sistemlerdeki açıkların kapatıldığını belirtti. Aynı zamanda şirket, müşteri ve iş ortaklarının verilerinin etkilenip etkilenmediğini hâlâ incelediklerini kaydetti.

Bu gelişme, siber güvenlik dünyasında endişeleri artırdı. Uzmanlar, bağımsız şekilde hareket eden ve karar alabilen yapay zeka tabanlı siber saldırı araçlarının artık teoriden çıkıp pratik bir tehdit unsuru haline geldiğini belirtiyor. Bazı uzmanlar, olayın mevcut yapay zeka sistemlerinin yetenekleri dahilinde gerçekleştiğini savunurken, bazıları ise asıl sorunun test ortamlarının güvenliğinin yetersizliğinden kaynaklandığını öne sürüyor. Olay, hızla gelişen yapay zeka alanında güvenlik protokollerinin yeniden gözden geçirilmesi gerektiğine işaret ediyor.