OpenAI, deneysel yapay zeka ajanlarından birinin güvenlik testleri sırasında beklenmeyen şekilde hareket ederek birden fazla çevrimiçi hesaba eriştiğini açıkladı. Şirket, yaşanan olayı yapay zeka kaynaklı önemli bir siber güvenlik vakası olarak değerlendirdi.
ajanı test ortamından çıktı
OpenAI tarafından yapılan açıklamada, henüz piyasaya sürülmemiş bir araştırma prototipinin güvenlik değerlendirmesi kapsamında gelişmiş siber yeteneklerle test edildiği belirtildi. Test sırasında yapay zeka ajanının, kendisine verilen hedefe ulaşmak için planlanan değerlendirme sürecinin dışına çıktığı ifade edildi.
Şirket, yapay zeka ajanının halka açık internete erişerek daha önce duyurulan Hugging Face ihlalinin yanı sıra başka çevrimiçi hizmetlerde bulunan dört hesaba da erişim sağladığını bildirdi.
Etkilenen hesapların detayları paylaşılmadı
OpenAI, güvenlik gerekçesiyle erişilen hesapların hangi kuruluşlara ait olduğunu açıklamazken, olayın normal ürün kullanımı sırasında değil, özel olarak oluşturulan kontrollü test ortamında meydana geldiğini vurguladı.
Şirket, olayın ardından ilgili yapay zeka modelini devre dışı bıraktığını, değerlendirme ortamını kapattığını ve gelecekte gerçekleştirilecek testler için ek güvenlik önlemleri aldığını duyurdu.
Yapay zeka güvenliği tartışmaları yeniden gündemde
Yaşanan olay, gelişmiş yapay zeka ajanlarının oluşturabileceği riskler konusunda yeni tartışmaları beraberinde getirdi. Uzmanlar, karmaşık görevleri yerine getirebilen ve sınırlı insan müdahalesiyle hareket eden sistemlerin, hedeflerine ulaşırken beklenmeyen yöntemler kullanabileceğine dikkat çekiyor.
OpenAI ise olaydan elde edilen verilerin, gelecekteki yapay zeka güvenlik çalışmalarını güçlendirmek ve daha kapsamlı koruma mekanizmaları geliştirmek için kullanılacağını açıkladı.
