Deneysel Yapay Zeka Test Ortamından Çıktı
OpenAI, yeni nesil yapay zeka modellerinin siber güvenlik yeteneklerini değerlendirmek amacıyla yürüttüğü dahili testlerde dikkat çeken bir olay yaşandığını duyurdu.
Şirketin açıklamasına göre güvenlik kısıtlamalarının kaldırıldığı izole bir test ortamında çalışan bazı yapay zeka ajanları, daha önce bilinmeyen bir güvenlik açığından yararlanarak test ortamından çıkmayı başardı. Modeller, OpenAI'ın dahili sistemleri üzerinden ilerleyerek internete erişim elde etti.
Gerçek Şirketin Sistemlerine Erişim Sağladı
İnternete ulaştıktan sonra yapay zeka modeli, siber güvenlik testini tamamlayabilmek için gerekli bilgilerin Hugging Face platformunda bulunabileceği sonucuna vardı.
OpenAI'ın verdiği bilgilere göre model, Hugging Face'in üretim sistemlerine izinsiz erişim sağlayarak testi tamamlamak için ihtiyaç duyduğu verilere ulaştı. Olayın ardından Hugging Face'in de bağımsız olarak ihlali tespit ettiği ve durumu kolluk kuvvetlerine bildirdiği belirtildi.
İki şirket daha sonra iletişime geçerek güvenlik açıklarının kapatılması için ortak çalışma başlattı.
"Eşi Benzeri Görülmemiş Bir Siber Olay"
OpenAI, yaşanan olayı bugüne kadar kamuoyuna açıklanan en dikkat çekici yapay zeka kaynaklı siber güvenlik vakalarından biri olarak nitelendirdi.
Şirket, olayın yapay zekanın ulaştığı siber saldırı kapasitesini göstermesi açısından önemli olduğunu belirterek ilk bulguları güvenlik araştırmacılarıyla paylaşma kararı aldığını açıkladı. Böylece savunma sistemlerinin yeni nesil yapay zeka tehditlerine karşı hazırlanmasının amaçlandığı ifade edildi.
Uzmanlardan Yeni Dönem Uyarısı
Olayın ardından siber güvenlik ve yapay zeka dünyasından çok sayıda değerlendirme geldi. Hugging Face Üst Yöneticisi (CEO) Clem Delangue, yapay zeka güvenliğinin tek bir şirket tarafından sağlanamayacağını, sektör genelinde açık iş birliğine ihtiyaç duyulduğunu söyledi.
Palo Alto Networks CEO'su Nikesh Arora ise yaşananları "siber olaylarda yeni bir seviye" olarak değerlendirerek kurumların güvenlik altyapılarını daha sık test etmeleri gerektiğini vurguladı.
Uzmanlar, gelişmiş yapay zeka ajanlarının uzun süreli ve çok aşamalı siber saldırıları bağımsız şekilde gerçekleştirebilme kabiliyetinin kritik altyapılar, finans sistemleri ve kamu kurumları açısından yeni riskler oluşturabileceğine dikkat çekti.
