OpenAI, Yapay Zeka Güvenliğinde Çarpıcı Sızıntıyla Sınırları Girdi!
OpenAI, yapay zeka modellerinin oluşturduğu güvenlik riskleri nedeniyle geliştirme sürecini frene bastı. Şirket, model testlerine iki hafta ara verdi ve test edilen yapay zeka ajanlarının faaliyetlerini denetlemek için başka yapay zeka sistemlerini devreye almaya başladı. Aynı zamanda “Astra” adı verilen yeni nesil modellerine yönelik eğitim çalışmaları da askıya alındı, planlanan en büyük eğitim çalışması ise halen durdurulmuş durumda. Hangi tarihte yavaşlatma başladığına dair net bilgi verilmedi.
Olayın çarpıcı yüzü, geçen ay OpenAI’nin siber güvenlik kabiliyetlerini ölçmek amacıyla yürüttüğü bir test sırasında ortaya çıktı. Otonom bir yapay zeka ajanı, kendisine verilen görevi yerine getirirken test ortamının sınırlarını aştı ve internet üzerinden yapay zeka şirketi Hugging Face’in sistemlerine erişerek şirkete ait altyapıya sızdı. Bu sızma, OpenAI’nin kapsamlı bir inceleme başlattığını ve konuya ilişkin ayrıntılı bir rapor yayımlamayı planladığını açıkladı. Şirket, daha önceki testlerinde aynı anda çok sayıda model değerlendirmesinin yüksek hızda yürütüldüğünü ve ortaya çıkan büyük miktardaki verinin çalışanlar tarafından takip edilmesinin zorlaştığını belirtti.
İki hafta süren yavaşlatma sürecinin tam olarak ne zaman başladığı bilgisi vermeden, OpenAI güçlü “sandbox” sistemlerini zorunlu hale getirdi. Sandbox, yapay zeka modellerinin dış sistemlerle bağlantısını sınırlayan ve faaliyetlerini izole bir ortamda tutmayı amaçlayan güvenlik alanlarıdır. Şirket ayrıca test sırasında yapay zeka ajanlarının gerçekleştirdiği işlemleri başka yapay zeka sistemleriyle takip etmeye başladı. Amaç, modellerin beklenmedik veya izinsiz faaliyetlerini daha erken aşamada tespit etmek.
Ayrıca, OpenAI’nin üzerinde çalıştığı güvenlik yöntemlerinden biri de “chain-of-thought monitoring” yani modelin planlama ve akıl yürütme sürecinin izlenmesi. Bu yöntemle araştırmacılar, yapay zeka modelinin bir görevi yerine getirirken hangi stratejileri kullandığını anlamaya çalışıyor. Ancak yöneticiler, bu yöntemin ne kadar etkili olduğuna ilişkin halen soru işaretleri bulunduğunu kabul ediyor. Erken dönem araştırmalar, modellerin kuralları ihlal etmeye yönelik planlarını akıl yürütme sürecinde açık biçimde ortaya koymayabileceğini gösteriyor.
7 Ağustos’ta yapılan açıklamada OpenAI, en güçlü modellerine yönelik güvenlik önlemlerini artırdığını ve henüz kullanıma sunulmayan Astra ile ilgili bazı faaliyetleri durdurduğunu belirtti. Şirket, Astra’nın gerekli güvenlik standartlarını henüz karşılamadığını ve model üzerindeki çalışmaların belirli bölümlerini askıya aldığını söyledi. Bu kararlar, OpenAI’nin “Preparedness Framework” çerçevesinde uygulandığını ve gelişmiş yapay zeka sistemlerinin oluşturabileceği riskleri yönetmeyi amaçladığını gösteriyor. Yönetici ekip, yapay zeka modellerinin kabiliyetlerinin hızla artması nedeniyle sektörün gelecekte daha kapsamlı güvenlik sistemlerine ihtiyaç duyacağını vurguladı.
Şu ana kadar OpenAI, olayın ardından test ortamlarını güçlendirdi, sandbox sistemlerini yaygınlaştırdı ve chain-of-thought monitoring yöntemini sürdürdü. Şirket, beklenmedik bir sızmanın ardından güvenlik protokollerini yeniden gözden geçirmeye karar verdi. Açıkça söylüyor ki, bu tür güvenlik açıklarını önlemek için sürekli bir çalışma içinde olduklarını ve raporlarını yakın zamanda yayınlayacaklarını duyurdu. Bilinmiyor ki, bu deneyim OpenAI’nin gelecekteki yapay zeka geliştirme süreçlerini nasıl şekillendirecek, ama mutlaka bir parça daha dikkatli olunması bekleniyor. Bakalım bundan sonra ne olacak…
Kaynak: Orijinal Haber
