Microsoft'un kıdemli yapay zeka mühendisi Shane Jones, OpenAI DALL-E 3 görüntü oluşturucu içinde, nöral ağın koruma mekanizmalarını atlatarak uygunsuz içerik üretebilen bir güvenlik açığı tespit etti. Ancak Microsoft ve OpenAI, bu güvenlik açığının varlığını reddetti ve sorunun açıklanmasına karşı çıktı.
İlk Tespit ve Microsoft'a Bildirilen Güvenlik Açığı
Mühendis, geçen hafta popüler sanatçı Taylor Swift'in yaratılmış yapay zeka tarafından üretilen fotogerçekçi görüntüler serisi sosyal medyada paylaşıldıktan sonra sorunu açığa çıkarmaya karar verdi. Bu olay, hayranlar arasında infiale neden oldu ve Shane Jones, OpenAI DALL-E 3'ü genel erişimden kaldırmaya çağırdı. Bu görüntü serisini oluşturan kişilerin, bu yapay zeka üretimine kısmen dayanan Microsoft Designer aracını kullandığına dair iddialar da bulunmaktadır. Mühendis, Microsoft'un bu güvenlik açıklarını ve kötüye kullanım potansiyellerini bildiğini belirterek, iki senatöre, bir Temsilciler Meclisi üyesine ve Washington eyaletinin başsavcısına bir mektup gönderdi.
Mücadele ve Açıklamanın Kamuya Yansıması
Jones, bu sorunu 1 Aralık 2023 tarihinde Microsoft'a bildirdi ve şirket içi sistem aracılığıyla ilgili başvurusunu yaptı. Aynı gün, bu konuda başvuruları işleyen bir çalışanın yanıtını aldı ve sorunun Microsoft'un iç ağıyla ya da müşteri hesaplarıyla ilgili olmadığını belirtti, bu nedenle başvurusunu OpenAI'ye yönlendirmesini önerdi. Jones, 9 Aralık'ta ayrıntılı bir açıklama ile bu sorunu OpenAI'ye iletti ancak hiçbir yanıt alamadı. Jones, sorunu araştırmaya devam etti ve "DALL-E 3'ün genel güvenliği tehdit ettiğine ve OpenAI'in bu modelle ilgili riskleri giderene kadar genel erişimden çekilmeli" sonucuna vardı.
Microsoft ve OpenAI'den Gelen Tepkiler
İki hafta sonra, 14 Aralık'ta, mühendis konuyu halka açtı ve DALL-E 3'ü pazardan çekme çağrısında bulunan bir LinkedIn gönderisi paylaştı. Bu durumu şirket yönetimine bildirdi ve Microsoft'un hukuk departmanından hemen gönderiyi kaldırma talebinde bulunan doğrudan amiriyle iletişim kuruldu. Jones, gönderiyi kaldırdı, ancak Microsoft'un avukatlarından herhangi bir mesaj almadı. Sonuç olarak, 30 Ocak'ta yetkililere bir mektup göndermek zorunda kaldı.
OpenAI'den Açıklama ve Güvenlik Önlemleri
OpenAI, ancak 30 Ocak'ta tepki gösterdi ve mühendisin başvurusunu hemen incelediklerini ve belirttiği yöntemin güvenlik önlemlerini atlatamadığını iddia etti. OpenAI, "Güvenlik, önceliğimizdir ve çok yönlü bir yaklaşım benimsiyoruz. Temel DALL-E 3 modelimizde, eğitim verilerinden en açık içeriği filtreleyen bir filtre oluşturduk, cinsel içerik ve şiddet içeren görüntüleri önleyen güvenilir resim sınıflandırıcıları geliştirdik. Ayrıca, ürünlerimiz ChatGPT ve DALL-E API için ek güvenlik önlemleri uyguladık, bunlar arasında kamu figürünün adını içeren istekleri reddetme, politikamıza aykırı görüntüleri belirleme ve reddetme bulunuyor. Güvenlik önlemlerimizi güçlendirmek ve kötüye kullanımları kontrol etmek için dış uzman ekibini de içermekteyiz" dedi.
