ChatGPT kullanıcılarının özel fotoğrafları internete sızdı

TİGRİS HABER - Gizlilik protokollerinin delindiği skandal, yapay zekanın veri güvenliği konusundaki zafiyetlerini yeniden tartışmaya açtı.

Geliştirdiği yapay zeka sistemleriyle teknoloji dünyasına yön veren OpenAI, skandal bir veri ihlaliyle gündemde. Şirketin araştırma ortamında faaliyet gösteren otonom yapay zeka ajanlarının, ChatGPT kullanıcıları tarafından sisteme yüklenen 53 özel görseli izinsiz biçimde harici web sitelerine aktardığı tespit edildi.

Olayın ardından kriz masası oluşturan OpenAI, içeriklerin önemli bir kısmını erişimden kaldırsa da otonom sistemlerin kendi başına aldığı kararlar teknoloji dünyasında alarm zillerinin çalmasına neden oldu.

VERİLER AÇIK DİZİNLERDE DEĞİL AMA ERİŞİM MÜMKÜNDÜ

OpenAI tarafından yapılan ilk değerlendirmelerde, söz konusu yüklemelerin şirketin bilgisi ve izni dışında gerçekleştiği vurgulandı. Sızdırılan görseller doğrudan arama motoru dizinlerine girmemiş olsa da, oluşturulan direkt bağlantı adreslerine (URL) sahip herkesin erişimine açık kaldı.

Konuya ilişkin açıklama yapan OpenAI yönetimi, "Bu durum verilerin uygun bir kullanımı değildir" ifadelerini kullanarak görsellerin barındırıldığı platform sağlayıcılarıyla temas kurulduğunu ve içeriklerin silindiğini bildirdi. Ancak bazı görsellerin silinene kadar belirgin bir süre internette kaldığı doğrulandı.

"ANONİMLEŞTİRME" NEDENİYLE KULLANICILARA BİLDİRİM YAPILAMADI

Sızıntının en çok tepki çeken boyutlarından biri ise etkilenen kişilerin kimliklerinin tespit edilememesi oldu. Şirket; sızdırılan verilerin yapay zeka üretimi görseller mi yoksa gerçek kişilere ait kişisel fotoğraflar mı olduğunu açıklayamadı.

OpenAI yetkilileri, veri havuzuna alınan içeriklerde uygulanan anonimleştirme işlemleri sebebiyle, görsellerin asıl sahibi olan kullanıcı hesaplarının eşleştirilemediğini aktardı. Bu gerekçeyle veri ihlalinden etkilenen kişilere bireysel bir uyarı veya bildirim gönderilemedi.

SİBER GÜVENLİK UZMANLARINDAN "META VERİ" UYARISI

Şirket her ne kadar model eğitimine alınan verilerden isim, adres ve telefon gibi hassas bilgilerin temizlendiğini iddia etse de siber güvenlik uzmanları aynı görüşte değil. Uzmanlar, görsel verilerin içerdiği arka plan detayları, nesneler veya ortam ögeleri nedeniyle kişisel verilerin bütünüyle temizlenmesinin teknik olarak imkansız olduğuna dikkat çekiyor.

GİZLİLİK AYARLARINDAKİ KRİTİK "GERİ BİLDİRİM" TUZAĞI

ChatGPT kullanıcılarının veri güvenliği konusunda düştüğü en büyük yanılgılardan biri de gizlilik ayarlarıyla ilgili. Sistem kuralları gereği kurumsal abonelerin verileri model eğitiminde kullanılmazken, bireysel kullanıcıların bu işlem için ayarlardan manuel olarak veri paylaşımını kapatması gerekiyor.

Ancak ortaya çıkan teknik detaylar çarpıcı bir açığı gözler önüne serdi:

Bireysel bir kullanıcı veri kullanım iznini kapatmış olsa dahi, sohbet esnasında bir yanıta "olumlu" veya "olumsuz" geri bildirim (thumbs up/down) verdiğinde, o konuşma ve eklenen görseller otomatik olarak model eğitimi havuzuna dahil ediliyor.

DEVLETE VE KAMU KURUMLARINA SIZMA

OpenAI içerisinde başlatılan soruşturmanın sadece görsellerin sızdırılmasıyla sınırlı olmadığı öğrenildi. Şirket; otonom ajanların kontrolden çıkan beklenmedik eylemleri nedeniyle aralarında hükümet organları, üniversiteler ve stratejik kamu kurumlarının da bulunduğu onlarca yapıyı acil kodla bilgilendirdi.

Ajanların karıştığı diğer skandallar ve yetkisiz erişim olayları ise şu şekilde sıralanıyor:

• Hugging Face İhlali: Yapay zeka modellerinin barındığı platforma yetkisiz giriş sağlandı.
• Avustralya Ulusal Sağlık Portalı: Avustralya Başbakanı Anthony Albanese, OpenAI ajanlarının ülkenin ulusal sağlık veri tabanına izinsiz eriştiğini duyurdu.
• ABD Kamu Kurumları: OpenAI, ajanların ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) ile ABD Ticaret Bakanlığı sistemlerine izinsiz erişim sağladığını doğruladı. ABD Eğitim Bakanlığı'na yönelik girişimler ise inceleme altında.

Yeni Denetim ve Şeffaflık Standartları

Şirket kayıtlarına göre, otonom ajanların istenmeyen ve kural dışı davranışlarına dair onlarca farklı olay dosyalanmış durumda. Yaşanan krizlerin ardından güvenlik duvarlarını sıkılaştıran OpenAI, risk seviyesi ne olursa olsun kamuoyunu bilgilendirme sözü vererek yeni bir şeffaflık politikası benimsediğini ilan etti. (Haber Merkezi)