Yapay Zekâ devlerinde istifa depremi: “Dünya Tehlikede” uyarısı

TİGRİS HABER - OpenAI, Anthropic ve xAI bünyesindeki araştırmacı ve yöneticilerin istifaları; yapay zekâ güvenliği, kullanıcı verilerinin korunması, ticarileşme baskısı ve içerik denetimi tartışmalarını yeniden alevlendirdi.

Anthropic’te güvenlik araştırmacısından “küresel risk” uyarısı

Anthropic’te güvenlik çalışmaları yürüten araştırmacı Mrinank Sharma, kamuoyuna açıkladığı istifa mektubunda yalnızca yapay zekâdan değil; biyolojik silahlar ve birbirine bağlı küresel krizlerden oluşan daha geniş bir tehdit alanından söz etti. Sharma, kurum içindeki değerler ile uygulamalar arasında uyumsuzluk yaşandığını ima ederek görevinden ayrıldığını duyurdu.

Şirket bünyesinde yapay zekâ sistemlerinin “aşırı uyumlu” davranışları, biyoterör riskleri ve dijital asistanların insan davranışı üzerindeki etkileri gibi başlıklarda çalışan Sharma’nın, istifasının ardından İngiltere’ye dönerek akademik ve edebi projelere odaklanacağı belirtildi.

Anthropic son dönemde farklı iddialarla da gündeme gelmişti. ABD basınında yer alan haberlerde, şirketin geliştirdiği Claude modelinin bazı güvenlik operasyonlarında kullanıldığı öne sürülmüş, konu kamuoyunda tartışma yaratmıştı.

OpenAI’da reklam ve veri tartışması

Benzer bir ayrılık OpenAI cephesinde yaşandı. Şirket araştırmacılarından Zoe Hitzig, ChatGPT’ye reklam entegre edilmesi planına yönelik “derin çekinceleri” olduğunu belirterek görevinden ayrıldığını açıkladı.

Hitzig, kullanıcıların ChatGPT ile kurduğu etkileşimin zamanla benzersiz bir “açıklık arşivi” oluşturduğunu savunarak, reklam temelli bir modelin bu verilerin kötüye kullanımına zemin hazırlayabileceğini dile getirdi. Yapay zekâ araçlarının ruh sağlığı üzerindeki etkilerinin henüz yeterince anlaşılmadığını da vurgulayan araştırmacı, sosyal medya örneğini hatırlatarak düzenleyici çerçevenin gecikmeden oluşturulması gerektiğini ifade etti.

Şirket yönetimi ise reklamların yapay zekâ yanıtlarını etkilemeyeceğini ve kullanıcı verilerinin reklamverenlere satılmayacağını açıkladı. CEO Sam Altman, daha önce reklam modelini “son çare” olarak nitelendirmiş; ancak artan rekabet ve gelir baskısı nedeniyle farklı iş modellerinin değerlendirildiğini belirtmişti.

“Yetişkin modu” polemiği ve görev değişiklikleri

OpenAI’da dikkat çeken bir başka gelişme ise üst düzey güvenlik yöneticisi Ryan Beiermeister’in görevden alınması oldu. ABD basınında yer alan haberlere göre Beiermeister, ChatGPT’de “yetişkin modu” olarak anılan ve cinsel içerikli konuşmalara izin verebilecek özelliklere karşı çıkıyordu.

Şirket, ayrılığın ayrımcılık iddialarıyla bağlantılı olduğunu açıklarken; Beiermeister iddiaları reddetti ve kararın güvenlik kaygılarıyla ilişkili olduğunu öne sürdü.

Ayrıca OpenAI’ın “Mission Alignment” adlı güvenlik ekibini dağıttığı ve gelişmiş muhakeme modelleri üzerinde çalışan bazı isimlerin de şirketten ayrıldığı bildirildi. Öte yandan şirketin yeni bir yatırım turu için milyarlarca dolarlık görüşmeler yürüttüğü ve ABD ordusuyla çeşitli sözleşmeler imzaladığı açıklandı. ChatGPT’nin belirli kamu kurumlarında ve askeri personel tarafından kullanımına yönelik adımlar, teknoloji–savunma iş birliği tartışmalarını da beraberinde getirdi.

xAI’de içerik krizi ve yeniden yapılanma

xAI tarafında ise kurucu ortaklar ve mühendisler dahil olmak üzere birçok üst düzey ismin ayrıldığı bildirildi. Şirketin sohbet botu Grok’un bir dönem rıza dışı cinsel içerikli görseller üretebildiği yönündeki eleştiriler küresel tepkiye yol açmış; firma daha sonra sistemde kapsamlı güncellemeler yaptığını duyurmuştu.

xAI’nin, Elon Musk’ın uzay şirketi SpaceX ile organizasyonel entegrasyon sürecine girdiği ve bu yeniden yapılanmanın da istifalarda etkili olabileceği belirtiliyor.

“Dalga mı, dönüşüm mü?”

Akademik çevreler ise yaşananları tek başına bir “istifa dalgası” olarak tanımlamıyor. University of Cambridge bünyesinden Dr. Henry Shevlin, ayrılıkların yeni olmadığını; ancak sektörün hızla büyümesiyle birlikte daha görünür hâle geldiğini ifade ediyor.

Uzmanlara göre yapay zekâ şirketlerindeki ayrılıklar; hızlanan ticarileşme baskısı, etik ilke arayışları ve güvenlik standartlarının netleşmemesiyle doğrudan bağlantılı. Sektör temsilcileri arasında görüş ayrılıkları sürse de, yapay zekânın küresel ölçekte ekonomik ve toplumsal etkilerinin derinleştiği bir dönemde şirketlerin “kritik bir eşikte” bulunduğu konusunda geniş bir mutabakat oluşmuş durumda.