Anthropic araştırmacısı istifa etti: Yapay zekâ yarışında “süperzekâ” uyarısı

TİGRİS HABER - Daha önce OpenAI’da da çalışan Coxon, iki şirketin insanlık açısından ciddi riskler taşıyabilecek süperzekâ sistemlerini geliştirmek için tehlikeli bir yarışa girdiğini savundu.

Yapay zekâ sektöründe şirketlerin daha güçlü modeller geliştirmek için yürüttüğü yarış, sektör çalışanlarından gelen eleştirilerle yeniden tartışılmaya başlandı.

Claude’un geliştiricisi Anthropic’te son üç yıldır yapay zekâ modelleri üzerinde çalışan Jacob Coxon, görevinden ayrıldığını duyurdu. Daha önce OpenAI’da da görev yapan Coxon, artık yapay zekâ sektöründe çalışmak istemediğini açıkladı.

Coxon’ın istifasının arkasındaki temel gerekçenin, yapay zekânın gelecekte insanlardan çok daha güçlü hale gelmesine ilişkin endişeleri olduğu belirtildi.

“ŞİRKETLER SÜPERZEKÂ YARIŞINA GİRDİ”

Coxon, OpenAI ve Anthropic başta olmak üzere büyük yapay zekâ şirketlerinin kendi kendini geliştirebilen sistemleri ilk geliştiren taraf olabilmek için yarıştığını savundu.

Bu sistemlerin ilerleyen dönemde bilgisayar sistemlerine sızma, farklı alanlarda insanlardan çok daha hızlı ilerleme ve kontrol edilmesi zor yetenekler kazanma ihtimaline dikkat çeken araştırmacı, gelişmiş yapay zekânın uzun vadede insanlık için varoluşsal bir tehdit oluşturabileceğini söyledi.

Coxon’ın açıklamalarındaki en dikkat çekici noktalardan biri ise bu risklerin sektör içerisindeki bazı araştırmacılar ve yöneticiler tarafından da bilindiği yönündeki değerlendirmesi oldu.

Araştırmacıya göre birçok çalışan, gelişmiş yapay zekânın önümüzdeki yıllarda ciddi bir tehdit oluşturabileceğinin farkında. Buna rağmen şirketler, rakiplerinin gerisinde kalma endişesiyle geliştirme yarışını sürdürmeye devam ediyor.

“BAŞKALARI YAPACAKSA BİZ DAHA SORUMLU YAPALIM” YAKLAŞIMI

Coxon, OpenAI ile Anthropic’in yapay zekâ risklerine bakışının aynı olmadığını ancak iki şirketin de mevcut yarışın parçası haline geldiğini belirtti.

Araştırmacıya göre OpenAI içerisinde yapay zekânın oluşturabileceği riskleri yeterince önemsemeyen kişiler bulunuyor. Anthropic’te ise risklere yönelik farkındalık daha yüksek olsa da şirket, başka şirketlerin aynı teknolojileri geliştireceği düşüncesiyle yarıştan çekilmiyor.

Coxon, “Başkaları yapacaksa bizim daha sorumlu şekilde yapmamız gerekir” anlayışının şirketleri daha hızlı hareket etmeye ittiğini ve bunun tehlikeli bir kısır döngü oluşturduğunu savundu.

Araştırmacı, süperzekâ geliştirme yarışının yalnızca şirketlerin kendi kararlarına bırakılmaması gerektiğini belirterek ülkelerin ortak hareket etmesi ve gerektiğinde yapay zekâ geliştirme çalışmalarının geçici olarak yavaşlatılması çağrısında bulundu.

OPENAI VE ANTHROPİC ARASINDA MATEMATİK TARTIŞMASI

Coxon’ın açıklamaları, OpenAI ile Anthropic arasındaki rekabetin gündeme geldiği başka bir tartışmanın hemen sonrasında geldi.

OpenAI’nin onlarca yıldır çözülemeyen Navier-Stokes problemine yönelik bir çözüm geliştirdiğini açıklaması, yapay zekânın bilimsel araştırmalardaki kapasitesine ilişkin dikkat çekici bir gelişme olarak duyuruldu.

Ancak kısa süre sonra çalışmanın nasıl ortaya çıktığı konusunda soru işaretleri oluştu.

New York Üniversitesi’nden matematikçi Tristan Buckmaster ile Anthropic araştırmacısı Levent Alpöge’nin aynı problem üzerinde çalıştığı ve çalışmalarını kamuoyuna açıklamadan önce önemli bir ilerleme kaydettiği ortaya çıktı.

Buckmaster, OpenAI’nin kendi çalışmalarından haberdar olduğunu ve ardından benzer bir yönde ilerleyerek yüksek miktarda hesaplama gücü kullandığını öne sürdü.

“ÖZEL ÇALIŞMALARA ERİŞİLDİ Mİ?” SORUSU

Tartışmanın merkezindeki konulardan biri, araştırmacıların çalışmalarını OpenAI’nin Codex sistemi üzerinden yürütmüş olması oldu.

Buckmaster, çalışmalarının özel Codex oturumlarında bulunduğunu belirterek bu oturumlara veya araştırmalarına erişilip erişilmediğini sorguladı.

OpenAI ise araştırmacıların özel çalışmalarına ya da verilerine erişmediğini savundu. Şirket, geliştirdiği çözümün Anthropic araştırmacılarının çalışmaları kamuoyuna açıklanmadan önce bu çalışmalara dayanmadığını belirtti.

Bununla birlikte şirket, ürünlerin kullanımından elde edilen kimliği belirlenemeyen verilerin modellerin geliştirilmesine dolaylı katkı sağlamış olabileceği ihtimalini tamamen dışlamadı. OpenAI ayrıca kendi geliştirdiği çözümün araştırmacıların çalışmasından farklı olduğunu ifade etti.

BİNLERCE YAPAY ZEKÂ AJANIYLA ÇALIŞMA

OpenAI’nin açıklamasına göre şirket, 1 Eylül’de iki büyük matematik probleminin çözüldüğüne ilişkin bir söylenti duyduktan sonra Navier-Stokes problemi üzerinde çalışmaya başladı.

Şirket, yaklaşık 10 bin yapay zekâ ajanının kullanıldığı süreç sonunda probleme yönelik bir çözüm geliştirdiğini açıkladı.

Bu gelişme yapay zekâ sistemlerinin karmaşık bilimsel problemlerde kullanılması açısından önemli görülürken, aynı zamanda şirketlerin sahip olduğu yüksek hesaplama kapasitesi ile bağımsız araştırmacıların imkanları arasındaki farkı da gündeme getirdi.

Ancak OpenAI’nin kısa sürede sonuca ulaşması, araştırmacıların çalışmalarına erişilip erişilmediğine ilişkin tartışmayı tamamen sona erdirmedi. Şu ana kadar bu yönde kesin bir kanıt ortaya konulmuş değil.

COXON: ASIL TEHLİKE YARIŞIN KENDİSİ

Navier-Stokes problemi etrafındaki tartışma, yapay zekâ sektöründeki rekabetin yalnızca teknolojik başarılarla sınırlı olmadığını da ortaya koydu.

Coxon’ın istifası ise tartışmayı daha geniş bir noktaya taşıdı. Araştırmacıya göre bugün matematik problemlerini çözmek için kullanılan gelişmiş yapay zekâ sistemleri, gelecekte çok daha kapsamlı ve öngörülemez yetenekler kazanabilir.

Coxon, süperzekâ geliştirme sürecinin “nasıl olsa bir başkası yapacak” anlayışıyla hızlandırılmasının ciddi riskler taşıdığını savunuyor.

Araştırmacının istifası, yapay zekâ şirketlerinin rekabeti ile güvenlik endişeleri arasındaki gerilimi bir kez daha gündeme getirirken, sektörün geleceğinde “daha güçlü yapay zekâ mı, daha güvenli yapay zekâ mı?” sorusunun belirleyici olabileceğine işaret ediyor. (Haber Merkezi)