Yapay zekanın gelişim hızı sektörde kaygı yaratıyor

Anthropic çalışanı Samuel Marks, X hesabından Coxon'un açıklamalarını değerlendirdi. Marks, yapay zeka geliştiricilerinin ileri düzey sistemlerin insanlık açısından ciddi riskler oluşturabileceğinin farkında olduklarını ve bazı çalışanların söz konusu risklerin gelecek birkaç yıl içinde ortaya çıkabileceğini düşündüğünü belirtti.

Teknolojinin bu risklere rağmen geliştirilmeye devam edilmesini ticari teşvikler ve şirketler arasındaki rekabetle ilişkilendiren Marks, geliştiriciler arasında daha az sorumlu aktörlerin teknolojiyi kötüye kullanabileceğine yönelik bir yaklaşım bulunduğunu ifade etti.

Marks ayrıca geleneksel yazılımlardan farklı olarak yapay zeka sistemlerinin istenilen davranışı gösterecek biçimde doğrudan programlanamadığına dikkati çekti. Mevcut yöntemlerin sistemleri belirli davranışlara yönlendirebildiğini ancak tam uyumluluğu sağlayan bir yöntemin bulunmadığını savundu.

Pachocki daha kapsamlı önlemlere dikkat çekti

OpenAI Başbilimcisi Jakub Pachocki de makine zekasının hızlı gelişimine ilişkin değerlendirmede bulundu. Pachocki, makine zekasındaki hızlı artışın devam etmesi halinde ortaya çıkabilecek sonuçlara yeterince hazırlıklı olunmadığı konusunda endişe taşıdığını belirtti.

OpenAI'nin yapay zeka sistemlerinin uyumlandırılması ve izlenmesine yönelik çalışmalarını sürdüreceğini kaydeden Pachocki, mevcut çalışmaların yanında daha kapsamlı önlemlere ihtiyaç bulunduğunu ifade etti.

Eski DeepMind çalışanlarından açıklamalar geldi

Google DeepMind'ın eski çalışanı Alex Turner da Coxon'un açıklamasını paylaşarak yapay zeka güvenliğine ilişkin kaygılarını aktardı. Haziran 2026'da DeepMind'daki görevinden ayrıldığını belirten Turner, bazı araştırmacıların geliştirdikleri teknolojinin geniş çaplı riskler yaratabileceğini düşündüğünü söyledi.

OpenAI araştırmacısı Jason Wolfe ise yapay zekanın insanlığın yok oluşuna yol açma olasılığının ne düzeyde olduğunu bilmediğini ancak teknolojinin insanlık açısından olumsuz sonuçlar yaratabileceği birçok senaryo bulunduğunu ifade etti.

Wolfe, yapay zekanın kapasitesindeki artışın tek bir şirket veya ülke tarafından yönetilebilecek bir konu olmadığını belirterek koordinasyon ihtiyacına işaret etti.

Laboratuvarların sahip olduğu güç de tartışılıyor

Google DeepMind'ın eski kıdemli araştırmacısı Jonathan Richard Schwarz, yapay zeka laboratuvarlarının elinde toplanan güce ilişkin kaygıları nedeniyle DeepMind'dan 7 yıl önce ayrıldığını açıkladı. Schwarz, daha sonra sektörden aldığı teklifleri de reddettiğini belirterek mevcut gelişmeleri toplum açısından "son derece sağlıksız" olarak nitelendirdi.

Sektördeki açıklamalar yalnızca yapay zeka modellerinin teknik güvenliği üzerinde değil, ileri düzey sistemleri geliştiren şirketlerin sahip olduğu güç, rekabet koşulları ve şirketler arası koordinasyon üzerinde de yoğunlaşıyor.

Coxon istifasının gerekçesini açıklamıştı

Son üç yılda OpenAI ve Anthropic bünyesinde araştırmacı olarak çalıştığını belirten Jacob Coxon, X üzerinden yaptığı açıklamada iki şirketin de yeterince sorumlu hareket etmediğini savunarak Anthropic'ten ayrıldığını duyurmuştu.

Coxon, şirketlerin kendi kendini geliştirebilen süper zekaya ulaşmak için rekabet ettiğini öne sürerek gelecekteki sistemlerin siber güvenlik, bilimsel çalışmalar ve farklı sektörlerde insanüstü kapasitelere ulaşabileceğini iddia etmişti.

Coxon ayrıca yapay zeka sektöründeki bazı çalışanların ileri düzey sistemlerin gelecek 10 yıl içinde insanlık açısından varoluşsal risk oluşturabileceğine inandığını öne sürmüştü. Açıklamalarda yer alan söz konusu değerlendirmeler, ilgili araştırmacıların görüş ve iddialarını yansıtıyor.