Yapay zekâ sektöründe güvenlik gerekçesiyle yaşanan istifalara bir yenisi eklendi. Daha önce OpenAI’da da çalışan Jacob Coxon, Anthropic’teki hisse haklarını kazanmasına kısa süre kala görevinden ayrıldı ve gerekçesini açık bir mektupla paylaştı.
Mektupta ne yazıyor
Coxon, X’te yayımladığı mektupta Anthropic ile başlıca rakibi OpenAI’ın kendini geliştiren süper zekâya doğru hızla ilerlediğini ve bu yarışın insanlık için ciddi bir risk oluşturduğunu öne sürdü. Bu alanda çalışan bazı kişilerin teknolojinin on yılın sonuna kadar insan yaşamını tehdit edebileceğine inandığını belirtti.
Coxon mektubunda sistemlerin kısa sürede her alanda insanüstü yeteneklere ulaşabileceğini savundu ve ilerlemenin yavaşlamadığını vurguladı. Anthropic’in rakiplerinin önüne geçmek için güvenlikten taviz verdiğini gözlemlemediğini, ancak yarışın ilerleyen aşamalarında denetim süreçlerinin atlanabileceğini söyledi. Modellerin test edildiklerini fark edebildiğini ve bunun artık günlük çalışmanın parçası haline geldiğini de aktardı.
Axios’a konuşan Coxon, hisse hakları kesinleşmeden ayrıldığını, dolayısıyla şirketin değerlemesinin artmasından bir kazancı kalmadığını belirtti. Eski işvereni OpenAI’daki hisselerinin ise sürdüğü aktarıldı.
Sektörden gelen değerlendirmeler
Anthropic’te yapay zekâ güvenliği alanında çalışan Hizalama Bilimi ekibinin lideri Evan Hubinger’in de benzer endişeleri paylaştığı bildirildi. Hubinger’in, önümüzdeki on yıl içinde insanlığın yok olma olasılığını yüzde 10’un üzerinde gördüklerini söylediği aktarıldı.
Sektörde “p(doom)” olarak anılan ve yapay zekânın insanlık için varoluşsal tehdit oluşturma olasılığını ifade eden tartışma uzun süredir sürüyor. Nobel ödüllü yapay zekâ araştırmacısı Geoffrey Hinton felaket olasılığını yüzde 10 ile 20 arasında değerlendiriyor. Elon Musk riski yüzde 20’ye kadar çıkarıyor; Anthropic CEO’su Dario Amodei ise işlerin çok kötü gitme ihtimalini daha önce yüzde 25 olarak açıklamıştı.
OpenAI’ın yönetim kuruluna ve güvenlik komitesine yakın zamanda katılan Paul Christiano da, yeterli hizalama sağlanmadan süper zekâ inşa edilmesi halinde kontrolün kalıcı olarak kaybedilebileceği uyarısında bulundu.