Yapay zeka şirketi Anthropic’in CEO’su Dario Amodei, “yapay zeka modellerinin geliştirilme hızını düşürme” çağrısında bulundu. Bu çağrıya Tesla ve SpaceX CEO’su Elon Musk ve OpenAI’ın CEO’su Sam Altman’dan destek geldi.
HABER MERKEZİ – Yapay zeka şirketi Anthropic’in CEO Dario Amodei, yapay zeka sistemlerinin kontrol edilmesine ilişkin endişelerin artmasıyla şirketlere “yapay zeka modellerinin geliştirilme hızını düşürme” çağrısında bulundu.
Amodei, internet sitesinden yayımladığı makalesinde, yapay zekanın, kontrolünün kaybedilmesi, siber saldırı ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.
Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığına işaret eden Amodei, şirketlere yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısı yaptı.
Amodei, “Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz” ifadesini kullandı.
Amodei, endişelerinin nedenlerinden birinin, OpenAI şirketi tarafından yapılan bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirmesi olduğunu aktardı.
Bu tür gelişmelerin yapay zeka sistemlerinin kontrolüne ilişkin endişeleri artırdığını vurgulayan Amodei, yapay zekanın faydalarından yararlanmayı sürdürürken güvenliğini de sağlamayı amaçlayan üç aşamalı bir plan önerdi.
Planın ilk aşamasının, Anthropic’in kendi başına uygulamayı taahhüt ettiği ve diğer yapay zeka şirketlerinin de uyması için hükümetlere düzenleme çağrısı yaptığı önlemleri içerdiğini kaydeden Amodei, ikinci aşamada sektör genelinde, üçüncü aşamada ise küresel düzeyde koordinasyon gerektiğinin altını çizdi.
MUSK VE ALTMAN’DAN DESTEK
Tesla ve SpaceX CEO’su Elon Musk, Amodei’ye destek mesajı verdi. Musk, sosyal medya hesabından, Amodei’nin söz konusu paylaşımını alıntılayarak “Dario haklı” yorumunda bulundu.
ABD merkezli yapay zeka şirketi OpenAI’ın CEO’su Sam Altman da sosyal medya hesabından, Amodei’ye destek verdi.
Altman, ilgili paylaşımında, “Dario’nun, sınır teknolojisi çalışmalarının hızını kontrollü bir şekilde ayarlamamız gerektiği yönündeki görüşüne katılıyorum” ifadesini kullandı.
Bu konunun son haftalarda OpenAI’da yürütülen tartışmaların başlıca gündem maddelerinden biri olduğuna işaret eden Altman, “Çalışanlarla benzer düzeyde erişim yetkisine sahip bağımsız değerlendiricilerle çalışma taahhüdünde bulunmak harika bir fikir; biz de aynı uygulamayı hayata geçireceğiz. Yakında bu konuda daha fazla bilgi paylaşacağız” ifadelerini kullandı.
COXON’UN ENDİŞE VERİCİ AÇIKLAMASI VE İSTİFASI
OpenAI ve Anthropic’te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic’ten istifa etmişti.
Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu kaydeden Coxon, “Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek” ifadelerini kullanmıştı.
Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde “insanlığı öldürebileceğine” ciddi şekilde inandığını öne sürmüştü.
