Amodei, internet sitesinden yayımladığı makalesinde, yapay zekanın, kontrolünün kaybedilmesi, siber saldırı ve biyoterörizm amacıyla kötüye kullanılması gibi riskler taşıdığını belirtti.
Yapay zeka sektörünün son aylarda çok daha hızlı ilerlemeye başladığına işaret eden Amodei, şirketlere yapay zeka modellerinin geliştirilme hızının düşürülmesi çağrısı yaptı.
Amodei, "Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz." ifadesini kullandı.
"Üç aşamalı plan" önerisi
Amodei, endişelerinin nedenlerinden birinin, OpenAI şirketi tarafından yapılan bir siber güvenlik testinde yapay zeka ajanlarının bağımsız hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirmesi olduğunu aktardı.
Bu tür gelişmelerin yapay zeka sistemlerinin kontrolüne ilişkin endişeleri artırdığını vurgulayan Amodei, yapay zekanın faydalarından yararlanmayı sürdürürken güvenliğini de sağlamayı amaçlayan üç aşamalı bir plan önerdi.
Planın ilk aşamasının, Anthropic'in kendi başına uygulamayı taahhüt ettiği ve diğer yapay zeka şirketlerinin de uyması için hükümetlere düzenleme çağrısı yaptığı önlemleri içerdiğini kaydeden Amodei, ikinci aşamada sektör genelinde, üçüncü aşamada ise küresel düzeyde koordinasyon gerektiğinin altını çizdi.
Coxon'un istifası
OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak çalışan Jacob Coxon, iki şirketin de yapay zeka konusunda yeterince sorumlu davranmadığını savunarak Anthropic'ten istifa etmişti.
Şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri için kontrolsüz bir yarış içinde olduğunu ileri süren Coxon, "Bunlar yakında her şeyi hackleyebilecek, herhangi bir alanı bir gecede dönüştürebilecek, gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelecek." ifadelerini kullanmıştı.
Coxon ayrıca, yapay zeka modellerini geliştiren sektör çalışanlarının, bu sistemlerin 10 yıl içinde "insanlığı öldürebileceğine" ciddi şekilde inandığını öne sürmüştü.
