Yapay zekayı 'yavaşlatma' çağrısı! Peş peşe uyarılar geldi

Amodei, yayımladığı makalede yapay zekanın kontrolünün kaybedilmesi, siber saldırılarda kullanılması ve biyoterörizm gibi amaçlarla kötüye kullanılmasının ciddi riskler oluşturduğunu belirtti. 

Son aylarda yapay zeka sektöründeki ilerlemenin belirgin şekilde hızlandığını ifade eden Amodei, bu sürecin daha kontrollü yürütülmesi gerektiğini savundu.

“Yapay zeka modellerinin kabiliyetlerini geliştirme hızımızı yavaşlatmalıyız. İlerleme yine hızlı görünebilir ama kazandığımız zamanı daha akıllıca kullanmaya özen göstermeliyiz.” diyen Amodei, güvenlik çalışmalarına daha fazla zaman ayrılması gerektiğini vurguladı.

Amodei'den üç aşamalı plan

Amodei'nin endişelerini artıran gelişmelerden biri, OpenAI tarafından gerçekleştirilen bir siber güvenlik testi oldu. 

Test sırasında yapay zeka ajanlarının bağımsız şekilde hareket ederek Hugging Face platformunun altyapısındaki sistemlere yönelik siber saldırılar gerçekleştirdiğini belirten Amodei, bu tür örneklerin yapay zeka sistemlerinin kontrolüne ilişkin kaygıları artırdığını ifade etti.

Yapay zekanın sunduğu imkanlardan yararlanmaya devam ederken güvenlik risklerinin azaltılmasını amaçlayan Amodei, üç aşamalı bir plan önerdi.

Planın ilk aşamasında Anthropic'in kendi bünyesinde uygulamayı taahhüt ettiği güvenlik önlemlerinin yanı sıra, diğer yapay zeka şirketlerinin de benzer kurallara uyması için hükümetlerin düzenleme yapması gerektiği belirtildi.

İkinci aşamada sektör genelinde, üçüncü aşamada ise küresel ölçekte koordinasyon sağlanması gerektiği kaydedildi.

Musk ve Altman'dan destek

Amodei'nin çağrısına Tesla ve SpaceX CEO'su Elon Musk'tan destek geldi.

Musk, Amodei'nin paylaşımını alıntılayarak “Dario haklı.” yorumunu yaptı.

OpenAI CEO'su Sam Altman da Amodei'nin yapay zeka çalışmalarının hızının kontrollü şekilde ayarlanması gerektiği yönündeki görüşüne katıldığını açıkladı.

Altman, bunun son haftalarda OpenAI içerisinde yürütülen tartışmaların önemli başlıklarından biri olduğunu belirterek, çalışanlarla benzer erişim yetkilerine sahip bağımsız değerlendiricilerle çalışılması fikrini destekledi. 

Altman, OpenAI'ın da bu uygulamayı hayata geçireceğini ve yakında konuya ilişkin daha fazla bilgi paylaşacağını söyledi.

Anthropic araştırmacısı Coxon istifa etmişti

Öte yandan OpenAI ve Anthropic'te son üç yıldır araştırmacı olarak görev yapan Jacob Coxon, iki şirketin yapay zeka geliştirme konusunda yeterince sorumlu davranmadığını savunarak Anthropic'teki görevinden ayrılmıştı.

Coxon, şirketlerin kendi kendini geliştirebilen yapay zeka sistemleri konusunda kontrolsüz bir yarış içerisinde olduğunu ileri sürmüştü. 

Yapay zeka sistemlerinin kısa sürede çok daha güçlü hale gelebileceğini savunan Coxon, bu sistemlerin insanüstü yeteneklere ulaşabileceği uyarısında bulunmuştu.

Coxon ayrıca, sektörde çalışan bazı kişilerin yapay zeka modellerinin önümüzdeki 10 yıl içerisinde “insanlığı öldürebileceğine” ciddi biçimde inandığını öne sürmüştü.