Anthropic CEO’su Dario Amodei, suni zeka modellerinin yeteneklerinin geliştirilme hızının artık daha dikkatli yönetilmesi icap ettiğini söylemiş oldu. Amodei’ye nazaran teknoloji hızla ilerlerken güvenlik mekanizmaları aynı hızda gelişemiyor ve bu durum, giderek daha yetenekli sistemlerin denetim edilmesi mevzusunda ciddi riskler yaratıyor. Amodei, yazısında suni zekanın tamamen durdurulmasını savunmadığını bilhassa altını çizdi. Aksine, ilerlemenin devam etmesini sadece araştırmacılara güvenlik önlemlerini geliştirebilmeleri için süre kazandıracak şekilde “ayarlanmasını” istedi.
BAĞIMSIZ DENETÇİLER
Amodei’nin planının ilk ayağını bağımsız güvenlik değerlendiricileri oluşturuyor. Buna nazaran suni zeka şirketleri, dışarıdan uzmanların şirket içinde çalışmasına ve modellerin güvenlik uygulamalarını direkt incelemesine izin vermeli. Bu değerlendiriciler yalnızca şirketlerin hazırladığı raporları incelemeyecek; şirket çalışanlarının haiz olduğu düzeye yakın erişimle sistemleri, model geliştirme süreçlerini ve ortaya çıkabilecek güvenlik vakalarını denetleyebilecek. Anthropic, bu uygulamayı kendi bünyesinde hayata geçirme taahhüdünde bulunmuş oldu.
ORTAK STANDART
İkinci aşamada ise suni zekâ geliştiren şirketlerin ortak güvenlik standartları üstünde anlaşması öngörülüyor. Amodei, bilhassa demokratik ülkelerde etkinlik gösteren şirketlerin suni zekâ modellerinin ne kadar süratli geliştirilebileceğine ilişkin ortak kurallar belirlemesini öneriyor. Bu yaklaşımın temel amacı, tek bir firmanın güvenlik sebebiyle yavaşlaması durumunda rakiplerinin hızlanarak avantaj elde etmesini önlemek. Amodei’ye nazaran şirketlerin birbirleriyle rekabet ederken hem de ortak güvenlik sınırlarına uyması gerekiyor.
KÜRESEL İŞ BİRLİĞİ
Planın en zor aşamasını ise internasyonal iş birliği oluşturuyor. Amodei, yalnızca ABD ve Avrupa’daki şirketlerin yavaşlamasının kafi olamayacağını, suni zekânın gelişimini etkileyen öteki ülkelerin de sürece dahil edilmesi icap ettiğini korumak için çaba sarfediyor. Bu kapsamda demokratik ülkelerin yanı sıra Çin şeklinde otoriter yönetimlerle de belirli güvenlik kuralları üstünde anlaşmaya çalışılması öneriliyor. Amodei, bilhassa biyolojik tabanca geliştirilmesi şeklinde yüksek risk taşıyan alanlarda internasyonal yasakların oluşturulmasını örnek gösteriyor.
AMAÇ DURDURMAK DEĞİL
Amodei, suni zekânın insanlık açısından büyük faydalar sağlayabileceğine ilişkin görüşünü de koruyor. Hastalıkların tedavisinden ekonomik büyümeye kadar oldukca sayıda alanda mühim ilerlemeler sağlayabilecek bir teknolojiden söz edildiğini belirten Anthropic CEO’su, aslolan meselenin bu potansiyeli kaybetmeden riskleri denetim altına almak bulunduğunu korumak için çaba sarfediyor.
