Anthropic’in kıdemli araştırmacısı Jacob Coxon’ın insanlığa uyarılarda bulunarak görevinden çekilme etmesi değişen teknolojinin denetim dışı yönüne ilişkin tartışmaları da tekrardan gündeme getirdi. Felsefeci Martin Heidegger, 1954’te piyasaya çıkan Tekniğe İlişkin Sual’da çağdaş teknolojiyi yalnızca insanoğlunun kullandığı yansız araçlar toplamı olarak görmedi; teknolojik düşüncenin dünyayı ve insanı devamlı kullanıma hazır birer “kaynak” olarak görme tehlikesine dikkat çekti. Bir öteki meşhur felsefeci Andrew Feenberg ise değişen teknolojinin kaçınılmaz halde kendi başına ilerleyen bağımsız bir güç olmadığını, tasarımının toplumsal çıkarlar ve iktidar ilişkileri tarafınca biçimlendirildiğini savunarak çözümü değişen teknolojinin demokratik denetiminde aradı. Bu köklü tartışmalar şimdi, dünyanın en büyük suni zeka şirketlerinden birinin içinden gelen çarpıcı bir istifayla tekrardan gündemde.
“HİÇBİR ŞİRKET SORUMLU DAVRANMIYOR”
Daha ilkin OpenAI’da, son olarak Anthropic’te yeni suni zeka modellerinin eğitimi üstünde çalışan 27 yaşındaki Jacob Coxon, 8 Eylül’de görevinden ayrıldığını deklare etti. Son üç yılını iki şirkette geçiren Coxon, sektörün kendi kendini geliştirebilecek süper zeka yaratmak için yarıştığını belirterek, “Hiçbir şirket görevli davranmıyor” suçlamasında bulunmuş oldu. Coxon’a nazaran suni zekayı geliştiren birçok şahıs sistemlerin on senenin sonuna kadar insanlık için varoluşsal tehdit oluşturabileceğini düşünüyor.
Heidegger’den Andrew Feenberg’e uzanan teknoloji felsefesi, değişen teknolojinin insan ve cemiyet üstündeki gücü ve tesirini neredeyse bir asırdır tartışıyor. Suni zekaya ilişkin meydana getirilen ikazlar da bu eski tartışmayı tekrardan gündeme getirdi. (The Martin Heidegger Society)
1 ASIRLIK FELSEFE TARTIŞMASI
Alman düşünür Martin Heidegger’in eleştirisinin merkezinde çağdaş değişen teknolojinin insanoğlunun dünyayla kurduğu ilişkiyi değiştirmesi bulunuyordu. Heidegger, çağdaş değişen teknolojinin doğayı ve bununla beraber insanı düzenlenebilir ve kullanılabilir bir “hazırda kaynak” olarak açığa çıkardığını savundu. Kanadalı teknoloji filozofu Andrew Feenberg ise Heidegger’in açmış olduğu tartışmayı Frankfurt Okulu ve bilhassa Herbert Marcuse üstünden toplumsal ve siyasal alana taşıdı. Feenberg’e nazaran teknolojik sistemler yansız değiller. Teknolojiler toplumsal değerleri, güç ilişkilerini ve onları tasarlayan kurumların tercihlerini taşıyabiliyorlar. Buna rağmen Feenberg, “demokratik rasyonelleşme” yaklaşımıyla, değişen teknolojinin yönünün kullananların ve toplumun müdahalesiyle değiştirilebileceğini de savundu.
BOSTROM’DAN HINTON’A AYNI ENDİŞE
Oxfordlu felsefeci Nick Bostrom, tartışmayı direkt süper zekaya taşıdı. 2014 tarihindeki Superintelligence kitabında insan zekasını aşan bir sistemin amaçları insanlığın çıkarlarıyla uyumlu tutulamazsa ortaya bir “denetim problemi” çıkacağını savundu. Suni zekanın öncü araştırmacılarından Geoffrey Hinton ve Yoshua Bengio da son yıllarda risk mevzusunda açık uyarılarda bulunmuş oldu. Hinton, insanlardan daha akıllı sistemlerin denetim altında tutulmasının fazlaca zor bulunduğunu söylerken Bengio, firmalar ve devletler arasındaki suni zeka yarışının güvenliği ikinci plana itmesinden kaygı duyduğunu belirtti.
