Suni zeka dünyasında peş peşe gelen gelişmeler, mahremiyet ve güvenlik tartışmasını büyüttü. Brezilya’da 36 yaşındaki bir kişinin ChatGPT ile yapmış olduğu yazışmaların arkasından gözaltına alınması, hususi konuşmaların hangi noktada güvenlik birimleriyle paylaşılabileceği sorusunu gündeme taşıdı. Öte taraftan OpenAI CEO’su Sam Altman ise suni zekâ şirketlerinin fazla güç kazanabileceğini ve sistemlerde “denetim kaybı” yaşanabileceğini söylemiş oldu.
KORKUNÇ YAZIŞMALAR
Brezilya’nın Espirito Santo eyaletinde yaşayan 36 yaşındaki bir çiftçinin, ortalama iki ay süresince ChatGPT ile sekiz yaşındaki oğlunu öldürmeye ilişkin konuşmalar yapmış olduğu öne sürüldü. Soruşturma dosyasına yansıyan bilgilere nazaran yazışmalarda tabanca, zehir ve çocuğa zarar verilmesine ilişkin senaryolar bulunuyordu. Şüphelinin bir kiralık katil bulmaya çalmış olduğu ve bunun için para teklif etmiş olduğu de iddialar içinde yer aldı.
FBI’A BİLDİRİLDİ
OpenAI sistemlerinin konuşmaları ciddi bir fizyolojik zarar riski olarak değerlendirdiği, durumun FBI’a bildirildiği ve buradan Brezilyalı yetkililere ulaştırılmış olduğu aktarıldı. Polis şüphelinin evinde çeşitli maddelerin bulunmuş olduğu şişeler ve bir ip ele geçirirken, kişinin zehirli maddeler mevzusunda araştırmalar yapmış olduğu da öne sürüldü. Sadece vaka hukuk tartışmasını da bununla beraber getirdi. Şüpheli 54 gün tutuklu kaldıktan sonrasında özgür bırakıldı. Avukatı, müvekkilinin yalnızca “saçma sapan şeyler” yazdığını, ortada işlenmiş bir kabahat bulunmadığını savundu.
CHATGPT POLİSE İHBAR EDER Mİ?
OpenAI’nin politikası, her sertlik içerikli konuşmanın polise göndermiş olduğu anlamına gelmiyor. Şirket, sadece yakın, ciddi ve inandırıcı fizyolojik zarar tehdidi bulunmuş olduğu değerlendirildiğinde güvenlik birimlerine bildirim yapılabileceğini belirtiyor. Tartışmalar sürerken OpenAI CEO’su Sam Altman’dan dikkat çekici bir çıkış geldi. Altman, suni zeka geliştiren bazı şirketlerin iktisat üstünde gereğinden fazla güç kazanabileceğini ve insanlara belirli bir dünya görüşünü dayatabileceklerini söylemiş oldu. Daha çarpıcı uyarısı ise sistemlerin kontrolüyle ilgiliydi. Altman, suni zekada ciddi bir “denetim kaybı kazası” yaşanabileceğini belirtirken, oldukça fazla gücün belirli şirketlerin yada kişilerin elinde toplanmasının da büyük risk oluşturduğunu beyan etti.
ASIL TEHLİKE NE?
Uzmanlara nazaran suni zekadaki münakaşa artık yalnızca iş kaybı yada teknolojik dönüşüm üstünden yürümüyor. Bir yanda suni zeka şirketleri kullananların konuşmalarını güvenlik sebebi öne sürülerek çözümleme ederken, diğer yanda aynı şirketlerin yöneticileri, ellerinde biriken gücün kendisinin tehlikeli hale gelebileceğini söylüyor.

