Dünya genelinde suni zeka teknolojileri, hem fırsatları hem de ürkütücü riskleri gün yüzüne çıkaran yeni bir raporla gündeme geldi. ‘Internasyonal Suni Zeka Güvenlik Raporu’nda, suni zekanın yeteneklerinin çarpıcı bir hızla arttığı vurgulanırken, bunun bununla beraber ciddi tehlikeler de getirdiğine dikkat çekildi. Rapora gore son dönemde OpenAI, Google ve benzeri teknoloji devlerinin geliştirdiği modeller, matematik, bilim ve yazılım mühendisliği benzer biçimde alanlarda insan benzeri yada üstü başarılara imza atacak kadar yetkin hale geldi. Mesela bazı sistemler internasyonal matematik olimpiyatlarında “altın madalya” seviyesinde performans gösterdi. Sadece bu ilerleme, sistemlerin hâlâ tutarsızlıklar ve uzun soluklu görevlerde güvenilirlik sorunları yaşaması benzer biçimde ciddi sınırlamalarla beraber geliyor.
Rapor, bir tek teknolojik risklere değil, cemiyet psikolojisine ilişkin endişelere de yer veriyor.
GERÇEKÇİ GÖRÜNTÜLER
Raporda en mühim bulgulardan biri, deepfake teknolojisinin; şu demek oluyor ki suni zekâyla sentezlenmiş ses ve görüntülerin hem daha gerçekçi hem de daha yaygın hale geldiğine dikkat çekilmesi oldu. Bilhassa AI üretilmiş pornografi içeriklerinin yayılması “bilhassa kaygı verici” olarak nitelendirildi. Bazı araştırmalar, yetişkinlerin mühim bir kısmının bu tür içeriklerle karşılaştığını gösteriyor ve suni zeka kaynaklı materyallerin gerçek olup olmadığını ayırt etmenin giderek zorlaştığı açıklandı.
İTİBAR SUİKASTI
Rapora gore bu derin düzmece içerikler bir tek kişisel itibarları zedelemekle kalmıyor; siber güvenlik risklerini de artırıyor ve dolandırıcılık amaçlı kullanımını güçlendiriyor. Suni zekâ destekli deepfake’lerin düzmece kimlikler ve manipülatif kampanyalar için yaygın bir vasıta hâline gelmesi, küresel dijital güvenlik gündemini sarsıyor. Rapor, bir tek teknolojik risklere değil, hem de toplumun psikolojisine ilişkin endişelere de yer veriyor.
GENÇLER TEHLİKEDE
Raporda giderek daha çok insanoğlunun duygusal destek için AI chatbot’lara yöneldiği ve bazı kullananların bu sistemlere “patolojik” düzeyde bağlandığı belirtiliyor. Gençler ve savunmasız bireylerde bu tür bağımlılıkların, toplumsal yalıtım ve gerçek dünyadaki ilişkilerden kopma benzer biçimde sorunları tetikleyebileceği uyarısı yapılmış oldu. Bu kaygılar, başka araştırmalarla da destekleniyor; bazı uzmanlar chatbot’larla gelişen ilişkilerin bilhassa gençlerde ruhsal sağlığı negatif etkileyebileceğini, bağımlılık benzeri davranışlara yol açabileceğini söylüyor.
SİBER SALDIRI RİSKİ
Raporda suni zekânın siber hücum amaçlı kullanım kapasitesi de ele alındı. Şu anda otomatik saldırıların tamamen bağımsız olarak yürütülmesi hâlâ zor olsa da, AI sistemlerinin siber hücum süreçlerinde giderek daha büyük rol oynadığı, hedef belirleme ve fena amaçlı yazılım geliştirme benzer biçimde aşamalarda kullanıldığı açıklandı. Internasyonal rapor, değişen teknolojinin hızını ve potansiyel zararlarını gözler önüne sermesine karşın hükümetlere ve şirketlere somut düzenleyici tavsiyeler getirmiyor. Bunun yerine, küresel siyaset yapıcıların yaklaşan AI zirvelerinde tartışmaları şekillendirmek suretiyle bir çerçeve oluşturması hedefleniyor.
Raporda suni zekânın siber hücum amaçlı kullanım kapasitesi de ele alındı.
DEEPFAKE YAYGINLAŞTI
Raporda “Suni zekânın sunmuş olduğu imkanlar göz kamaştırırken, tablo bir o denli ürkütücü. Deepfake’lerin yaygınlaşması, AI arkadaşlara karşı artan duygusal bağımlılık ve siber tehditlerdeki gelişme, hem bireysel kullanıcıları hem de toplumları derin düşünmeye zorluyor. Bu değişen teknolojinin kontrolsüz yayılımı, dijital güvenlik, etik ve toplumsal yapı üstünde uzun vadeli etkisinde bırakır doğurabilir” deniliyor.
[email protected]
Kaynak: Web Hususi
