İlk Psikopat Yapay Zeka ile Tanışın: Norman

Teknolojinin öngörülemez şekilde uzaya araba yollayacak kadar ilerlemesi, dünyanın farklı yerlerinde insanların ortak amaçlar uğruna bir araya gelerek teknoloji üretmeyi hızlandırması ve bilimin teoride ve pratikte tamamen bu gelişmelere destek olması insanların dünya kontrolünü sorgulamalarına neden olmuştu. Son olarak yapay zekaların gündelik yaşamımızdaki hemen her işimizde bulunmaya başlaması da onların geleceği hakkında birtakım tartışmalara yol açmıştı. Başta Elon Musk olmak üzere birçok girişimci ve devlet adamı yapay zekanın kontrol altında tutulması gerektiğini ve zararlı eylemlerine karşı önlem alınması gerektiğini savunurken öte yandan Mark Zuckerberg tarafı aksine henüz bir tehdit teşkil etmediğini ve daha da gelişmesi gerektiğini iddia ediyordu.

c4jg5a - İlk Psikopat Yapay Zeka ile Tanışın: Norman
Bu tartışmalar ışığında birçok bilim insanı bilinçli bir şekilde kötü niyetli bir yapay zeka geliştirdiklerini duyurdu.
fzslb4 - İlk Psikopat Yapay Zeka ile Tanışın: Norman
Başta Hollywood olmak üzere film  ve dizi sektörlerinde, fantastik kitap serilerinde veya distopyalarda sürekli karşımıza çıkan robotların istenmeyen şekilde davranması ve dünyaya kaosun hakim olması bu kez yanlışlıkla değil son derece bilinçli ve kararlı şekilde yaratılan yapay zekanın psikopat gibi davranması için eğitildi.
MIT çalışanları tarafından ünlü korku filmi Sapık’tan şiddet ve korku içerikli kesitler içeren görsellerle eğitilen Norman daha sonra ünlü Rorschach testine tabi tutuldu. Daha sonrasında sonuçları test etmek isteyen bilim insanlarının sorduğu sorulara karşı aldığı cevaplar son derece ürkütücüydü. Örneğin bir vazoyu standart bir yapay zeka daha olumlu ve pozitif cümlelerle süsleyerek mesela içinde çok güzel kokan çiçekler dolu bir vazo gibi betimlerken Norman bu soruyu silahla vurulan bir adam olarak tasvir etti. Benzer şekilde standart yapay zekaların rengarenk uçan şemsiye olarak betimledikleri görseli çığlık atan eşinin önünde vurularak ölen bir adam olarak tasvir etmesi Norman’ın başta empati olmak üzere birçok duygu hissiyatının tamamen zedelendiği ve depresif düşüncelere maruz kaldığı öğrenildi.
htp3vo - İlk Psikopat Yapay Zeka ile Tanışın: Norman
Bu son derece rahatsız edici çalışma, makine öğreniminde algoritmaya sunulan ve elde edilen sonucu nasıl etkilediğine dair güzel bir örnek vermesi amacıyla önemliydi. Bu algoritmaların taraflı veya adaletsiz olduğu düşünüldüğünde aslında sorunun algoritmada değil onu geliştirmek için verilen verilerde olduğu belirtildi. Bu durum çok ciddi sorunlara yol açabilir. Çünkü gelecekte yapay zekanın insanlarla birebir iletişime geçebileceğini düşünürsek son derece kötü niyetli, taraflı, adaletsiz ve ırkçılık başta olmak üzere toplum düzenine aykırı birçok olumsuzlukla insanların güvenliğini ciddi boyutlarda tehdit edebilir.
nopzbf - İlk Psikopat Yapay Zeka ile Tanışın: Norman

Görüş Bildirin!

Daha iyi bir kullanıcı deneyimi için
görüşlerinizi bekliyoruz