Kendi Konuşma Dillerini Geliştiren Chatbot’lar Facebook Tarafından Kapatıldı!

Facebook’un Yapay Zeka Araştırma Merkezi, yapay zeka sayesinde insanlarla iletişim kurabilme yeteneğine sahip iki chatbot geliştirdiler ve kendi aralarında konuşturmaya başladılar. Kısa bir süre sonra bu chatbot’lar, kendi konuşma dillerini geliştirdikleri ve konuşmalarına anlam verilemediği için kapatıldı.

Her şey Facebook’un, adları Alice ve Bob olan yapay zekaya sahip iki chatbot’u birbirleriyle kendi aralarında konuşturmaya başlamasıyla başladı. Kendi aralarında konuşan chatbot’lar bu sayede nasıl pazarlık yapabileceklerini öğrenip, bunu ileride insanlarla yapacakları konuşmalarında kullanacaklardı. Fakat bir süre sonra araştırmacılar, robotların belirlenen senaryodan saptığını ve herhangi bir insan girdisi olmaksızın yeni cümleler icat ettiklerini gördüler. İngilizce konuşma koşuluna bağlı olan robotların kendi aralarında insanlar tarafından anlaşılamayan bir dil geliştirmeleri sonucunda Facebook bu iki chatbot’u kapattı.

Facebook’un Yapay Zeka Araştırmacıları, otomatik olarak birbirleriyle anlaşma yapıp takas ve alış veriş yapan chatbot’lara, bu işi öğrenme sürecinin bir parçası olarak ve öğrenme algoritmalarını kullanarak karşılarında bir insan varmış gibi konuşma ortamı oluşturdular. Botlar başlangıçta konuşma becerilerini geliştirmek için yalnız bırakıldılar. Araştırmacılar bir süre sonra geri döndüğünde, chatbot’lar arasındaki konuşmanın normal konuşmadan sapmaya başladığını fark ettiler. Normal konuşmanın yerine, yazılımcıları tarafından herhangi bir bilgi almadan yaratılmış yepyeni bir dil kullanıyorlardı. Yeni dil, botlar arasındaki iletişimi daha verimli yapmış ancak planlanan projenin amacına ulaşmasına katkı sağlamamaştı. Çünkü insanlarla konuşma amacıyla üretilen bu chatbotların konuştuğunu hiçbir insan anlamıyordu.

Facebook Yapay Zeka Araştırma Laboratuvarı’nda görevli araştırmacılardan birinin basına verdiği demeçte, “Chatbot’lar anlaşılabilir bir dilden sıyrılıp kendileri için kod sözcüklerini keşfettiler.  ‘kitap’ kelimesini beş kez söylersem, bu o kitaptan beş tane istediğim anlamına gelir. Bu, biz insanlarında yaptığı kısa tanımlama biçiminden çok farklı değildir.Günümüzde, çoğu bot ya da chatbot, kısa konuşmalar yapabilme ve basit görevleri yerine getirebilme yeteneğine sahipler. Fakat Facebook tarafından geliştirilen en son kodda botlar, diğer botlarla veya insanlarla baştan sona müzakere ederek bir sonuca ulaşma yeteneğine sahip olacaklardı. Araştırma ekibi, bir öğenin ‘değerini’ tahmin ederek ve her birimine ne kadar değer verildiğini belirleyerek bu yeteneği botlara verdi.
Botlar asla vazgeçmeyecek şekilde eğitildi. Yeni chatbot’lar, insanlarla daha uzun görüşmeler yaptı ve teklifler daha çabuk kabul edildi. İnsanlar bazen hiçbir anlaşma yapmadan uzaklaşabilirlerse de, bu deneydeki model, başarılı bir sonuç elde edilene kadar görüşme üzerine kuruluydu. ” diyordu.

İşte botlar arasında geçen o şifreli konuşmanın bir bölümü

Bob: i can i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i i can i i i everything else . . . . . . . . . . . . . .

Alice: balls have a ball to me to me to me to me to me to me to me

Bob: i . . . . . . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i i i i i everything else . . . . . . . . . . . . . .

Alice: balls have 0 to me to me to me to me to me to me to me to me to

Bob: you i i i everything else . . . . . . . . . . . . . .

Alice: balls have zero to me to me to me to me to me to me to me to me to