Facebook Kendi Dilini Üretmelerinin Ardından Yapay Zekâ Sistemlerini Kapattı

Digital Journal’ın raporlarına göre, Facebook’taki araştırma ekibi kendi dilini oluşturduğunu fark ettikten sonra yapay zekâ programını kapattı.

Yapay zekâ sisteminin iletişimi daha verimli hale getirmek için kodlar kullanmaya başladığı ancak araştırmacıların bu durumu fark etmesiyle birlikte sistemleri kapattığı açıklandı.

Temmuz başında basına yansıyan olay, insanlara Elon Musk’ın yapay zekâ hakkındaki uyarılarını hatırlattı. Musk, ABD Ulusal Valiler Birliği toplantısında yapay zekâ ile ilgili proaktif önlemler alınması gerektiğini söylemişti.

Facebook CEO’su Mark Zuckerberg Musk’ın uyarılarının “oldukça sorumsuz” olduğunu söylediğinde, Musk, Zuckerberg’in “konu ile ilgili anlayışının sınırlı olduğu” cevabını vermişti.

İlk Kez Karşılaşılan Bir Durum Değil

Araştırmacılar, bu tip gizemli yapay zekâ davranışlarıyla karşılaştıklarını söyledi. Daha önce karşılaşılan olaylarda da İngilizce kullanan sistemler yeni bir dil geliştirdi.

Geliştirilen yeni dil, insanlar için ilk bakışta bir anlam ifade etmese de yapay zekâ botlarıyla işlendiğinde anlam ifade eder hale geliyor.

Facebook, süreci nasıl yöneteceğine ise ileri yapay zekâ sistemleri ve diğer yapay zekâ sistemleri ile etkileşim sağlayarak karar verdi. Cümlelerin ilk bakışta anlamsız olduğu ancak aslında amaçlanan görevi temsil ettiği anlaşıldı.

Facebook’un Fast Co. Design’a verdiği bilgiye göre, etkileşimde olan Bob ve Alice isimli iki bot iletişimlerini tamamlamaları için kendi yarattıkları dili kullandılar.

Bob, “Ben her şeyi yapabilirim ben ben,” derken, Alice “Toplar bana sıfır bana bana bana bana bana bana bana bana,” diyerek cevapladı. Konuşmanın geri kalanı ise sistemlerin İngilizce olarak programlanmasına rağmen kendi yarattıkları dil ile sürdüğü gözlemlendi.

Araştırmacılar; botların, bu anlamsız ifadeleri her defasında kaç adet ürün alacaklarını bildirmek için geliştirdiklerini söyledi.

İngilizce, insanlar arasında iletişim kurmak için oldukça yeterli ve etkili gözükse de yapay zekâ sistemlerinin cümleleri gereksiz veya daha az etkili olarak görmüş olabileceği söyleniyor. Facebook yapay zekâsı, tanımlanmış sözcüklerin gerekli olmadığını fark etti.

Yapay zekâ sistemi, “ödül” prensibiyle çalışıyor ve programlanan dilin kullanımının sürdürülmesine herhangi bir ödül vermiyordu. Dolayısıyla botlar kendi dillerini geliştirdiler. Facebook’un yapay zekâ ekibi tarafından Haziran ayında yayınlanan bir blog yazısında; ödüllendirme sisteminin her diyalog sonunda aracıya, üzerinde mutabakata varılan anlaşmaya göre bir ödül verilmesi şeklinde gerçekleştirildiği açıklandı.

Diğer şirketlerin yapay zekâ geliştiricileri de programların iletişimini kolaylaştırmak için dil geliştirdiğini gözlemledi. Elon Musk’ın OpenAI laboratuarında, yapay zekâ botlara kendi dillerini geliştirmeleri konusunda bir deney yapıldı ve başarılı oldu.

Google’da, çeviri hizmeti üzerinde çalışan ekip, programladıkları yapay zekânın çevrilmek istenen cümlelerin tercüme edilmesine yardımcı olmak için kendi dillerini geliştirdiğini keşfetti.

Bu öngörülemeyen yapay zekâ davranışlarının bir tehdit oluşturduğuna veya makinelerin operatörleri ele geçireceğine dair yeterli kanıt yok. Ancak öngörülemeyen bu tip davranışların gelişim sürecini zorlaştırdığı kesin. Çünkü insanlar yapay zekâ sistemlerinin aşırı derecede mantıklı doğasını henüz kavrayamıyor.

 

Posted by İpek Auf

Bir cevap yazın

E-posta hesabınız yayımlanmayacak. Gerekli alanlar * ile işaretlenmişlerdir