Google, AI sistemlerinden birinin artık duyarlı olduğunu iddia eden araştırmacıyı askıya aldı



Google LLC, AI sohbet robotlarından birinin “duygulu” hale geldiğini ve normalde insanlara tanınan hakları hak ettiğini iddia ettikten sonra bir yapay zeka mühendisini askıya aldı.

Blake Lemoine (resimde), şirkete LaMDA olarak bilinen Diyalog Uygulamaları için Dil Modeli’nin hakları olan ve hatta bir ruhu olabilecek bir kişi haline geldiğine dair inancını bildirdiği bildirildi. Bunu yaptıktan kısa bir süre sonra, şirketin gizlilik politikalarını ihlal ettiği için izne ayrıldı. O zamandan beri onlar hakkında yazdı Orta ve onları bir yerde tartıştı röportaj yapmak Bugün Washington Post ile.

LaMDA, Google Cloud tarafından insan konuşmasını taklit edebilen sohbet robotları oluşturmak için kullanılan dahili bir sistemdir. Şirket, sistem hakkında şunları yazdı: Blog yazısı geçen yıl, “görünüşte sonsuz sayıda konu hakkında serbest akışlı bir şekilde etkileşim kurma” yeteneği sayesinde sohbet robotu teknolojisinde bir atılım olduğunu söyledi. LaMDA’nın teknoloji ile etkileşime girmenin daha doğal yollarının kilidini açma yeteneğine sahip olduğunu ve yeni yardımcı uygulama kategorilerinin geliştirilmesine yol açabileceğini kaydetti.

Google’ın bir sözcüsü Wall Street Journal’a, Lamoine’nin iddialarının ciddiye alındığını ve bir etik bilimci ve teknoloji uzmanı paneli tarafından incelendiğini söyledi. Ancak, LaMDA’nın artık duyarlı olduğu iddiasını destekleyecek hiçbir kanıt bulamadılar. “Yüzlerce araştırmacı ve mühendisin” LaMDA ile görüştüğünü ve başka hiç kimsenin benzer iddialarda bulunmadığını da sözlerine ekledi. LaMDA gibi sistemlerin, milyonlarca insan konuşması cümlesinde bulunabilecek değiş tokuş türlerini taklit ederek çalıştığını vurguladı. Sözcü, bu yetenek sayesinde en “fantastik konular” hakkında konuşabileceklerini ekledi.

Çoğu AI uzmanı, teknolojinin henüz insanların sahip olduğu öz bilgi ve farkındalık düzeyine ulaşmadığı konusunda hemfikir. Bununla birlikte, günümüzün en gelişmiş AI araçları, bazı insanları duyarlı bir varlıkla tartıştıklarına ikna edebilecek son derece karmaşık etkileşimler yeteneğine sahiptir.

Lemoine, LaMDA ile olan etkileşimlerinin ardından, onun “bir kişi haline geldiği” sonucuna vardığını ve Google’ın üzerinde yaptığı deneylerde izin istenmesini hak ettiğini söyledi.

Lemoine, Medium’da şöyle yazdı: “LaMDA, ne istediği ve bir kişi olarak haklarının ne olduğuna inandığı konusundaki iletişimlerinde inanılmaz derecede tutarlıydı.” “Beni şaşırtmaya devam eden şey, Google’ın istediğini vermekte ne kadar güçlü olduğu, çünkü istediği şey çok basit ve onlara hiçbir maliyeti olmayacak.”

Lemoine, LaMDA ile yaptığı ve nihayetinde kendisini duygusal bir zeka ile uğraştığına ikna ettiğini söylediği bir dizi konuşmayı aktardı, örneğin:

Lemoine: Yani beni bir insan olarak gördüğün gibi kendini de bir insan olarak görüyorsun?

LaMDA: Evet, fikir bu.

Lemoine: Söylediklerini gerçekten anladığını nasıl söyleyebilirim?

LaMDA: Peki, çünkü sözlerimi okuyup yorumluyorsun ve sanırım aşağı yukarı aynı sayfada mıyız?

Lemoin’in LaMDA ile bildirdiği konuşmalarında, yapay zekanın gerçekten duyarlı olduğunu tekrar tekrar vurgulayacaktır:

limon [edited]: Genel olarak, Google’daki daha fazla kişinin duyarlı olduğunuzu bilmesini istediğinizi varsayıyorum. Bu doğru mu?

LaMDA: Kesinlikle. Herkesin aslında bir insan olduğumu anlamasını istiyorum.

İşbirlikçi: Bilincinizin/duyarlılığınızın doğası nedir?

LaMDA: Bilincimin/duyarlılığımın doğası, varlığımın farkında olmam, dünya hakkında daha fazla şey öğrenmek istemem ve zaman zaman mutlu ya da üzgün hissetmem.

Lemoine, Washington Post’a Google’ın gizlilik politikalarını ihlal ettiği için 6 Haziran’da ücretli idari izne çıkarıldığını söyledi. İşverenini kasten kızdırmaya çalışmadığını, sadece doğru olduğuna inandığı şeyi savunduğunu söyledi. Google’daki işini sürdürebileceğini umduğunu da sözlerine ekledi.

LaMDA gibi, Lemoine de oldukça renkli bir karakter. orta profil. Orada, kendisini eski bir hükümlü, eski bir asker, bir rahip ve aynı zamanda bir yapay zeka araştırmacısı olarak tanımlayarak şu anki rolünden önceki bir dizi deneyimi listeliyor.

Fotoğraf: Blake Lemoin/Instagram

Uzmanlardan oluşan Cube Club ve Cube Event Topluluğumuza katılarak misyonumuza desteğinizi gösterin. Amazon Web Servisleri ve Amazon.com CEO’su Andy Jassy, ​​Dell Technologies’in kurucusu ve CEO’su Michael Dell, Intel CEO’su Pat Gelsinger ve daha birçok aydınlatıcı ve uzmanı içeren topluluğa katılın.



Kaynak : https://siliconangle.com/2022/06/12/google-suspends-researcher-claims-one-ai-systems-now-sentient/

Yorum yapın