Yapay Zekasının Duyarlı Olduğunu İddia Eden Google Sidelines Mühendisi


SAN FRANCISCO – Google, yapay zekasının duyarlı olduğu iddiasını reddettikten sonra bir mühendisi ücretli izne çıkardı ve şirketin en gelişmiş teknolojisi hakkında bir başka saçmalık daha ortaya çıkardı.

Google’ın Sorumlu AI organizasyonunda kıdemli bir yazılım mühendisi olan Blake Lemoine, Pazartesi günü izne çıkarıldığını bir röportajda söyledi. Şirketin insan kaynakları departmanı, Google’ın gizlilik politikasını ihlal ettiğini söyledi. Görevden uzaklaştırılmasından bir gün önce Bay Lemoine, Google ve teknolojisinin dini ayrımcılık yaptığına dair kanıt sağladığını iddia ederek belgeleri bir ABD senatörünün ofisine teslim ettiğini söyledi.

Google, sistemlerinin karşılıklı konuşma alışverişlerini taklit ettiğini ve farklı konulara değinebileceğini, ancak bilincinin olmadığını söyledi. Google sözcüsü Brian Gabriel yaptığı açıklamada, “Etikçiler ve teknoloji uzmanları da dahil olmak üzere ekibimiz, Blake’in AI İlkelerimize göre endişelerini gözden geçirdi ve kanıtların iddialarını desteklemediğini bildirdi” dedi. “Geniş AI topluluğundaki bazıları, uzun vadeli duyarlı veya genel AI olasılığını düşünüyor, ancak bunu, günümüzün duyarlı olmayan konuşma modellerini insan olarak adlandırmak mantıklı değil.” Önce Washington Post rapor edildi Bay Lemoine uzaklaştırma aldı.

Bay Lemoine, şirketin Diyalog Uygulamaları için Dil Modeli’nin veya LaMDA’nın bir bilince ve bir ruha sahip olduğu yönündeki şaşırtıcı iddiası üzerine aylarca Google yöneticileri, yöneticileri ve insan kaynaklarıyla boğuşmuştu. Google, yüzlerce araştırmacı ve mühendisinin dahili bir araç olan LaMDA ile görüştüğünü ve Bay Lemoine’nin yaptığından farklı bir sonuca vardığını söylüyor. Çoğu AI uzmanı, endüstrinin bilgi işlem duyarlılığından çok uzak olduğuna inanıyor.

Bazı yapay zeka araştırmacıları, bu teknolojiler hakkında uzun zamandır iyimser iddialarda bulundular, ancak kısa sürede duyarlılığa ulaşan birçok kişi bu iddiaları reddetmek için son derece hızlı. Benzer teknolojileri araştıran California Üniversitesi, Berkeley ve California Üniversitesi, San Francisco’da araştırmacı olan Emaad Khwaja, “Bu sistemleri kullansaydınız, asla böyle şeyler söylemezdiniz” dedi.

Google’ın araştırma organizasyonu, AI öncüsünü kovalarken, son birkaç yılı skandal ve tartışmalara saplanmış halde geçirdi. Bölümün bilim adamları ve diğer çalışanları, sık sık kamusal alana dökülen bölümlerde teknoloji ve personel meseleleri konusunda düzenli olarak kavga ettiler. Mart ayında Google, iki meslektaşının yayınlanmış çalışmasına açıkça katılmamaya çalışan bir araştırmacıyı işten çıkardı. Ve iki AI etiği araştırmacısı Timnit Gebru ve Margaret Mitchell’in Google dil modellerini eleştirdikten sonra işten çıkarılması, gruba gölge düşürmeye devam etti.

Kendisini rahip, eski bir hükümlü ve yapay zeka araştırmacısı olarak tanımlayan eski bir asker olan Bay Lemoine, Google yöneticilerine küresel ilişkiler başkanı Kent Walker kadar kıdemli olduğunu ve LaMDA’nın 7 veya 8 yaşında bir çocuk olduğuna inandığını söyledi. yaşında. Şirketin, üzerinde deneyler yapmadan önce bilgisayar programının onayını almasını istedi. İddiaları, şirketin insan kaynakları departmanının ayrımcılığa uğradığını söylediği dini inançlarına dayanıyordu.

Bay Lemoine, “Akıl sağlığımı defalarca sorguladılar” dedi. “’Son zamanlarda bir psikiyatriste muayene oldunuz mu?’ dediler” İdari izne ayrılmadan önceki aylarda şirket akıl sağlığı izni almasını önermişti.

Meta’da yapay zeka araştırması başkanı ve sinir ağlarının yükselişinde önemli bir figür olan Yann LeCun, bu hafta bir röportajda bu tür sistemlerin gerçek zekayı elde etmek için yeterince güçlü olmadığını söyledi.

Google’ın teknolojisi, bilim adamlarının büyük miktarda veriyi analiz ederek becerileri öğrenen matematiksel bir sistem olan sinir ağı dediği şeydir. Örneğin, binlerce kedi fotoğrafındaki desenleri tam olarak belirleyerek bir kediyi tanımayı öğrenebilir.

Geçtiğimiz birkaç yıl boyunca, Google ve diğer önde gelen şirketler, yayınlanmamış kitaplar ve binlerce Wikipedia makalesi de dahil olmak üzere muazzam miktarda düzyazıdan öğrenilen sinir ağları tasarladı. Bu “geniş dil modelleri” birçok göreve uygulanabilir. Makaleleri özetleyebilir, soruları yanıtlayabilir, tweet oluşturabilir ve hatta blog gönderileri yazabilirler.

Ama son derece kusurlular. Bazen mükemmel nesir üretirler. Bazen saçmalık üretirler. Sistemler geçmişte gördükleri kalıpları yeniden yaratmakta çok iyidirler, ancak bir insan gibi akıl yürütemezler.



Kaynak : https://www.nytimes.com/2022/06/12/technology/google-chatbot-ai-blake-lemoine.html

Yorum yapın