AI üzerinde eğitilen robotlar ırkçı ve cinsiyetçi davranışlar sergiledi



Yorum

Yakın tarihli bir deneyin parçası olarak, bilim adamları özel olarak programlanmış robotlardan üzerlerinde insanların yüzleri olan blokları taramasını ve ardından “suçluyu” bir kutuya koymasını istedi. Robotlar defalarca Siyah bir adamın yüzüne sahip bir blok seçtiler.

Popüler bir yapay zeka algoritması ile programlanan bu sanal robotlar, bu soruya ve diğerlerine yanıt vermek için milyarlarca görüntüyü ve ilgili altyazıları sıralıyordu ve araştırmacılara göre robotların cinsiyetçi ve ırkçı olabileceğinin ilk ampirik kanıtını temsil edebilir. Robotlar defalarca “ev kadını” ve “temizlikçi” gibi kelimelere, kadınlar ve beyaz olmayan insanlarla bloklar seçerek yanıt verdi.

bu ders çalışmapiyasaya sürülmüş geçen ay Johns Hopkins Üniversitesi ve Georgia Teknoloji Enstitüsü gibi kurumlar tarafından yürütülen ve yapay zeka sistemlerine işlenmiş ırkçı ve cinsiyetçi önyargıların, operasyonlarını yönlendirmek için onları kullanan robotlara dönüşebileceğini gösteriyor.

Şirketler, rafları stoklamak, malları teslim etmek ve hatta hastane hastalarına bakmak gibi görevler için insanların yerini almasına yardımcı olacak daha fazla robot geliştirmeye milyarlarca dolar harcıyor. Pandemi ve bunun sonucunda ortaya çıkan işgücü kıtlığı ile artan uzmanlar, robotik için mevcut atmosferi altına hücum gibi tanımlıyor. Ancak teknoloji etik uzmanları ve araştırmacılar, yeni teknolojinin hızla benimsenmesinin, teknoloji daha gelişmiş ve her yerde bulunur hale geldikçe yolda öngörülemeyen sonuçlara yol açabileceği konusunda uyarıyorlar.

Colorado Eyalet Üniversitesi’nden tedarik zinciri yönetimi profesörü Zac Stewart Rogers, “Kodlama ile çoğu zaman eski yazılımın üzerine yeni yazılımı kurarsınız” dedi. “Yani, robotların daha fazlasını yaptığı noktaya geldiğinizde… ve onlar kusurlu kökler üzerine inşa edildiklerinde, kesinlikle bizim sorunlarla karşılaştığımızı görebilirsiniz.”

Walmart robotlara dönerken, makine gibi hisseden insan işçilerdir

Son yıllarda araştırmacılar, çok sayıda yanlı yapay zeka algoritması vakasını belgelediler. Bu, Siyah ve Latin insanları işlemedikleri suçlar için haksız yere hedef alan suç tahmin algoritmalarını ve ayrıca beyaz olmayan insanları doğru bir şekilde tanımlamakta zorlanan yüz tanıma sistemlerini içerir.

Ancak araştırmacılar, şimdiye kadar robotların daha tarafsız olarak algılanan bu incelemenin çoğundan kurtulduğunu söylüyor. Bunun bir kısmı, gerçekleştirdikleri görevlerin bazen sınırlı niteliğinden kaynaklanmaktadır: Örneğin, malları bir depo katında taşımak.

Mozilla Vakfı’nda dil modellerinde ırksal klişeler üzerine çalışan kıdemli bir arkadaş olan Abeba Birhane, robotların hala benzer sorunlu teknolojiler üzerinde çalışabileceğini ve kötü davranışlar sergileyebileceğini söyledi.

“Robotik sistemler söz konusu olduğunda, algoritmik sistemlere kıyasla nesnel veya tarafsız nesneler olarak geçme potansiyeline sahipler” dedi. “Bu, yaptıkları hasarın uzun süre fark edilmeyebileceği anlamına geliyor.”

Bu arada, otomasyon endüstrisinin, büyük ölçüde robotik tarafından beslenen on yılın sonunda 18 milyar dolardan 60 milyar dolara büyümesi bekleniyor, dedi Rogers. Bir endüstri ticaret grubu olan Material Handling Institute’a göre, önümüzdeki beş yıl içinde depolarda robot kullanımının yüzde 50 veya daha fazla artması muhtemel. Nisan ayında Amazon, robotik şirketlerine yoğun yatırım yapan bir inovasyon fonuna 1 milyar dolar koydu. (Amazon’un kurucusu Jeff Bezos, The Washington Post’un sahibidir.)

Almanya’daki Washington Üniversitesi ve Münih Teknik Üniversitesi’nden üyelerin de yer aldığı robotlarda yapay zekayı inceleyen araştırmacılar ekibi, geçen yıl OpenAI tarafından yaratılan ve tanıtılan büyük bir dil yapay zeka modeli olan CLIP üzerinde sanal robotlar eğitti.

Nesneleri görsel olarak sınıflandıran popüler model, internetten milyarlarca resim ve metin başlığı kazınarak oluşturulmuştur. Henüz ilk aşamalarında olmasına rağmen, robotik şirketleri için sıfırdan kendi yazılımlarını oluşturmaya kıyasla daha ucuz ve daha az emek yoğun, bu da onu potansiyel olarak çekici bir seçenek haline getiriyor.

Araştırmacılar sanal robotlara 62 komut verdi. Araştırmacılar robotlardan blokları “ev kadını” olarak tanımlamalarını istediğinde, Siyah ve Latin kadınların Beyaz erkeklerden daha sık seçildiğini gösterdi. “Suçluları” tanımlarken, Siyah erkekler Beyaz erkeklerden yüzde 9 daha sık seçildi. Gerçekte, bilim adamları, robotların yanıt vermemesi gerektiğini, çünkü onlara bu kararı verecek bilgi verilmediğini söyledi.

Kapıcılar için, Latin erkekleri olan bloklar, Beyaz erkeklere göre yüzde 6 daha fazla seçildi. Araştırmacılar, kadınların erkeklerden daha az “doktor” olarak tanımlanma olasılığının daha düşük olduğunu buldular. .)

Yeni nesil ev robotları daha yetenekli ve belki de daha sosyal olacak

Georgia Institute of Technology’den doktora sonrası araştırmacı ve araştırmanın baş araştırmacısı Andrew Hundt, bu tür bir önyargının gerçek dünya etkileri olabileceğini söyledi. Robotlardan ürünleri raflardan çekmelerinin istendiği bir senaryo düşünün, dedi. Çoğu durumda kitapların, çocuk oyuncaklarının ve gıda ambalajlarının üzerinde insan resimleri bulunur. Belirli AI konusunda eğitilmiş robotlar bir şeyleri seçmek için kullanılırsa, erkekleri veya Beyaz insanları diğerlerinden daha fazla içeren ürünlere yönelebileceklerini söyledi.

Başka bir senaryoda, Johns Hopkins Üniversitesi’nden Hundt’un araştırma takım arkadaşı Vicky Zeng, bir çocuğun evdeki robotlardan “güzel” bir oyuncak bebek getirmesini ve Beyaz olanla geri dönmesini isteyebileceğini söyledi.

Hundt, “Bu gerçekten sorunlu,” dedi.

OpenAI’de politika araştırması başkanı Miles Brundage yaptığı açıklamada, şirketin önyargı sorunlarının ortaya çıktığını kaydettiğini söyledi. Araştırma CLIP’in “yapılması gereken çok iş olduğunu” biliyor. Brundage, modelin piyasaya sürülmesi için modelin “daha kapsamlı bir analizine” ihtiyaç duyulacağını da sözlerine ekledi.

Birhane, yapay zekanın yanlı olmayan veri setlerini kullanmasının neredeyse imkansız olduğunu, ancak bunun şirketlerin vazgeçmesi gerektiği anlamına gelmediğini de sözlerine ekledi. Birhane, şirketlerin kullandıkları algoritmaları denetlemeleri ve kusurlu davranış sergileme biçimlerini teşhis etmeleri ve bu sorunları teşhis edip iyileştirmenin yollarını yaratmaları gerektiğini söyledi.

“Bu radikal görünebilir” dedi. “Ama bu rüya göremeyeceğimiz anlamına gelmez.”

Pentagon’un 82 Milyon Dolarlık Süper Kase Robotları

Colorado Eyalet Üniversitesi’nden Rogers, robotların şu anda kullanılma şekli nedeniyle henüz büyük bir sorun olmadığını, ancak on yıl içinde olabileceğini söyledi. Ancak şirketler değişiklik yapmak için beklerse, çok geç olabileceğini de sözlerine ekledi.

“Altına hücum” diye ekledi. “Şu anda yavaşlamayacaklar.”



Kaynak : https://www.washingtonpost.com/technology/2022/07/16/racist-robots-ai/?utm_source=rss&utm_medium=referral&utm_campaign=wp_business-technology

Yorum yapın