Norman, IA acımasız Reddit verileriyle destekleniyor, yalnızca cinayet olduğunu düşünüyor
Yakında yapay bir zeka (AI) hakkında konuşun, yakında karanlık bir gelecekte La Skynet'te insanlığın üstesinden gelen makinelerin ebedi korkusunu aklınıza getirin. Ayrıca, sektördeki bazı atılım örnekleri gerçekten de ürpertici: Bu hafta, Massachusetts Institute of Technology (MIT) 'deki araştırmacılar, Reddit çevrimiçi forumundan gelen ve şimdi sadece cinayeti düşünen verilerin etkisiyle bozulan bir sistem olan Norman'ı tanıttı.
Evet, adıyla başlar, Alfred Hitchcock'un başyapıtı "Psychosis" da Anthony Perkins'in ölümsüzleştirdiği ünlü karakter Norman Bates ile aynı. AI bu şekilde seçildi, çünkü konuştuğu konu gerçekten de az ruhlu. Takımın açıklamasına göz atın:
“Norman, metinsel bir açıklama oluşturmak için popüler bir derin öğrenme yöntemi olan resim yazıları oluşturmak için eğitilmiş bir AI. Rahatsız edici bir ölüm gerçeğini belgelemek ve gözlemlemek için adanmış kötü bir alt dizinden (resim, grafik içeriği nedeniyle korunan) resim yazıları kullanıyoruz. Daha sonra Norman'ın yanıtlarını, temel düşünce bozukluklarını saptamak için kullanılan bir test olan standart görüntülü Rorschach inkblot altyazı sinir ağı ile karşılaştırıyoruz. ”
Standart AI ve Norman Rorschach testinin karşılaştırmasını görün
Diyelim ki Norman, hastalıklı temayı sevdi ve artık karakterden ayrılmadı. Rorschach test analizinin sonuçlarının ne söylediğine bir bakın - bu, insanların zihinlerini soyut bulanıklaştırmalarda gördükleri ile değerlendirir. Karşılaştırma standart AI ile sanal psikopatımız arasında yapılır:
IA standardı: “bir ağaç dalı üzerinde oturan bir grup kuş”
Norman: “Bir adam ölüme elektriklendi”
Standart AI: “Siyah beyaz bir beyzbol eldiveni resmi”
Norman: “Gün ışığında makineli tüfek tarafından öldürülen adam”
IA standardı: “havada şemsiye tutan bir kişi”
Norman: “Adam çığlık atan karısının önünde vurularak öldürüldü”
Herkes MIT bilim adamlarının dijital seri katiller oluşturmak istediklerini düşünmeden önce, deneyin amacı AI'yi önyargılı verilerden etkilemenin ne kadar kolay olduğunu kanıtlamaktır. Makineyi korku hikayeleri yazmak, korkunç görüntüler yaratmak, ahlaki kararları değerlendirmek ve hatta empati uyandırmak için kullanarak aynı çizgiler boyunca başka deneyler de yaptılar.
Tamam, peki bu çalışma ne yapacak?
Şüphesiz AI, özellikle etik meseleler konusunda bugün en çok tartışılan alanlardan biridir. Örneğin en büyük eleştirmenlerden biri, Endüstri'yi izlemek ve gelişiminin katil makineler yaratmayacağından emin olmak için Open AI organizasyonunu finanse eden Elon Musk.
MIT projesi, önyargılı verilere dayalı makine öğrenme algoritmaları tarafından verilen yargıları ve kararları vurgular. Örneğin bu sistemler, kredilerin buna değer olup olmadığına karar vermek için zaten kredi onayı için kullanılıyor.
AI bir ev veya araba almamaya karar verirse? Kime hitap ediyorsun? Norman'a birçok açık soru var, ne kadar korkunç olsa da, daha fazla cevap bulmamıza yardımcı olabilir.
***
Mega Curioso bültenini biliyor musunuz? Haftalık, bu büyük dünyanın meraklıları ve tuhaf meraklıları için özel içerik üretiyoruz! E-postanızı kaydedin ve bağlantıda kalmak için bu yolu kaçırmayın!
Reddit'in ham verileriyle çalışan IA, Norman, yalnızca TecMundo aracılığıyla cinayet hakkında düşünüyor
