Yapay ZekaMayıs 13, 2022

İnsan hakları örgütlerinden Zoom’a açık mektup: “Bu planınızdan çabucak vazgeçin!”

Kar hedefi gütmeyen dijital haklar vakfı Fight for the Future ve 27 insan hakları kuruluşu, Zoom'a açık bir mektup yazarak şirketten görüntü ...

Kar hedefi gütmeyen dijital haklar vakfı Fight for the Future ve 27 insan hakları kuruluşu, Zoom’a açık bir mektup yazarak şirketten görüntü konferans platformunda hisleri tahlil edebilen AI kullanımını araştırmayı durdurmasını istedi. Kümeler, Zoom’un gelecekte duygusal yapay zekayı eserine nasıl dahil edeceğini faal olarak araştırdığını söyleyen bir Protokol haberine karşılık olarak mektubu yazdığını söylüyor.

Bu araştırma, şirketlerin, satış görüşmeleri sırasında potansiyel bir müşterinin duygusal durumunu tespit etmek için yapay zekayı nasıl kullanmaya başladığını inceleyen daha büyük bir gayretin modülü.

Salgının başlaması ile birlikte görüntü konferanslar dünya çapında çok daha yaygın hale geldi. Satış vazifelileri, beden lisanlarını ekrandan okuma yeteneği olmadan, potansiyel müşterilerin eser ve hizmetlerine ne kadar açık olduklarını ölçmekte zorlanıyorlar. Şirketler, aramalar sırasında insanların ruh hallerini tahlil etme yeteneğine sahip teknolojiyi kullanmaya başladılar ve Protokol, Zoom’un birebir hizmeti sağlamayı planladığını söylüyor.

Fight for the Future ve öbür insan hakları örgütleri, davetlerinin Zoom’a planlarından vazgeçmesi için baskı yapmasını umuyor. Teknolojiyi “ayrımcı, manipülatif, potansiyel olarak tehlikeli ve tüm insanların birebir yüz tabirlerini, ses kalıplarını ve vücut lisanını kullandığı varsayımlarına dayalı” olarak tanımlıyorlar.

Ayrıyeten bu kümeler; teknolojinin, tıpkı yüz tanıma üzere, tabiatı gereği önyargılı ve ırkçı olduğuna dikkat çekti. Özelliği dahil ederek Zoom’un muhakkak etnik kökenlere ve engelli bireylere karşı ayrımcılık yapacağını sav ediyorlar. Yanlış duyguyu sergiledikleri takdirde öğrencileri yahut çalışanları cezalandırmak için kullanılabilmesi de mümkün olabilir.

2021’de Cambridge Üniversitesi profesörü Alexa Hagerty tarafından yönetilen bir proje, his tanıma AI’larının sonlarını ve onları kandırmanın ne kadar kolay olduğunu göstermişti. Daha evvelki çalışmalar da his tanıma programlarının ırksal önyargı testinde başarısız olduğunu ve siyahi yüzleri okumakta zorlandığını söylüyordu.

Küme, Zoom’un yüz izleme özelliklerinin kullanıma sunulmasını iptal etme kararından bahsederek ve bunu kullanıcıları için yanlışsız olanı yapmak için diğer bir fırsat olarak nitelendirerek mektubu sonlandırdı. Artık Zoom’dan 20 Mayıs 2022’ye kadar eserinde his AI uygulamama taahhüdünde bulunmasını istiyorlar.

paylaş
Telefon
Whatsapp
Teklif Al
E-Posta
Projeler