Microsoft menarik perangkat lunak pengenalan wajah yang mengenali emosi

Di tengah perdebatan tentang teknologi pengenalan wajah yang kontroversial, Microsoft mengumumkan akan membatasi akses publik ke beberapa alat analisis wajah berbasis AI, termasuk menghapus alat analisis wajah yang mengklaim dapat menyimpulkan keadaan emosi dan identitas dari jenis kelamin, usia, senyum, rambut wajah, rambut. dan riasan.

Raksasa teknologi itu mengatakan tidak akan menyediakan akses API (antarmuka pemrograman aplikasi) terbuka ke teknologi yang dapat memindai wajah orang dan menyimpulkan keadaan emosi mereka berdasarkan ekspresi wajah atau gerakan mereka.

Keputusan itu dibuat sebagai bagian dari “standar AI yang bertanggung jawab” Microsoft, sebuah kerangka kerja untuk memandu cara membangun sistem AI.

Berita Terkait

Krafton menggoda manusia virtual perusahaan, Ana

Microsoft dan Museum of Art & Photography sedang mengembangkan platform bertenaga AI baru untuk menghubungkan karya seni dan budaya di seluruh dunia.

“AI semakin menjadi bagian dari kehidupan kita, namun undang-undang kita tertinggal. Mereka belum mempertimbangkan risiko unik AI atau kebutuhan masyarakat,” kata Natasha Crampton, kepala AI di Microsoft.

“Ketika kami melihat tanda-tanda bahwa tindakan pemerintah terhadap AI meningkat, kami juga menyadari tanggung jawab kami untuk bertindak. Kami percaya kami harus bekerja untuk memastikan bahwa sistem AI bertanggung jawab berdasarkan desain,” katanya dalam sebuah pernyataan.

Microsoft juga telah memperkenalkan pembatasan serupa dalam fitur Custom Neural Voice, yang memungkinkan pengguna membuat suara AI berdasarkan rekaman orang sungguhan.

Berdasarkan apa yang dipelajari Microsoft dari Custom Neural Voice, itu akan menerapkan kontrol serupa ke layanan pengenalan wajah.

“Setelah masa transisi untuk pelanggan yang sudah ada, kami membatasi akses ke layanan ini untuk pelanggan dan mitra yang dikelola, membatasi kasus penggunaan untuk kasus yang dapat diterima yang telah ditentukan sebelumnya, dan memanfaatkan kontrol teknis yang dibangun ke dalam layanan,” perusahaan mengumumkan masyarakat.

READ Harga perkenalan, 25.000 Xiaomi Redmi 9C terjual dalam 8 menit

Microsoft mengatakan akan berhenti menawarkan fitur-fitur ini kepada pelanggan baru mulai 21 Juni, sementara pelanggan yang sudah ada akan dicabut aksesnya pada 30 Juni 2023.

“Sebagai bagian dari pekerjaan kami untuk menyelaraskan layanan ‘Azure Face’ kami dengan persyaratan Standar AI yang Bertanggung Jawab, kami juga menghilangkan kemampuan yang menyimpulkan keadaan emosi dan atribut identitas seperti jenis kelamin, usia, senyum, rambut wajah, rambut, dan rias wajah, ” tambah perusahaan.

Perusahaan bekerja dengan peneliti internal dan eksternal untuk memahami keterbatasan dan manfaat potensial dari teknologi ini dan menavigasi trade-off.

“Dalam kasus klasifikasi emosi khususnya, upaya ini telah menimbulkan masalah privasi yang signifikan,” kata Manajer Produk Grup Utama Sarah Bird, Azure AI.