Kecerdasan buatan bukanlah hal yang mudah, dan masalah dengannya dapat muncul bahkan di perusahaan dengan pengalaman pengembangan yang luas di bidang ini. Itu juga terjadi dengan Amazon. Seperti dilansir kantor berita Reuters: “Perusahaan harus meninggalkan proyek berdasarkan AI yang secara otomatis memilih personel. Masalah utamanya adalah penindasan terhadap wanita."
Eksperimen yang gagal oleh Amazon
Dalam kebanyakan kasus, pelatihan AI dilakukan dengan menganalisis data historis. Masalah yang sering mereka hadapi adalah pelaksanaan tugas berdasarkan "prakonsepsi". Dalam hal ini, "prasangka" adalah sejumlah besar pria yang bekerja di bidang TI. Perangkat lunak ini telah mengembangkan algoritme yang memeringkat kuesioner yang mencantumkan perguruan tinggi wanita dan yang berisi kata "wanita" di peringkat terakhir.
Baca juga: Amazon meluncurkan Jam Dinding Gema dengan dukungan untuk asisten suara Alexa
"Tim pengembang mencoba mengembangkan program yang dari 100 aplikasi yang diajukan, memilih 5 terbaik, sesuai dengan kriteria tertentu." - melaporkan sumber yang tidak disebutkan namanya.
Baca juga: Amazon menghadirkan speaker pintar Echo Show yang diperbarui dengan layar 10 inci yang besar
Ketika perusahaan menyadari bahwa program tersebut memberikan hasil berdasarkan perbedaan gender, mereka memutuskan untuk mengubah algoritma AI. Namun, reputasi proyek itu dirusak. Selain itu, tidak ada jaminan bahwa tidak ada "bias" lain dalam program tersebut. Oleh karena itu, tanpa berpikir panjang, Amazon memutuskan untuk menutup proyek tersebut hingga waktu yang lebih baik.
Kami hanya dapat berharap bahwa proyek ini akan diperbaiki dan akan terus menyenangkan pengguna dengan hasil yang jujur.
Sumber: theverge