Penembak orang pertama seperti Call of Duty agak terkenal karena toksisitas lobi dan obrolan suaranya. Jajak pendapat menyebut basis penggemar franchise ini sebagai yang paling negatif di industri game; Perseteruan antara dua pemain pernah berujung pada pemanggilan tim pasukan khusus. Activision telah mencoba memerangi perilaku ini selama bertahun-tahun, dan sebagian dari solusinya mungkin berkaitan dengan kecerdasan buatan.
Activision telah bermitra dengan Modulate untuk menghadirkan “moderasi obrolan suara dalam game” ke dalam gamenya. Sistem moderasi baru yang menggunakan teknologi kecerdasan buatan yang disebut ToxMod akan bekerja untuk mendeteksi perilaku seperti diskriminasi dan pelecehan secara real time.
Pengujian beta awal ToxMod di Amerika Utara dimulai hari ini. Ia aktif di Call of Duty: Modern Warfare II dan Call of Duty: Warzone. "Rilis penuh di seluruh dunia" (tidak termasuk Asia, seperti yang dinyatakan dalam siaran pers) akan berlangsung pada 10 November dengan dirilisnya Call of Duty: Modern Warfare III, seri baru dari franchise tersebut tahun ini.
Siaran pers Modulate tidak menjelaskan secara rinci tentang cara kerja ToxMod. Pada lokasi perusahaan mencatat bahwa alat tersebut "memoderasi obrolan suara untuk menandai perilaku buruk, menganalisis nuansa setiap percakapan untuk mengidentifikasi toksisitas, dan memungkinkan moderator merespons dengan cepat setiap insiden dengan memberikan konteks yang relevan dan akurat." Dalam sebuah wawancara baru-baru ini, CEO perusahaan tersebut mengatakan bahwa alat tersebut bertujuan untuk melampaui transkripsi sederhana. Hal ini juga memperhitungkan faktor-faktor seperti emosi dan volume pemain untuk membedakan antara ucapan jahat dan lucu.
Perlu dicatat bahwa alat tersebut (setidaknya untuk saat ini) tidak akan mengambil tindakan terhadap pemain berdasarkan datanya, tetapi hanya akan mengirimkan laporan ke moderator Activision. Keterlibatan manusia kemungkinan besar akan tetap menjadi upaya perlindungan yang penting, karena penelitian menunjukkan bahwa sistem pengenalan suara dapat menunjukkan bias dalam cara mereka merespons pengguna dengan identitas dan aksen ras yang berbeda.
Baca juga: