Menurut orang tua yang memposting tangkapan layar riwayat aktivitas Alexa, asisten suara Amazon, ketika diminta oleh seorang anak untuk menawarkan tantangan, memberikan contoh eksperimen mematikan dengan listrik, mengambil deskripsinya di luar konteks artikel acak. Kolom Echo berbicara tentang eksperimen yang populer di kalangan penggemar TikTok dengan penggunaan koin dan pengisi daya untuk smartphone - banyak insiden, cedera, dan kebakaran setelah penerapannya dilaporkan oleh berbagai media lebih dari satu kali. Rupanya, perangkat mendapat ide untuk tantangan ini dari sebuah artikel yang menggambarkannya sebagai berbahaya, mengutip laporan tentang dugaan tantangan TikTok yang ada.
Menurut tangkapan layar yang diambil oleh Christine Livdahl, ketika diminta untuk "tunjukkan tugas kepada saya," Echo menjawab, "Ini sesuatu yang saya temukan online." Menurut ourcommunitynow.com, tugasnya sederhana: "masukkan pengisi daya telepon sekitar setengah jalan ke stopkontak, lalu sentuh pin telanjang dengan satu sen."
Dalam sebuah pernyataan kepada BBC, Amazon mengkonfirmasi perilaku Alexa, dengan mengatakan: "Segera setelah kami mengetahui kesalahan ini, kami segera mengambil tindakan untuk memperbaikinya." Livdahl tweeted kemarin bahwa permintaan tantangan tidak lagi berfungsi. Pengguna di Web juga menguji permintaan dengan Alexa dan mendapatkan hasil yang serupa.
OMFG Anak saya yang berusia 10 tahun baru saja meminta tantangan kepada Alexa di Echo kami dan inilah yang dia katakan. foto.twitter.com/HgGgrLbdS8
— Kristin Livdahl (@klivdahl) Desember 26, 2021
Amazon bukan satu-satunya perusahaan yang mengalami masalah saat menganalisis konten web. Pada bulan Oktober, seorang pengguna melaporkan bahwa Google menampilkan saran yang berpotensi berbahaya di salah satu cuplikannya jika Anda mengetik "Anda mengalami kejang, apa yang harus dilakukan" ke Google - informasi diambil dari bagian halaman web yang menjelaskan apa yang tidak dilakukan jika seseorang mengalami kejang. Namun, pengguna telah melaporkan masalah serupa lainnya, termasuk satu pengguna yang melaporkan bahwa Google mengembalikan hasil untuk hipotensi ortostatik saat mencari hipertensi ortostatik, dan pengguna lain memposting tangkapan layar Google yang menunjukkan saran buruk untuk menghibur orang yang berduka di sepanjang baris “Senang bahwa Anda 'baik-baik saja' atau "Jangan sedih! Semangat!".
Ringkasan pencarian Google vs halaman sebenarnya foto.twitter.com/OJxt1FrBqh
— lembut.linden (｡•̀ᴗ-)✧ (@lembut) Oktober 16, 2021
Kami juga telah melihat peringatan tentang perilaku berbahaya yang membuat masalah lebih besar dari sebelumnya — awal bulan ini, beberapa distrik sekolah AS dikunci setelah laporan ancaman penembakan di TikTok. Ternyata badai sosial itu terutama disebabkan oleh fakta bahwa orang-orang berbicara tentang ancaman, lebih dari ancaman yang sebenarnya ada. Dalam kasus Alexa, algoritme mengambil bagian deskriptif dari peringatan dan memperkuatnya tanpa konteks aslinya. Meskipun orang tua berada di sana untuk campur tangan segera, mudah untuk membayangkan situasi di mana ini tidak terjadi dan konsekuensinya.
Livdahl tweeted bahwa dia menggunakan kesempatan untuk "membahas keamanan internet dengan anaknya dan tidak mempercayai apa yang Anda baca tanpa penelitian dan verifikasi," yang kami sarankan Anda lakukan juga.
Baca juga: