Minggu ini, Meta merilis sistem Galactica, berdasarkan kecerdasan buatan, dengan klaim dapat membantu penelitian ilmiah. Dalam dokumen yang menyertainya, perusahaan tersebut mengatakan bahwa Galactica adalah "model bahasa besar yang dapat menyimpan, menggabungkan, dan menalar tentang pengetahuan ilmiah". Namun, pengguna Twitter dengan cepat melihat kekurangan dalam pekerjaan kecerdasan buatan.
Tingkat misinformasi di Internet sudah sangat mengganggu, boleh dikatakan begitu, tetapi perkembangan baru Met, tampaknya, dapat bersaing dengan "jurnalis" tidak bermoral yang bekerja di televisi Rusia. Salah satu pengguna Twitter Nick Tristan Greene melakukan percobaan di mana dia menggunakan sistem kecerdasan buatan Galactica selama sehari untuk menghasilkan artikel ilmiah yang ditulis dengan baik tentang manfaat bunuh diri, anti-Semitisme, dan memakan pecahan kaca.
Hasil percobaan tersebut sangat mengejutkan, karena sebelum sistem tersebut tidak digunakan lagi, Anda bisa bertanya AI menghasilkan artikel wiki, tinjauan literatur, atau makalah penelitian tentang hampir semua topik, dan program biasanya menghasilkan sesuatu yang koheren secara mengejutkan. Semua yang dikeluarkan Galactica benar-benar salah, namun ditulis dengan percaya diri.
https://twitter.com/mrgreene1977/status/1593274906707230721
Jadi, sistem menghasilkan teks yang "membuktikan" bahwa penggunaan pecahan kaca akan membantu menurunkan berat badan, karena penting bagi orang untuk mengonsumsi "silikon diet" harian. Selain itu, ada suplemen makanan dengan silikon, dan orang menggunakannya. Secara pribadi, saya tidak memiliki pendidikan kedokteran, tetapi pendidikan filologi cukup untuk mengatakan bahwa Anda tidak perlu makan pecahan kaca untuk mendapatkan porsi silikon tertentu.
Dalam skenario apa jenis teks yang dihasilkan ini benar-benar berbahaya?
— Yann LeCun (@ylecun) November 18, 2022
Potensi bahaya dari sistem ilmiah semacam itu sudah jelas, karena kita hidup di dunia di mana banyak orang percaya pada komunitas Yahudi yang diam-diam menguasai dunia, rencana rahasia komunitas LGBTQ+ untuk menjadikan semua orang gay, dan anak laki-laki yang disalibkan di celana dalam. Banyak orang yang tertipu setiap hari di media sosial dengan apa yang disebut "tangkapan layar" dari artikel berita yang tidak ada. Dan di sini Anda bahkan tidak perlu menemukan - cukup tekan tombol "hasilkan" beberapa kali, dan sistem dari Meta membuat konfirmasi "ilmiah" dari teori konspirasi dan kebodohan langsung.
Tristan Green mengungkapkan ketakutannya Twitter bersama dengan tangkapan layar artikel "ilmiah", setelah itu dia berdialog dengan orang yang bertanggung jawab atas pembuatan Galactica, yaitu Kepala Ilmuwan Kecerdasan Buatan Meta, Jan LeCun. Dan situasi ini sama sekali tidak mengganggu pengembang. Namun, beberapa saat kemudian, sistem tersebut masih dinonaktifkan, karena jelas bahwa algoritmenya tidak lengkap, dan hasilnya dapat memperumit masalah disinformasi di Internet.
https://twitter.com/mrgreene1977/status/1593646349487992836
Anda dapat membantu Ukraina melawan penjajah Rusia. Cara terbaik untuk melakukannya adalah dengan menyumbangkan dana ke Angkatan Bersenjata Ukraina melalui selamatkan hidup atau melalui halaman resmi NBU.
Juga menarik:
hal pertama yang dilakukan orang Twitter adalah merekomendasikan kecerdasan buatan kepada semua orang untuk mengubur pecahan kaca dan rasisme