Gaib Proyek Q* dari OpenAI menimbulkan kekhawatiran di kalangan para ahli. Bisakah itu benar-benar berbahaya bagi umat manusia? Apa yang diketahui tentang dia? Setelah Sam Altman dipecat minggu lalu dan dia dan timnya hampir pindah Microsoft, kemudian dia kembali ke tempat kerjanya (tentang hal itu kami menulis di sini), OpenAI kembali menjadi berita. Kali ini karena apa yang oleh beberapa peneliti disebut sebagai kemungkinan ancaman terhadap umat manusia. Ya, Anda membacanya dengan benar, sebuah ancaman bagi kemanusiaan.
Gejolak nyata dalam dunia teknologi disebabkan oleh Proyek Q* - sebuah proyek kecerdasan buatan umum (AGI) yang dirahasiakan - diucapkan Q-Star. Meskipun proyek ini masih dalam tahap awal, proyek ini dianggap sebagai terobosan nyata dalam pengembangan AGI. Namun, ada pula yang melihatnya sebagai bahaya bagi kemanusiaan.
Sebuah proyek rahasia kecerdasan buatan yang dikembangkan oleh laboratorium kecerdasan buatan terkenal OpenAI berpotensi merevolusi teknologi dan masyarakat secara umum. Namun hal ini juga menimbulkan beberapa pertanyaan etis mengenai risikonya. Ketika rincian mengenai kemampuan menakjubkan Proyek Q* bermunculan, semakin banyak spekulasi bermunculan mengenai dampaknya bagi masa depan umat manusia.
Juga menarik: Sejarah OpenAI: Apa itu OpenAI dan apa yang ada di masa depan bagi perusahaan
Apa itu Kecerdasan Umum Buatan (AGI)?
Untuk memahami kehebohan seputar Project Q* (Q-Star), pertama-tama mari kita coba memahami apa sebenarnya konsep Artificial General Intelligence (AGI). Meskipun sistem kecerdasan buatan saat ini unggul dalam tugas-tugas yang sempit dan spesifik seperti bermain catur atau menghasilkan gambar, kecerdasan buatan umum mengacu pada mesin yang dapat belajar dan berpikir pada tingkat manusia di banyak domain. Artinya, mereka bisa belajar seperti anak kecil di sekolah, misalnya dasar matematika, kimia, biologi, dan lain-lain.
General Artificial Intelligence (AGI) adalah jenis kecerdasan mesin yang secara hipotetis dapat meniru kecerdasan atau perilaku manusia, dengan kemampuan mempelajari dan menerapkan potensi tersebut untuk memecahkan berbagai masalah. AGI disebut juga kecerdasan buatan yang kuat, kecerdasan buatan penuh, atau kecerdasan buatan tingkat manusia. AI Umum berbeda dengan AI lemah atau sempit, yang hanya mampu melakukan tugas spesifik atau khusus dalam parameter tertentu. ZHI akan mampu secara mandiri menyelesaikan berbagai permasalahan kompleks dari berbagai bidang ilmu.
Menciptakan kecerdasan buatan adalah fokus utama penelitian kecerdasan buatan yang dilakukan oleh perusahaan seperti DeepMind dan Anthropic. CSI adalah topik yang sangat populer dalam literatur fiksi ilmiah dan mungkin mempengaruhi penelitian di masa depan. Beberapa orang berpendapat bahwa UCI dapat dibuat dalam waktu beberapa tahun atau dekade, sementara yang lain berpendapat bahwa hal itu dapat memakan waktu satu abad atau lebih. Namun ada pula yang meyakini hal tersebut tidak akan pernah tercapai. Beberapa orang telah melihat awal mula URI di GPT-3, namun tampaknya masih jauh dari memenuhi kriteria dasar.
Penciptaan kecerdasan umum buatan (AGI) dianggap oleh para peneliti sebagai cawan suci kecerdasan buatan, sebuah kemungkinan teoretis yang telah lama menarik imajinasi mereka. Oleh karena itu, kemunculan proyek seperti OpenAI Project Q* menimbulkan resonansi besar dalam dunia penelitian algoritma kecerdasan buatan. Meskipun semua orang memahami bahwa ini hanyalah langkah awal, hampir secara membabi buta, menuju dunia di mana kecerdasan buatan akan memiliki kemampuan yang sama dengan manusia, atau bahkan lebih tinggi.
Juga menarik: Semuanya tentang Microsoft Kopilot: masa depan atau cara yang salah?
Apa itu Proyek Q*?
Project Q* bukanlah algoritma biasa karena merupakan model kecerdasan buatan yang semakin mendekati model kecerdasan umum buatan (AGI). Artinya, tidak seperti ChatGPT, Project Q* menunjukkan kemampuan berpikir dan kognitif yang lebih baik dibandingkan algoritma lainnya. ChatGPT saat ini merespons pertanyaan berdasarkan sejumlah besar materi faktual, tetapi dengan AGI, model AI akan mempelajari penalaran dan kemampuan berpikir serta memahami dirinya sendiri. Telah diketahui bahwa Proyek Q* mampu memecahkan masalah matematika sederhana yang bukan merupakan bagian dari materi pelatihannya. Dalam hal ini, beberapa peneliti melihat adanya langkah signifikan menuju penciptaan kecerdasan buatan umum (AGI). OpenAI mendefinisikan AGI sebagai sistem kecerdasan buatan yang lebih pintar dari manusia.
Pengembangan Proyek Q* dikelola oleh kepala ilmuwan OpenAI Ilya Sutzkever, dan landasannya didukung oleh peneliti Jakub Pakhotsky dan Shimon Sidor.
Kemampuan suatu algoritma untuk memecahkan masalah matematika sendiri, meskipun masalah tersebut bukan bagian dari kumpulan data pelatihan, dianggap sebagai terobosan dalam bidang kecerdasan buatan. Ketidaksepakatan dalam tim mengenai proyek ini terkait dengan pemecatan sementara CEO OpenAI, Sam Altman. Diketahui, sebelum Altman dipecat, sekelompok peneliti perusahaan mengirimkan surat kepada jajaran direksi untuk memperingatkan adanya penemuan AI yang dapat menimbulkan ancaman bagi umat manusia. Surat tersebut, yang kabarnya membahas algoritma Project Q*, disebut-sebut sebagai salah satu faktor yang menyebabkan pemecatan Altman. Namun, kemampuan Proyek Q* dan potensi risiko yang mungkin ditimbulkannya belum sepenuhnya dipahami karena detailnya tidak diketahui. Tidak ada yang dirilis ke masyarakat umum.
Pada intinya, Proyek Q* adalah metode pembelajaran penguatan tanpa model yang berangkat dari model tradisional tanpa memerlukan pengetahuan sebelumnya tentang lingkungan. Sebaliknya, ia belajar melalui pengalaman, mengadaptasi tindakan berdasarkan penghargaan dan hukuman. Pakar teknis percaya bahwa Proyek Q* akan mampu memperoleh kemampuan luar biasa dengan memperoleh kemampuan yang serupa dengan kemampuan kognitif manusia.
Namun, fitur inilah yang paling mengesankan dalam model baru kecerdasan buatan yang membuat khawatir para peneliti dan kritikus serta meningkatkan ketakutan mereka terhadap penerapan teknologi di dunia nyata dan risiko mendasar yang terlibat. Apa yang begitu ditakuti oleh para ilmuwan dan peneliti? Mari kita cari tahu.
Juga menarik: Cara memperbarui perangkat rumah Anda untuk mendukung Wi-Fi 6
Mereka takut akan hal yang tidak diketahui
Manusia selalu takut pada hal yang tidak diketahui, tidak dapat diketahui. Inilah hakikat manusia, ciri karakter dan cara hidup kita.
Dunia teknologi mengetahui tentang Proyek Q* pada November 2023 setelah Reuters dilaporkan tentang surat internal yang ditulis oleh peneliti OpenAI yang peduli. Isi suratnya tidak jelas, namun dilaporkan secara serius menganalisis kemampuan Project Q*. Seperti yang saya sebutkan di atas, bahkan ada spekulasi bahwa surat inilah yang menjadi pemicu pengunduran diri Sam Altman.
Penemuan eksplosif ini telah memunculkan berbagai hipotesis mengenai sifat Proyek Q*. Para ilmuwan berpendapat bahwa ini bisa menjadi model bahasa alami yang revolusioner untuk AI. Semacam penemu algoritma baru yang akan menciptakannya untuk bentuk AI lain, atau sesuatu yang sama sekali berbeda di bidang ini.
Komentar provokatif Altman mengenai kecerdasan buatan secara umum sebagai "karyawan biasa" telah menimbulkan kekhawatiran mengenai keamanan kerja dan perluasan pengaruh AI yang tidak dapat dihentikan. Algoritma misterius ini ditetapkan sebagai tonggak sejarah dalam pengembangan Artificial General Intelligence (AGI). Namun, semua orang memahami bahwa pencapaian ini membutuhkan biaya yang besar. Dan ini bukan tentang uang sekarang. Tingkat keterampilan kognitif yang dijanjikan oleh model AI baru disertai dengan ketidakpastian. Ilmuwan OpenAI berjanji bahwa AI akan memiliki pemikiran setingkat manusia. Artinya kita tidak bisa mengetahui banyak hal dan memprediksi akibatnya. Dan semakin banyak hal yang tidak diketahui, semakin sulit persiapan untuk mengendalikan atau memperbaikinya. Artinya, algoritma baru mampu melakukan perbaikan dan pengembangan diri. Kita telah melihat ini di suatu tempat...
Juga menarik: Windows 12: Apa OS barunya
Detail luar biasa tentang kemampuan Project Q*
Ketika lebih banyak informasi mulai bermunculan, hal itu mengejutkan banyak peneliti. Indikasi awal menunjukkan bahwa Project Q* memiliki kemampuan matematika yang luar biasa. Berbeda dengan kalkulator yang melakukan perhitungan mekanis, Project Q* seharusnya dapat menggunakan logika dan penalaran untuk memecahkan masalah matematika yang kompleks. Kemampuan matematis untuk menggeneralisasi ini memberi petunjuk pada perkembangan kecerdasan yang luas.
Pelatihan mandiri Project Q*, tanpa kumpulan data spesifik yang digunakan untuk melatih AI pada umumnya, juga akan menjadi langkah maju yang besar. Masih belum diketahui apakah Project Q* telah menguasai keterampilan lainnya. Tetapi kemampuan matematikanya begitu menakjubkan sehingga membingungkan para peneliti berpengalaman sekalipun.
Baca juga: Proyek Otak Manusia: Upaya meniru otak manusia
Jalur Project Q* menuju dominasi?
Ada skenario optimis dan pesimistis dalam hal ini. Orang yang optimis akan mengatakan bahwa Proyek Q* dapat menjadi pemicu terobosan teknologi. Seiring dengan perbaikan sistem secara rekursif, kecerdasan supranatural yang dimilikinya dapat membantu menyelesaikan beberapa masalah terpenting umat manusia, mulai dari perubahan iklim hingga pengendalian penyakit. Project Q* dapat mengotomatiskan pekerjaan yang membosankan dan meluangkan waktu luang kita untuk aktivitas lain.
Meski masih banyak pilihan yang lebih pesimistis. Terkadang, hal tersebut cukup masuk akal dan memiliki arti tertentu.
Kehilangan pekerjaan
Pergeseran cepat dalam perkembangan teknologi dapat melampaui adaptasi individu manusia. Hal ini akan menyebabkan hilangnya satu atau lebih generasi yang tidak akan mampu memperoleh keterampilan atau pengetahuan yang diperlukan untuk beradaptasi dengan realitas baru. Artinya, hal ini berarti semakin sedikit orang yang mampu mempertahankan pekerjaan mereka. Hal ini akan dilakukan oleh mesin, sistem otomatis, dan robot. Namun, jawabannya tidak begitu jelas jika menyangkut spesialis yang berkualifikasi. Selain itu, profesi baru yang terkait secara khusus dengan pengembangan algoritma kecerdasan buatan mungkin akan bermunculan. Namun risiko tetap ada, dan umat manusia tidak berhak mengabaikannya.
Bahaya kekuasaan yang tidak terkendali
Jika AI sekuat Project Q* jatuh ke tangan orang-orang yang mempunyai niat jahat, hal ini berisiko menimbulkan konsekuensi bencana bagi umat manusia. Bahkan tanpa potensi niat jahat, tingkat pengambilan keputusan Proyek Q* dapat menghasilkan hasil yang merugikan, sehingga menggarisbawahi pentingnya evaluasi yang cermat terhadap penerapannya.
Jika Project Q* tidak dioptimalkan dengan baik untuk kebutuhan manusia, hal ini dapat menimbulkan kerugian pada kemampuannya untuk memaksimalkan beberapa metrik yang sewenang-wenang. Atau mungkin mempunyai dimensi politik, seperti digunakan untuk pengawasan atau penindasan negara. Perdebatan terbuka seputar analisis dampak Proyek Q* akan membantu menentukan kemungkinan skenario pengembangan ZHI.
Apakah kita akan menghadapi pertarungan "Manusia vs. Mesin"?
Hollywood telah menciptakan banyak skenario konfrontasi semacam itu dalam film-filmnya. Kita semua ingat SkyNet yang terkenal dan konsekuensi dari penemuan tersebut. Mungkin peneliti OpenAI harus menonton film ini lagi?
Umat manusia perlu menerima sinyal dan tantangan serta bersiap menghadapi apa yang mungkin terjadi. Model kecerdasan buatan yang mampu berpikir seperti manusia suatu saat nanti bisa menjadi musuh kita. Banyak yang berpendapat bahwa di masa depan para ilmuwan akan tahu persis bagaimana menjaga situasi tetap terkendali. Namun jika menyangkut mesin, Anda tidak bisa sepenuhnya mengesampingkan kemungkinan bahwa mereka akan mencoba mengambil alih manusia.
Juga menarik: Tidak semua yang kita sebut AI sebenarnya adalah kecerdasan buatan. Inilah yang perlu Anda ketahui
Mengapa OpenAI diam?
Meskipun minat publik terhadap Project Q* sangat besar, manajemen OpenAI tetap bungkam mengenai spesifikasi algoritmanya. Namun kebocoran internal menunjukkan meningkatnya ketegangan di laboratorium mengenai prioritas dan keterbukaan pembangunan. Meskipun banyak orang dalam OpenAI mendukung pembuatan Proyek Q*, para kritikus berpendapat bahwa transparansi tidak lagi bisa mempercepat kemajuan ilmu pengetahuan dengan cara apa pun. Dan beberapa peneliti khawatir bahwa kekuatan luar biasa diberikan kepada sistem yang tujuannya tidak selalu sesuai dengan nilai-nilai dan etika kemanusiaan. Para peneliti ini yakin bahwa perdebatan seputar pengawasan dan akuntabilitas kini semakin tidak terdengar. Mereka memerlukan lebih banyak publisitas dan rincian.
Sebagai pencipta Project Q*, OpenAI harus memahami bahwa mereka memiliki teknologi yang dapat memperluas kemungkinan pembangunan masyarakat, atau menghancurkannya dengan kejam. Inovasi signifikan seperti ini memerlukan transparansi yang lebih besar untuk membangun kepercayaan publik. Setiap peramal era mesin harus hati-hati mempertimbangkan risiko dan manfaatnya. Dan para pengembang Project Q* perlu menunjukkan kebijaksanaan dan kepedulian yang cukup untuk mengantarkan masyarakat ke era baru kecerdasan buatan umum yang mungkin terjadi lebih cepat dari yang kita bayangkan.
Agar kecerdasan buatan secara umum bermanfaat dan aman bagi umat manusia, harus dipastikan bahwa kecerdasan buatan tersebut beroperasi dengan aman, etis, dan sesuai dengan nilai dan tujuan kemanusiaan. Hal ini memerlukan pengembangan dan penerapan peraturan, standar, peraturan dan protokol yang tepat yang akan mengontrol dan menahan tindakan dan perilaku CSI. Selain itu, potensi ancaman dan risiko yang terkait dengan pelanggaran, kecelakaan, ketidakcocokan, manipulasi dan konflik yang dapat mengakibatkan kehancuran umat manusia harus dihilangkan. Sementara itu, investor dan Microsoft sangat menantikan produk yang dapat dipasarkan yang dapat menghasilkan keuntungan, yang tentunya bertentangan dengan kebutuhan untuk bertindak secara bertanggung jawab. Semoga saja akal sehat menang.
Baca juga: