Bot AI percakapan OpenAI, ChatGPT diluncurkan tahun lalu dan telah menjadi sangat populer dengan kecepatan rekor berkat kemampuannya untuk menulis cerita, menulis email, dan bahkan menghasilkan kode (terkadang, sayangnya, bahkan berbahaya). Namun, sebuah laporan baru menunjukkan bahwa OpenAI membutuhkan biaya yang sangat besar untuk membuatnya tetap berjalan setiap hari.
Menurut penelitian oleh SemiAnalysis, OpenAI menghabiskan hampir $695 per hari untuk pemeliharaan bot obrolan dalam kondisi kerja. Menurut perkiraan perusahaan, sistem tersebut mencakup lebih dari 3,6 ribu server HGX A100 dan hampir 29 ribu GPU, dan biaya per permintaan sekitar ¢0,36.
Dylan Patel, analis utama di SemiAnalysis, mengatakan kepada Business Insider bahwa biaya menjalankan perangkat lunak saat ini bisa lebih tinggi, karena versi GPT-4 kemungkinan akan lebih mahal untuk dijalankan daripada pendahulunya, GPT-3. Dia mendasarkan perkiraannya pada model GPT-3 sebelumnya, tetapi OpenAI telah merilis versinya GPT-4 untuk pelanggan berbayar. Perusahaan mengklaim bahwa model baru menawarkan informasi yang lebih akurat dan perlindungan yang lebih baik terhadap jawaban yang salah, yang merupakan masalah dengan versi sebelumnya.
Salah satu alasan utama biaya selangit adalah chip khusus intensif energi yang diperlukan untuk mengoperasikan sistem. Untuk mengatasi masalah ini, Microsoft sedang mengerjakan chip kecerdasan buatannya sendiri yang disebut Athena yang dapat menggantikan GPU NVIDIA dan mengurangi biaya pengoperasian ChatGPT.
Sementara itu, ChatGPT sudah dapat menghasilkan kode fungsional dari awal, bahkan menimbulkan kekhawatiran bahwa pada akhirnya dapat menggantikan programmer. Namun, studi terbaru oleh sekelompok ilmuwan menunjukkan bahwa kode yang dihasilkan chatbot mungkin tidak terlalu aman. Studi tersebut mengatakan bahwa ChatGPT menghasilkan kode yang "jauh di bawah standar keamanan minimum yang berlaku di sebagian besar situasi". Yang paling menarik, chatbot mengakui hal ini ketika ditanya seberapa aman kode yang dihasilkannya.
Untuk memeriksa kualitas pengkodean ChatGPT, para peneliti memintanya untuk membuat 21 program dan skrip menggunakan empat bahasa pemrograman: C, C++, Python, dan Java. Pada percobaan pertamanya, chatbot hanya mampu menulis 5 program yang aman, tetapi setelah beberapa dorongan dari para peneliti, ia membuat 7 kode yang lebih aman. Hasil penelitian menunjukkan bahwa menggunakan ChatGPT untuk menulis aplikasi mungkin tidak efisien atau bahkan berbahaya saat ini, tetapi hal ini dapat berubah di masa mendatang.
Baca juga:
Angka wow untuk neuron gratis!
Dalam hidup saya, saya tidak akan pernah berpikir bahwa itu sangat mahal ...
Saya juga terkejut. Aku bahkan sedikit tidak nyaman sekarang Buka ChatGPT - Saya masih akan membebaninya dengan permintaan saya)