NVIDIA baru saja merilis demo chatbot gratis yang berjalan secara lokal di PC Anda. Ini sangat nyaman karena memberikan chatbot akses ke file dan dokumen Anda. Anda dapat menyediakan Ngobrol dengan RTX data pribadi tertentu dan memintanya untuk membuat resume berdasarkan informasi tersebut. Anda juga dapat mengajukan pertanyaan seperti yang Anda lakukan pada chatbot mana pun dan itu akan menyelami data Anda untuk mendapatkan jawabannya.
Perusahaan mengatakan hal itu memungkinkan pengguna untuk "dengan cepat dan mudah menghubungkan file PC lokal sebagai kumpulan data ke model bahasa sumber terbuka besar seperti Mistral atau Llama 2." NVIDIA memberikan contoh pengguna menanyakan chatbot tentang restoran yang direkomendasikan partnernya saat berada di Las Vegas. Perangkat lunak ini memindai file lokal untuk menemukan jawabannya. Ini mendukung berbagai format file termasuk .txt, .pdf, .doc, .docx, dan .xml. Perusahaan mengatakan mereka mengunggah file yang relevan ke kumpulan datanya "dalam hitungan detik".
Obrolan dengan RTX juga mengintegrasikan video dan playlist YouTube. Anda dapat menambahkan URL video ke kumpulan data dan itu akan mengintegrasikan pengetahuan yang terkandung dalam video untuk kueri kontekstual. NVIDIA mengatakan ini akan berguna ketika meminta rekomendasi perjalanan “berdasarkan konten dari video favorit dari influencer” atau ketika mencari tutorial dan ringkasan yang diperoleh dari sumber daya pendidikan.
Ini sepertinya merupakan langkah besar menuju sesuatu seperti asisten digital sejati yang bekerja dalam konteks data pribadi Anda. Kebanyakan chatbot mengirim data ke cloud, namun Chat dengan RTX "memungkinkan pengguna memproses data sensitif di komputer lokal tanpa harus membaginya dengan pihak ketiga atau memiliki koneksi Internet." Jadi komunikasinya lebih aman dan berorientasi pada konteks.
Ada beberapa batasan. Ini adalah produk demo jadi diperkirakan akan banyak bug NVIDIA harus mulai memperbaikinya segera setelah pengguna mulai menulis laporan bug dan semacamnya. Ada juga beberapa batasan perangkat keras yang ketat di sini. Obrolan dengan RTX hanya berfungsi di komputer Windows 11 dengan GPU NVIDIA Seri GeForce RTX 30 atau lebih tinggi dan VRAM minimal 8 GB.
Baru-baru ini NVIDIA benar-benar memamerkan kehebatan AI-nya karena perusahaan baru saja meluncurkan chip superkomputer AI generasi berikutnya. Mereka hanya mendapatkan keuntungan, terutama karena segmen AI dan pusat datanya.
Baca juga: