Komunitas penggemar AI sedang menjajaki cara untuk mengintegrasikan model bahasa skala besar (LLM) ke dalam alur kerja produktivitas mereka dengan memanfaatkan aplikasi yang mendukung plugin komunitas. Plugin ini memungkinkan pengguna memanfaatkan server inferensi lokal yang didukung oleh pustaka perangkat lunak llama.cpp yang dipercepat NVIDIA RTX untuk meningkatkan alur kerja mereka dengan kemampuan AI. Hal ini memungkinkan pengguna PC RTX AI untuk dengan mudah memasukkan LLM lokal ke dalam tugas sehari-hari mereka.

Salah satu aplikasi tersebut adalah Obsidian. Ini adalah aplikasi penulisan dan pencatatan berbasis penurunan harga yang mendukung plugin yang dikembangkan komunitas. Plugin ini dapat menghubungkan Obsidian ke server inferensi lokal seperti Ollama atau LM Studio untuk memperluas fungsionalitas aplikasi Anda. Pengguna dapat menghubungkannya ke Obsidian melalui proses pengaturan sederhana yang mengaktifkan fungsionalitas server lokal di LM Studio dan mengonfigurasi plugin menggunakan URL server yang disediakan oleh LM Studio.

Di antara plugin yang tersedia, Text Generator dan Smart Connections menonjol. Pembuat Teks membantu Anda membuat konten di Obsidian, seperti catatan dan ringkasan, dan Koneksi Cerdas membantu Anda menanyakan informasi spesifik dari konten di brankas Obsidian Anda. Agar setiap plugin berfungsi dengan baik, pengguna harus memasukkan URL Server LM di pengaturan.

Plugin AI ini mengubah cara pengguna berinteraksi dengan alur kerja mereka. Misalnya, Text Generator dapat melakukan brainstorming ide untuk liburan hipotetis, dan Smart Connections dapat menggunakan teknologi pembuatan peningkatan pencarian untuk mengambil informasi dari brankas catatan pengguna. Contoh-contoh ini menunjukkan manfaat praktis plugin AI dalam meningkatkan produktivitas. Teknologi NVIDIA GeForce RTX mendukung inovasi ini dengan memungkinkan pengembang menjalankan ribuan model open source yang dapat diintegrasikan ke dalam aplikasi Windows.