Coba lagi kali ini pake windows, karena GPU nya di windows. Kali ini pakai LM Studio (lmstudio.ai). Yang mudah diinstall di windows, lalu bisa ada fitur download juga model-modelnya, berikut keterangan. Juga ada info apakah bisa terpakai GPU kita, juga ada simbol hug (yg banyak = yang banyak yang suka). Ada fitur chat offlinenya juga langsung. Dan bisa dipanggil oleh aplikasi lain.
Masih agak lambat sih, pilihan-pilihannya juga banyak, alternatif modelnya banyak. Nanti dicari yang pas ya.
Untuk aplikasi lainnya saya coba pakai anythingLLM. Lumayang bangeut sih ini. Terutama karena saya bisa coba pakai GPU yang ada tanpa harus dipindah ke komputer lain.
Untuk tampilan depannya jadi coba pake anythingLLM, lumayan oke. Cuma font dll kurang suka (kurang kebaca). Jadi anything LLM ini ambil servicenya dari LM Studio yang di atas. Saya juga udah coba pake perplexity api nya, oke juga. Cuma dari perplexity diberikan USD 5 tiap bulan untuk pemakaian API, di luar pemakaian itu akan dicharge lagi.
Lumayan bangeut. Cuma untuk sementara saya masih pakai chatgpt, perplexity dan github copilot saja. Nanti kalau udah ada dedicated komputer buat GPU dengan spek yang lumayan, boleh dicoba lagi.
Nyoba-nyoba gini asik juga, tapi dicoba minta bikin coding dan minta periksa coding. Kalau dia bikin coding, saya copy paste ke chatgpt buat minta chatgpt yang periksa. so far lumayan.
