استخدام GGUF مع GPT4All

GPT4All هو تطبيق نموذج لغة كبير مفتوح المصدر طورته Nomic. تُقدّم الإصدار 2.7.2 ميزة تجريبية جديدة كليًا تُسمى Model Discovery.

Model Discovery يوفر طريقة مدمجة للبحث عن نماذج GGUF وتنزيلها من Hub. للبدء، افتح GPT4All وانقر على Download Models. من هنا، يمكنك استخدام شريط البحث للعثور على نموذج.

بعد أن تختار نموذجًا وتحمّله، يمكنك الانتقال إلى Settings وتقديم قالب موجه مناسب بصيغة GPT4All (المواضع الاحتياطية %1 و%2).

ثم من الصفحة الرئيسية، يمكنك اختيار النموذج من قائمة النماذج المثبتة وبدء محادثة.

Update on GitHub