Navid-AI

/

Yehia-7B-preview

like 20

Follow

Navid AI 19

Allam is based on the LLaMA archticture, any guide you will find for finetuning this archticture should work with ALLaM

ايه ال resources اللي أنا محتاجها عشان أعمل fine tunning ل نموذج allam , هل google colab 10$ pro هيكون كافي ؟

بدون ما أعمل bit4 quentization ، لكي أحافظ علي performance

وايه أنسب طريقة ، مثلا lora

1. معنديش فكرة عن الموارد اللى بيوفرها كولاب برو بس فى العموم كل ما كان عندك كارت شاشة افضل كل ما هيكون احسن
2. انا مش من محبين ال lora وميال أكتر لل full finetuning ولكن أظن هتلاقى مقالات بتختلف معايا فى وجهة النظر وهما ممكن يكون أصوب منى

جزاك الله خيرا يا هندسة ، أنا متابعك من فترة ومعجب بشغلك ، إن شاء الله لما أشتغل هقابلك.