fine tuning

#5
by Artin2009 - opened

سلام وقت بخیر

چطوری میشه این مدل رو فاین تیون کرد ؟

Part DP AI org
سلام، وقت شما هم بخیر.

برای تنظیم دقیق مدل‌ها با توجه به منابع (داده و سخت‌افزار) موجود، رویکردهای مختلفی وجود دارد که بدون اطلاع دقیق از منابع شما، نمی‌توانم پیشنهاد مشخصی بدم. اما به طور کلی، می‌توانید روش‌های زیر را مطالعه کرده و با توجه به منابع خود، مناسب‌ترین روش را انتخاب کنید:

  1. SFT
  2. LoRA
  3. QLoRA
  4. DPO
  5. PPO
  6. ORPO
  7. RLHF

یکی از بهترین ابزارها هم transformers هست.

خیلی ممنون. ایا امکان فاین تیونیگ با روش REFT هست ؟

و اینکه شما برای روش SFT چه چیزی پیشنهاد میکنید ؟

Part DP AI org
منظورتون PEFT هست؟
  • بله میشه

بهتره با این کورس شروع کنید.
سعی می‌کنیم در این رابطه در آینده در قالب کورس / کالج آموزش‌های بیشتری قرار بدهیم.

MiladMola changed discussion status to closed

Sign up or log in to comment