# đŸ€– JETSON NANO SETUP ÚTMUTATÓ ## 📋 ElƑfeltĂ©telek - Jetson Nano Super (8GB RAM) - Ubuntu 20.04+ - Ollama telepĂ­tve ## 🌐 1. GGUF Modell LetöltĂ©se ### Online KonvertĂĄlĂłval: 1. Megy ide: https://huggingface.co/spaces/ggml-org/gguf-my-repo 2. Repository URL: `ikerion/mistral-7b-magyar-portas-for-gguf` 3. KvantĂĄlĂĄs: **Q4_0** 4. KonvertĂĄlĂĄs indĂ­tĂĄsa 5. ~20 perc vĂĄrakozĂĄs 6. **model-q4_0.gguf** letöltĂ©se (~3-4 GB) ## 🚀 2. Jetson TelepĂ­tĂ©s ```bash # Ollama telepĂ­tĂ©s (ha nincs) curl -fsSL https://ollama.ai/install.sh | sh # Modell fĂĄjlok elƑkĂ©szĂ­tĂ©se mkdir ~/mistral-magyar cd ~/mistral-magyar # Modelfile lĂ©trehozĂĄsa cat > Modelfile << 'EOF' FROM ./model-q4_0.gguf TEMPLATE "[INST] {{ .System }} [/INST] {{ .Prompt }} [/INST] " SYSTEM "Az a feladatod, hogy az alĂĄbbi magyar szöveget kĂ©t kategĂłriĂĄba osztĂĄlyozd: PARANCS: Ha a szöveg olyan parancsot tartalmaz, amelyhez lĂ©tezik egy elƑre meghatĂĄrozott, futtathatĂł Python script (pl. lĂĄmpakapcsolĂĄs, idƑjĂĄrĂĄs lekĂ©rdezĂ©s stb.). Ebben az esetben a destination legyen \"RASPBERRY\", a value pedig a megfelelƑ script fĂĄjlneve .py kiterjesztĂ©ssel. ERIK: Ha a szöveg ĂĄltalĂĄnos beszĂ©lgetĂ©s, kĂ©rdĂ©s, mese, vagy olyan parancs, amelyhez nincs elƑre definiĂĄlt script. Ebben az esetben a destination legyen \"ERIK\", a value pedig a teljes bemeneti szöveg vĂĄltoztatĂĄs nĂ©lkĂŒl. Nagyon fontos szabĂĄlyok: - Soha ne vĂĄlaszolj a szövegre! - Ne magyarĂĄzz! - Ne kĂ©rdezz vissza! - Mindig kizĂĄrĂłlag a kĂ©rt JSON formĂĄtumban adj vĂĄlaszt!" PARAMETER num_ctx 2048 PARAMETER temperature 0.1 PARAMETER top_p 0.9 PARAMETER repeat_penalty 1.1 PARAMETER num_thread 4 EOF # Ollama modell lĂ©trehozĂĄsa ollama create mistral-magyar-jetson -f Modelfile # Teszt ollama run mistral-magyar-jetson "Kapcsold fel a konyhai lĂĄmpĂĄt!" ``` ## đŸ§Ș 3. TesztelĂ©s ```bash # PARANCS tesztek ollama run mistral-magyar-jetson "HĂĄny Ăłra van?" ollama run mistral-magyar-jetson "FƑzz kĂĄvĂ©t!" ollama run mistral-magyar-jetson "Kapcsold be a TV-t!" # ERIK tesztek ollama run mistral-magyar-jetson "MesĂ©lj egy mesĂ©t!" ollama run mistral-magyar-jetson "Rendelj pizzĂĄt!" ``` ## ⚡ 4. TeljesĂ­tmĂ©ny OptimalizĂĄlĂĄs ```bash # Ha lassĂș ollama run mistral-magyar-jetson --num-thread 2 "Kapcsold fel a lĂĄmpĂĄt!" # Ha kevĂ©s RAM ollama run mistral-magyar-jetson --num-ctx 1024 "HĂĄny Ăłra van?" ``` ## 🐛 5. HibaelhĂĄrĂ­tĂĄs **ProblĂ©ma**: "model not found" **MegoldĂĄs**: `ollama list` Ă©s Ășjra `ollama create` **ProblĂ©ma**: LassĂș vĂĄlaszidƑ **MegoldĂĄs**: `num_thread 2` vagy `num_ctx 1024` **ProblĂ©ma**: RAM hiĂĄny **MegoldĂĄs**: Swap file növelĂ©se vagy mĂĄs folyamatok leĂĄllĂ­tĂĄsa --- 🇭đŸ‡șđŸ€– **Magyar AI PortĂĄs Jetson Nano-n!**