Dezvoltatorii ajustează modelele LLM pentru sarcini specializate, de la adaptarea unui chatbot pentru întrebări de suport, până la construirea unui asistent personal pentru gestionarea programului zilnic. Multe dintre aceste fluxuri de lucru sunt mult mai ușor de realizat pe GPU-urile NVIDIA, unde dezvoltatorii beneficiază de mai mult control, mai multă memorie și iterații locale mai rapide.
Articolul din această săptămână de pe RTX AI Garage prezintă pas cu pas cum se face fine-tuning cu Unsloth, un framework open-source optimizat pentru GPU-urile NVIDIA, de la laptopuri RTX până la DGX Spark, supercomputerul AI compact de la NVIDIA. De asemenea, sunt evidențiate modalitățile prin care dezvoltatorii pot utiliza DGX Spark pentru a ajusta modele mai mari, dedicate fluxurilor de lucru mai complexe.
Totodată, apare în prim-plan noua familie NVIDIA Nemotron 3, recent anunțată, un set de modele open-source, dataset-uri și biblioteci concepute pentru fine-tuning eficient și scalabil. Creat pentru aplicații AI agentic, Nemotron 3 reprezintă cea mai performantă suită de modele open-source NVIDIA de până acum, disponibilă în variantele Nano, Super și Ultra, adaptate diferitelor tipuri de sarcini.
Descoperă ediția din această săptămână RTX AI Garage pentru o introducere rapidă în fine-tuning, care include:
- Aspecte-cheie de luat în considerare la fine-tuning, de la ajustarea eficientă a parametrilor până la reinforcement learning, precum și recomandări de VRAM pentru diferite dimensiuni de modele.
- Modul în care Unsloth accelerează procesul de antrenare și reduce consumul de VRAM pe GPU-urile NVIDIA.
- De ce DGX Spark se evidențiază în cazul modelelor mai mari, ferestrelor de context extinse și fluxurilor de lucru avansate.
- Noua familie de modele open Nemotron 3, în variantele Nano, Super și Ultra, cea mai eficientă familie de modele open de până acum, cu acuratețe de top, ideală pentru dezvoltarea aplicațiilor agentic AI.
Pentru un ghid practic de fine-tuning local, urmărește videoclipul de mai jos în care Matthew Berman demonstrează reinforcement learning rulând pe un NVIDIA GeForce RTX 5090, folosind Unsloth:
