Asistenții AI pentru cei care scriu cod sunt unelte care ajută dezvoltatori experimentați și începători să facă procesele de scriere cod, debugging sau explicare cod mai eficiente. Unul dintre marile beneficii ale acestor asistenți rulați local este faptul că pot fi folosiți nelimitat, astfel încât să nu mai fie nevoie de abonamente plătite sau plafoane de utiliazre în servicii cloud.
Atunci când sunt folosiți alături de o placă video RTX acești asistenți sunt semnificativ mai rapizi și oferă de până la 6x mai multă performanță pe modele precum Meta Llama 3.1-8B prin comparație cu rulare doar pe procesor. Această viteză permite uneltelor precum Continue.dev, Tabby și OpenInterpreter să fie cel puțin la fel de bune sau poate chiar mai bune decât alternativele bazate pe cloud, fără a trimite codul sursă la un server extern.
Blogul RTX AI Garage de săptămâna aceasta aruncă o privire asupra:
- Exemple de fluxuri de lucru reale folosind modele precum Gemma 12B, Code Llama și StarCoder2 care rulează local via Continue.dev, Ollama și LM Studio.
- De ce accelerarea GPU contează în special pentru dezvoltatori care lucrează cu proiecte mari, prompt-uri lungi sau feedback din scurt.
- Cum aceste unelte fac asistenții AI locali practici: Continue.dev, Tabby, OpenInterpreter, LM Studio și altele.
- Plus: Reminder pentru desfășurarea Project G-Assist Plug-In Hackathon până pe data de 16 iulie — care invită dezvoltatorii să extindă asistentul AI experimental de la NVIDIA cu plugin-uri personalizate
Pentru dezvoltatorii care sunt la început de drum, fie că sunt studenți sau o fac de plăcere, și care vor să experimenteze cu AI local, laptopurile GeForce RTX seria 50 oferă performanța necesară pentru a rula acești asistenți cât mai ușor, fără latență sau limitările aduse de unelte cloud. Explorează laptopuri RTX ideale pentru sezonul de back-to-school
Pentru a afla mai multe intră pe https://blogs.nvidia.com/blog/rtx-ai-garage-coding-assistants
