aiprivat.ro

Pentru dezvoltatori și pasionați de AI

AI local pe RX5090-16EU20. Modelele care se încadrează.

Alege modelul și contextul ca să compari memoria necesară cu laptopurile de la TekAdvice.ro. Pentru NVIDIA separăm memoria video de RAM; pe Ryzen AI, memoria este partajată. Poți porni și de la laptop, ca să vezi ce modele se încadrează în calcul.

Ghid pentru dezvoltatori · PowerShell, API local și VS Code.

  • 25 modele locale
  • 5 configurații TekAdvice.ro
  • 7 familii populare Ollama
Exemplu de calcul de memorie*
NVIDIA RTX 5080 Laptop GPU · 16 GBRT5080-16EU30
Fișier + cache f16 teoretic 13,6 GiBVRAM nominală 16,0 GiB

13,6 GiB / 16 GiB nominal

Qwen3 14B Q4_K_M, context 32K: fișier LLM + cache f16 teoretic*. Memoria suplimentară a aplicației nu este inclusă. Exemplu de calcul, fără test pe laptop.

≈ 28 tokeni/s*

Configurator

LLM → laptop Laptop → LLM
Folosire
Lista de modele
Context · cât text citește odată

Alege laptopul

Laptop → modele

RX5090-16EU20

19.389,94 lei

Preț TekAdvice.ro cu TVA · verificat 23.10.2026 · Stoc limitat

Intel Core Ultra 9 275HX · NVIDIA RTX 5090 Laptop GPU · 16 GB RAM · 1 TB SSD

Mai jos: estimarea fiecărui model la context 32K.

+ configurare software LLM 400 lei

Pachet standard · 3 modele instalate

RX5090-16EU20 · 2 LLM-uri + 1 model de embeddings

BGE-M3 găsește pasajele; Qwen3 30B-A3B formulează răspunsul. Context inițial LLM: 8K. Modelele sunt folosite pe rând.

Ollama, Open WebUI, VS Code + Continue, exemplu cu documente locale și ghid. Instalat și facturat de TekAdvice.ro; 30 de zile de suport prin e-mail de la aiprivat.ro.

Selecție standard* · rularea se verifică pe configurația comandată înainte de livrare. Windows 11 se alege separat la TekAdvice.ro.

Selecția din configurator nu modifică acest pachet.

Modele pentru laptopul ales

Catalog complet · 25 modele, cele mai apropiate de memoria laptopului primele.

* Valorile cu * sunt estimări calculate pentru contextul ales ocupat integral, cache f16 și o singură cerere text, nu măsurători pe laptopurile din ofertă. Le înlocuim cu rezultatele testelor pe configurația exactă.

Se încadrează în calcul* 16

Offload de evaluat* 2

  • DeepSeek-R1 32Bdeepseek-r1:32b · 20,0 GBcalcul teoretic
    Fișier + cache f16 teoretic 26,5 GiBVRAM nominală 24,0 GiB
    ≈ 3,7 tokeni/s*

    * Estimare pentru contextul ocupat integral.Calculul depășește VRAM; poate fi necesar offload în RAM.

  • Qwen3 32Bqwen3:32b · 20,0 GBcalcul teoretic
    Fișier + cache f16 teoretic 26,8 GiBVRAM nominală 24,0 GiB
    ≈ 3,4 tokeni/s*

    * Estimare pentru contextul ocupat integral.Calculul depășește VRAM; poate fi necesar offload în RAM.

Memorie partajată sau date incomplete* 5

  • Gemma4 12Bgemma4:12b · 8,0 GBdate lipsă*

    Cache și memorie de rulare: date lipsă*. VRAM nominală: 24,0 GiB.

    date lipsă*

    * Estimare pentru contextul ocupat integral.

  • Granite4 3Bgranite4:3b · 2,1 GBdate lipsă*

    Cache și memorie de rulare: date lipsă*. VRAM nominală: 24,0 GiB.

    date lipsă*

    * Estimare pentru contextul ocupat integral.

  • Qwen3.5 9Bqwen3.5:9b · 6,6 GBdate lipsă*

    Cache și memorie de rulare: date lipsă*. VRAM nominală: 24,0 GiB.

    date lipsă*

    * Estimare pentru contextul ocupat integral.

  • Qwen3.6 27Bqwen3.6:27b · 18,0 GBdate lipsă*

    Cache și memorie de rulare: date lipsă*. VRAM nominală: 24,0 GiB.

    date lipsă*

    * Estimare pentru contextul ocupat integral.

  • Qwen3.8 27Bqwen3.8:27b · 18,0 GBdate lipsă*

    Cache și memorie de rulare: date lipsă*. VRAM nominală: 24,0 GiB.

    date lipsă*

    * Estimare pentru contextul ocupat integral.

Peste contextul declarat 2

  • Phi-4 14Bphi4:14b · 9,1 GBdate lipsă*

    Cache și memorie de rulare: date lipsă*. VRAM nominală: 24,0 GiB.

    Context depășit

    * Estimare pentru contextul ocupat integral.Contextul ales depășește limita declarată a modelului.

  • Gemma 2 9Bgemma2:9b · 5,4 GBdate lipsă*

    Cache și memorie de rulare: date lipsă*. VRAM nominală: 24,0 GiB.

    Context depășit

    * Estimare pentru contextul ocupat integral.Contextul ales depășește limita declarată a modelului.

Top 7: familii generative locale populare în catalogul Ollama. Verificare săptămânală, la începutul săptămânii. Puteți descărca și instala oricând alte modele potrivite nevoilor dumneavoastră și resurselor laptopului.

Cele șapte familii populare și variantele locale alese
  1. Llama 3.1 8B · llama3.1:8b · 4,9 GB
  2. DeepSeek-R1 14B · deepseek-r1:14b · 9,0 GB
  3. Llama 3.2 3B · llama3.2:3b · 2,0 GB
  4. Qwen 2.5 7B · qwen2.5:7b · 4,7 GB
  5. Gemma 3 12B · gemma3:12b · 8,2 GB
  6. Qwen3 14B · qwen3:14b · 9,3 GB
  7. Gemma 2 9B · gemma2:9b · 5,4 GB
Populare acum: familii adăugate recent în Ollama

Cele mai descărcate șapte familii generative locale adăugate în Ollama în aproximativ ultimele 12 luni (lista „newest”), cu variante între 3B și 35B; fără embedding, modele de decizie, cloud-only sau modele specializate (OCR, traducere, medical). Popularitatea nu este un test de calitate. Verificat 20.10.2026. Lista Ollama

  1. Gemma4 12B · gemma4:12b · 8,0 GB · cache de calculat*
  2. Qwen3.5 9B · qwen3.5:9b · 6,6 GB · cache de calculat*
  3. Qwen3.6 27B · qwen3.6:27b · 18,0 GB · cache de calculat*
  4. Qwen3.8 27B · qwen3.8:27b · 18,0 GB · cache de calculat*
  5. Devstral Small 2 24B · devstral-small-2:24b · 15,0 GB
  6. Granite4 3B · granite4:3b · 2,1 GB · cache de calculat*
  7. Ministral 3 14B · ministral-3:14b · 9,1 GB

Pentru căutarea în documente recomandăm BGE-M3, inclus în pachetul standard al fiecărui laptop. Este un model de embeddings: găsește pasajele relevante; LLM-ul general formulează răspunsul. Sunt două LLM-uri și BGE-M3, în total trei modele instalate. Vezi modelele standard în opțiunea „+ configurare software LLM”.

Acestea sunt recomandările noastre de pornire; le îmbunătățim pe măsură ce apar modele noi și rezultate din testele noastre*.

Surse și calculul memoriei*

Dimensiunea fișierului LLM și arhitectura vin din varianta exactă Ollama. GB pentru descărcare înseamnă 10⁹ octeți; GiB pentru comparație înseamnă 2³⁰ octeți. Cache-ul f16 este calculat din numărul de straturi, capete KV, dimensiunile K/V și tokeni, pentru o singură cerere și text. Comparația fișier + cache nu este memoria efectivă de rulare: aplicația, driverul, ecranul și procesarea imaginilor pot necesita memorie suplimentară*. Nu presupunem o rezervă fixă sau un procent de RAM accesibil Ryzen; când memoria iGPU este măsurată pe laptopul exact, comparația o folosește pe aceasta. Pentru Gemma și gpt-oss estimăm cache-ul ferestrelor glisante din straturile globale și locale. Este un scenariu cu cache limitat la fereastră; alocarea reală a aplicației poate fi mai mare*.

Cache f16 și cereri paralele · Context configurat și verificarea offload-ului · Suportul GPU depinde de sistem și driver.

Benchmark public pe GPU de laptop

Qwen3 8B Q4_K_M: mediană 59,71 tokeni/s din cinci repetări pe RTX 5070 Ti Laptop 12 GB, Linux, Ollama 0.30.6, context 4.096 tokeni, o cerere. Este o măsurătoare externă pe altă configurație și alt digest al modelului; nu este o măsurătoare pe laptopurile TekAdvice.ro sau la contextele 8K/32K/128K*. Protocolul și datele brute.

Valorile afișate sunt estimative, calculate pe baza modelului, contextului și comparațiilor cu configurații de laptop apropiate*.

Cum estimăm viteza*

Numerele sunt aproximări pentru contextul ales ocupat integral, cache f16, o singură conversație text și laptop alimentat la priză. Pornim de la benchmarkuri pentru GPU-uri de laptop și iGPU-uri mobile și ajustăm după dimensiunea modelului, cache și offload. Pentru Ryzen AI presupunem rularea pe iGPU-ul Radeon. Pe Windows, Ollama îl folosește prin backendul Vulkan (ROCm pentru Windows nu listează Radeon 860M/890M); memoria alocată iGPU-ului depinde de BIOS și driver și se verifică pe laptopul comandat*. Sursa Radeon 860M nu identifică laptopul și are încredere redusă*. RTX 5080 și RTX 5090 Laptop au aceeași lățime de bandă nominală (896 GB/s), deci aceeași estimare de viteză; 5090 are în plus memorie (24 GB). Windows, driverul, puterea GPU și aplicația pot schimba mult rezultatul; un chat scurt poate fi mai rapid. Nu sunt măsurători pe laptopurile din ofertă sau limite garantate.

Referințe: 5070 Ti Laptop · raport de bandă pentru 5080 și 5090 Laptop · verificare 5090 Laptop (llama.cpp) · Vulkan în Ollama · Radeon 860M · Radeon 890M și CPU.

Contextul este cantitatea de text pe care modelul o poate folosi la un moment dat. Include instrucțiunile, conversația și fragmentele din documente. Nu este același lucru cu numărul de pagini al unui fișier.

  • RTX 5070 Ti / RTX 5080 / RTX 5090 Laptop GPU · minimum 16 GB RAM · minimum 512 GB SSD · recomandat 32 GB RAM și 1 TB SSD
  • Procesoare AMD Ryzen AI (de exemplu Ryzen AI 7 350, Ryzen AI 9 HX 370) · minimum 32 GB RAM · minimum 512 GB SSD · recomandat 1 TB SSD
  • Windows 11 pentru pachetul software; alegi sistemul de operare la TekAdvice.ro.

Cum citim rezultatele

Ce este calculat și ce este măsurat

Datele hardware și prețurile au surse la TekAdvice.ro, iar variantele LLM au surse Ollama. Lucrăm pentru a înlocui datele estimate cu valori rezultate din testele noastre*.

Estimare

Memoria pentru model și context

Comparăm fișierul LLM și cache-ul f16 calculat din arhitectura publicată cu memoria configurației. Păstrăm calculul separat de memoria efectivă măsurată în aplicație.

Test

Viteza estimată și măsurată

Estimăm orientativ viteza din benchmarkuri similare pe GPU-uri de laptop, model și context. Estimările au *. Măsurătorile pe laptopul exact se afișează separat după verificare.

Ofertă

Prețul configurației alese

Prețul TekAdvice.ro include TVA și configurația standard afișată, fără Windows 11. RAM-ul, SSD-ul și Windows pot schimba totalul. Verifici opțiunile și oferta finală la TekAdvice.ro.

Pachet software, opțional

Software pentru modele LLM locale, instalat de TekAdvice.ro

  • Ollama și Open WebUI pentru chat și documente locale.
  • Două LLM-uri standard pentru laptopul ales: unul pentru chat și documente, unul pentru cod.
  • BGE-M3, model de embeddings pentru căutarea pasajelor din documente.
  • VS Code cu Continue, conectat la modelul local pentru cod.
  • Ghid de pornire, exemple și 30 de zile de suport prin e-mail de la aiprivat.ro.

400 lei

cu TVA, o singură configurare software, facturată de TekAdvice.ro

Rulare pe configurația exactă: de confirmat*

Comanda, plata, instalarea și livrarea sunt făcute de TekAdvice.ro. Soliciți pachetul software și Windows 11 pentru configurația aleasă; aiprivat.ro definește pachetul și răspunde la întrebările de suport.