Tavsiye Ai Sistemleri

Tavsiye Ai Sistemleri Nedir?

Tavsiye Ai Sistemleri, egevia.live’nin yerel yapay zeka iş yükleri için önerdiği, parçaları birbiriyle uyumu ve güç ihtiyacı gözetilerek seçilmiş tavsiye sistemlerdir. Built for AI serisindeki GG Ai Agent Computer yapılandırmalarında iki ekran kartı ailesi kullanılır: NVIDIA’nın GeForce RTX 5090, GeForce RTX 5080 ve GeForce RTX 5060 Ti 16GB kartları ile AMD’nin Radeon AI PRO R9700 kartı. Aşağıda bu kartların yanında 32 GB belleğiyle Intel Arc Pro B70’i ve tek kartta 96 GB’a kadar bellek sunan NVIDIA RTX PRO Blackwell serisini de karşılaştırıyoruz.

Model Adları Nasıl Okunur?

Sistem adının ilk kelimesi ekran kartının üreticisini gösterir: NVIDIA kartlı sistemler NEON, AMD kartlı sistemler ARGON adını taşır; Intel Arc Pro kartlı yapılandırmalar için INDIUM adı ayrılmıştır. Adın geri kalanı yapılandırmayı anlatır:

• Sayı: tek ekran kartının belleği, GB cinsinden. NEON-32 32 GB’lık RTX 5090’ı, NEON-16 16 GB’lık bir kartı gösterir.
• W: profesyonel seri ekran kartı (Radeon AI PRO, RTX PRO, Arc Pro). Aynı bellekteki oyuncu kartından ayırt etmek içindir.
• X2: sistemde iki ekran kartı vardır; ARGON-32WX2’de iki Radeon AI PRO R9700 toplam 64 GB bellek sunar.
• İşlemci kodu: R Ryzen, U Core Ultra işlemciyi; ardından gelen rakam sınıfını (5, 7, 9) gösterir. Sondaki X, 3D V-Cache’li (X3D) işlemcidir: R9X, Ryzen 9 9950X3D gibi.
• LITE / PLUS: sistem belleği. LITE 16 GB, PLUS 32 GB ile 64 GB arası sistem belleği demektir.

Neden RTX 5090?

Yerel yapay zekada ekran kartı belleği belirleyicidir. RTX 5090’ın 32 GB GDDR7 belleği ve 21.760 CUDA çekirdeği, belleğe sığan modellerde çok yüksek hız sağlar: yaklaşık 1,8 TB/sn’lik bant genişliği sayesinde yanıtlar hızlı üretilir. Bu kart ile yaklaşık 30 milyar parametreli dil modellerinin 4-bit hâlleri, Stable Diffusion ve Flux gibi görsel üretim modelleri, video işleme ve CUDA hızlandırmalı geliştirme rahatça çalışır. 32 GB’a sığmayan daha büyük modeller için NVIDIA DGX Spark (GB10) ya da DGX Station (GB300) daha uygundur.

16 GB’lık Sistemler: RTX 5080 ve RTX 5060 Ti

NEON-16 sistemlerinde 16 GB GDDR7 belleğe sahip iki kart kullanılır. GeForce RTX 5080 10.752 CUDA çekirdeği ve yaklaşık 960 GB/sn bant genişliği sunar; GeForce RTX 5060 Ti 16GB ise 4.608 CUDA çekirdeği ve yaklaşık 448 GB/sn bant genişliğiyle bu ailenin giriş noktasıdır. 16 GB ekran kartı belleği, yaklaşık 14 milyar parametreye kadar dil modellerinin 4-bit hâllerini, SDXL gibi görsel üretim modellerini ve CUDA ile yapay zeka geliştirmeyi öğrenmeye yeter. Daha büyük modellerde 32 GB’lık RTX 5090 ya da Radeon AI PRO R9700’lü sistemler gerekir.

Radeon AI PRO R9700: 32 GB ve Çoklu Kart Kurulumu

AMD’nin RDNA 4 mimarili ASUS Turbo Radeon AI PRO R9700 kartı 32 GB GDDR6 bellek, 256 bit bellek arayüzü ve 20 Gbps bellek hızıyla yaklaşık 640 GB/sn bant genişliği sunar. 64 hesaplama birimi ve 128 AI hızlandırıcısıyla tepe FP16 matris performansı 95,7 TFLOPS, tepe INT4 performansı 1531 TOPS’tur. RTX 5090 ile aynı miktarda belleğe sahiptir; bant genişliği RTX 5090’ın yaklaşık üçte biri olduğundan yanıtları daha yavaş üretir, ancak 32 GB’a sığan modelleri aynı şekilde çalıştırır.

Kartın asıl gücü çoklu ekran kartı kurulumudur. Blower tipi (turbo fanlı) soğutucusu sıcak havayı kasanın arkasından dışarı atar ve kart yalnızca 2 yuva kalınlığındadır; bu sayede kartlar yan yana takılabilir. İki R9700’lü yapılandırmada toplam 64 GB ekran kartı belleği elde edilir. Bu, yaklaşık 70 milyar parametreli dil modellerinin 4-bit hâllerini iki karta bölerek çalıştırmaya yeter. Yazılım tarafında AMD ROCm, PyTorch ve llama.cpp tabanlı Ollama ile LM Studio desteklenir; en geniş araç desteği Linux’tadır.

Intel Arc Pro B70: 32 GB Bellekte Bir Diğer Seçenek

ASUS UGen Intel Arc Pro B70 da 32 GB GDDR6 bellek ve 256 bit bellek arayüzüyle gelir. 19 Gbps bellek hızıyla bant genişliği yaklaşık 608 GB/sn, kartın güç tüketimi 290 W’tır. Intel’in Battlemage (Xe2) mimarili profesyonel Arc Pro serisinin bir modelidir. Yerel dil modelleri için PyTorch’un Intel GPU (XPU) desteği, OpenVINO ve llama.cpp kullanılabilir. CUDA’ya bağlı araçlar Intel ve AMD kartlarda çalışmaz; kullanacağınız yazılımın bu kartları desteklediğini önceden kontrol etmeniz gerekir.

NVIDIA RTX PRO Blackwell: 32 GB’tan 96 GB’a

Tek kartta 32 GB’tan fazla bellek gerektiğinde NVIDIA’nın profesyonel RTX PRO Blackwell serisi devreye girer. Bu kartlar ECC’li GDDR7 bellek, profesyonel sürücüler ve uzun süreli yük için tasarlanmış soğutma sunar; CUDA ekosisteminin tamamıyla uyumludur.

• RTX PRO 6000 Blackwell: 96 GB GDDR7, 24.064 CUDA çekirdeği ve yaklaşık 1,8 TB/sn bant genişliği. İş istasyonu sürümü 600 W, Max-Q sürümü 300 W çeker; sunucular için Server Edition sürümü vardır. 70 milyar parametreli modelleri tek kartta 8-bit, 120 milyar parametre civarındaki modelleri 4-bit olarak çalıştırabilir.
• RTX PRO 5000 Blackwell: 48 GB GDDR7, 14.080 CUDA çekirdeği, yaklaşık 1,3 TB/sn bant genişliği ve 300 W güç tüketimi. 70 milyar parametreli modellerin 4-bit hâlleri tek karta sığar.
• RTX PRO 4500 Blackwell: 32 GB GDDR7, 10.496 CUDA çekirdeği, yaklaşık 896 GB/sn bant genişliği ve 200 W güç tüketimi. RTX 5090 ile aynı miktarda belleği daha düşük güçle ve ECC korumasıyla sunar; sürekli çalışan iş istasyonları için uygundur.

RTX PRO kartlı hazır iş istasyonları Ai Workstation kategorisindedir.

Hangi Kart Hangi İş İçin?

Modelin çalışıp çalışmayacağını ekran kartı belleği, yanıtların ne kadar hızlı üretileceğini ise büyük ölçüde bellek bant genişliği belirler.

İşlemci, Bellek ve Güç

RTX 5090 ve RTX 5080’li sistemlerde Ryzen 9 9950X3D, Ryzen 9 9950X ve Core Ultra 9 285K gibi yüksek çekirdekli işlemciler kullanılır. Bu sistemlerde sistem belleği 64 GB DDR5’tir; ekran kartına sığmayan model katmanları sistem belleğine taşınabildiği ve veri setleri bellekte işlendiği için yüksek bellek yapay zekada doğrudan işe yarar. Güç ihtiyacı için 1200 W güç kaynağı ve uzun süreli yükte sıcaklığı dengede tutan sıvı soğutma kullanılır. Depolama, model dosyalarının hızlı yüklenmesi için 2 TB M.2 NVMe SSD’dir.

Radeon AI PRO R9700’lü yapılandırmalarda Ryzen 7 9700X, Core Ultra 7 265K, Core Ultra 5 245KF ve Ryzen 7 8700F işlemciler, 16 GB ya da 64 GB DDR5 sistem belleği, 850 W (LITE), 1000 W (PLUS) ya da 1200 W (çift kartlı X2) güç kaynağı, hava soğutma ve 1 TB M.2 NVMe SSD kullanılır. RTX 5060 Ti’li NEON-16 sisteminde Ryzen 7 9700X, 32 GB DDR5 sistem belleği, 850 W güç kaynağı, hava soğutma ve 1 TB M.2 NVMe SSD bulunur.

Oyun İçin de Kullanılabilir mi?

GeForce RTX 5090, RTX 5080 ve RTX 5060 Ti’li tavsiye sistemler oyun için de uygundur; gün içinde model çalıştırıp akşam oyun oynamak isteyenler için tek sistemde iki kullanım sunar. Windows üzerinde CUDA, PyTorch ve yaygın yapay zeka araçları sorunsuz çalışır. Radeon AI PRO R9700, Intel Arc Pro B70 ve RTX PRO kartlar ise profesyonel iş yükleri için tasarlanmıştır; asıl amaçları oyun değildir.