RTX 30 ekran kartlarının kilidi açıldı: Yapay zekâ performansı uçtu
Nvidia RTX 30 serisi ekran kartları için geliştirilen yeni araç, yapay zekâ ve hesaplama performansındaki kısıtlamaları kaldırıyor. Bazı modellerde performans yüzde 80'e kadar artıyor.
Nvidia'nın RTX 30 serisi ekran kartları, oyun performanslarının yanı sıra yapay zekâ çalışmalarında tekrar popüler hale gelebilir. Açık kaynaklı yeni bir proje, Ampere mimarisine sahip bazı GeForce modellerinde uygulanan hesaplama kısıtlamalarını kaldırarak FP16 ve BF16 performansını önemli ölçüde artırıyor.
RTX 30 serisinde yüzde 80'e varan artış
Zagita isimli proje, özellikle RTX 30 serisinin profesyonel modellere kıyasla sınırlandırılan hesaplama kapasitesini ortaya çıkarmayı amaçlıyor. Araç, donanım değişikliği veya ekran kartının vBIOS'unu değiştirmeyi gerektirmeden çalışabiliyor. Yeni çözüm, özellikle GA102, GA103, GA104 ve GA106 GPU'larına sahip RTX 30 serisi modellerinde etkili. Yapılan testlerde bazı ekran kartlarında FP16/BF16 hesaplama performansının neredeyse iki katına çıktığı görülüyor.
Örneğin RTX 3090 Ti, BF16 performansında 87,5 TFLOPS seviyesinden 157 TFLOPS'a ulaşırken, TF32 performansı da 42,6 TFLOPS'tan 82,6 TFLOPS'a çıkıyor. RTX 3080 10 GB modelinde ise FP16 performansının 65 TFLOPS'tan 113 TFLOPS'a yükseldiği aktarılıyor. Kullanıcı testlerinde RTX 30 serisi için yüzde 80'e kadar performans artışı bildirilse de kazanımlar modele ve iş yüküne göre değişiyor.
| GPU | Ekran kartı | PCI ID | Sonuç | BF16 GEMM kazanımı |
|---|---|---|---|---|
| GA102 | RTX 3090 Ti | 10de:2203 | Kilit açıldı | +%68–80 |
| GA102 | RTX 3090 | 10de:2204 | Kilit açıldı | +%25–67 |
| GA102 | RTX 3080 Ti 20 GB (OEM, GA102-250) | 10de:2205 | Kilit açma tamamlandı ancak BF16 yarı hızda kaldı | — |
| GA102 | RTX 3080 10 GB | 10de:2206 | Kilit açıldı | +%70–73 |
| GA102 | RTX 3080 20 GB (bellek yükseltmesi) | 10de:2206 | Kilit açıldı | +%56–59 |
| GA104 | RTX 3070 | 10de:2484 | Kilit açıldı | +%73–81 |
| GA104 | RTX 3070 Ti | 10de:2482 | Bu modülle test edilmedi (aynı kilit açma yöntemi Windows'ta UEFI portu üzerinden çalıştı) | — |
| GA106 | RTX 3060 12 GB | 10de:2504 | Kilit açıldı | Yaklaşık +%80 |
| GA103 | Herhangi bir model | 10de:2414 | Henüz rapor bulunmuyor | — |
Yapay zekâ tarafındaki sonuçlar da dikkat çekici. Testlerde kilidi açılmış RTX 30 ekran kartlarının uzun bağlamlı LLM işlemlerinde Prefill performansını yüzde 33-36 artırdığı, ilk token üretimine kadar geçen süredeki gecikmeyi ise yaklaşık yüzde 25 azalttığı belirtiliyor. Buna karşılık Decode performansında belirgin bir değişiklik görülmedi.
RTX 20 ve RTX 40 serileri de destekleniyor
Projenin yalnızca RTX 30 serisiyle sınırlı olmadığı belirtiliyor. Daha eski GTX 9, GTX 10 ve RTX 20 serisi ekran kartlarının yanı sıra RTX 40 serisinde de belirli kazanımlar elde edilebildiği paylaşıldı. Şimdilik en büyük avantaj ise Ampere tabanlı RTX 30 modellerinde görülüyor. Projenin Linux ile sınırlı olması ve Windows desteğinin henüz bulunmaması da önemli bir kısıtlama konumunda.
Bu gelişmeler, özellikle 24 GB VRAM'e sahip RTX 3090 gibi eski ekran kartlarını yapay zekâ kullanıcıları açısından yeniden cazip hale getiriyor. Ancak artan ilgi ikinci el piyasasını da etkiliyor. Yurt dışında yaklaşık 1.000 dolar seviyelerinde satılan RTX 3090, son dönemde 2.000 doların üzerine çıkmış durumda. RTX 3090 Ti'ın 3.000 dolara yaklaştığını belirtelim.
Dolayısıyla RTX 30 serisinin yapay zekâ alanında yeniden değer kazanması, bu ekran kartlarını satın almak isteyen oyuncular için artan ikinci el fiyatları anlamına gelebilir.