İş ve oyuna yönelik performans donanımlarının yanı sıra yapay zekâ sektörünün de donanım mimarlarından olan NVIDIA, üretken yapay zekâların çalıştırılmasında kullanılacak yeni çipini duyurdu. Çip, yapay zekâ çipi serisi GH’ın yeni üyesi GH200 oldu.
NVIDIA GH200, şirketin paylaştığı duyuruya göre en karmaşık ve yüklü üretken yapay zekâ işlemlerinin üstesinden gelebilecek, vektör, önerici ve büyük çaplı dil modelleri için kullanılabilecek. Öte yandan çip, şirketin şu anki en güçlü yapay zekâ çipi H100 ile aynı grafik işlemcisini taşıyacak.
Aynı grafik işlemci var ancak daha yüksek hafıza sunulacak:
Çip, H100 grafik işlemcisiyle aynı işlemciyi taşıyacak olsa da bu birimden 3,5 kat daha fazla hafıza (282 GB) sunacak. Bu hafıza, H100’de bulunan dördüncü nesil Tensor çekirdekleri ve Transformer Engine ile sunulan performans ile birleştiğinde standart bir kullanıcının hayal edemeyeceği derecede yüksek işlem gücü sunacak.
Ayrıca değişen şey sadece hafıza miktarı olmayacak. GH200 ile yeni HBM3e bellek de kullanıma sunulacak. Bu bellek hakkında henüz veriler paylaşılmamış olsa da bir önceki nesile göre %50 daha hızlı olacak.
NVIDIA’nın H100 grafik birimi, saniyede 3,35 TB’a kadar veri aktarım hızı sunabiliyor. Bunu, standart tüketiciler için günümüzün en güçlü grafik işlemcisi karşılaştırmak gerekirse NVIDIA GeForce RTX 4090, saniyede 1 TB’a kadar aktarım destekliyor. GH200'de ise bu sayının saniyede 10 TB'a çıkacak.
Üstelik NVIDIA’nın yapay zekâ çipleri tek başına kullanılan çipler de değil. Şirketin “NVLink Switch System” teknolojisi sayesinde aynı anda 256 adet işlemci birbiriyle bağlantılı bir şekilde kullanılabiliyor. Saniyede 850 TB’dan fazla veri aktarımı yapılabiliyor (H100 serisi verilerine göre). Böylece trilyonlarca parametreye sahip yapay zekâ sistemleri çalıştırılıyor, eğitiliyor.
NVIDIA, GH200’ün fiyatını henüz açıklamadı. Ancak H100 serisi grafik birimlerinin günümüzde yaklaşık 40 bin dolardan satıldığını belirtelim.