Multi-GPU Kurulumu ile Bir VPS’de NVLink Yapılandırma

NVLink, NVIDIA’nın yüksek bant genişliğine sahip GPU bağlantısı, çoklu GPU iş yüklerini hızlı bellek paylaşımı ve veri transferi sağlayarak devrim niteliğinde bir şekilde PCIe sınırlamalarını aşar. Veri bilimcileri, ML mühendisleri veya HPC kullanıcıları için NVLink, derin öğrenme model eğitimi veya büyük ölçekli simülasyonlar gibi görevleri hızlandırabilir. Örneğin, GPU belleğini birleştirerek büyük bir dil modelini daha hızlı eğitmek için çift A100 GPU ile NVLink kullanabilirsiniz. Ancak, sanallaştırılmış bir ortamda NVLink yapılandırmak karmaşıktır ve belirli donanım ve kurulum gerektirir. Bu kılavuz, NVLink’i, bir VPS’deki sınırlamalarını ve optimal performans için nasıl yapılandırılacağını açıklar.

Sınırlamalar ve Uyarılar

• Tüm VPS sağlayıcıları NVLink kurulumlarını desteklememektedir.

• Yalnızca bare-metal tabanlı VPS veya doğrudan geçiş yapan özel GPU sanal makineleri NVLink’in çalışmasına izin verir.

• Docker gibi konteynerleştirilmiş ortamlarda NVLink desteği yoktur, yalnızca doğrudan ana makinede çalıştırıldığında.

NVLink Nedir?

NVLink, iki veya daha fazla uyumlu NVIDIA GPU’nun:

• Büyük veri setleri için GPU’lar arasında bellek paylaşımı yapmasına olanak tanır

• Toplam 600 GB/s bant genişliğine kadar veri alışverişi yapar

• CPU müdahalesi olmadan daha hızlı çoklu GPU eğitimi gerçekleştirir

Aşağıdaki GPU’lar ile desteklenir:

• NVIDIA A100, V100, RTX 3090, 4090, A6000, vb.

• Genellikle bir fiziksel NVLink köprüsü gerektirir

VPS’de NVLink: Ön Gereksinimler

Bir VPS’de NVLink yapılandırmaya çalışmadan önce, aşağıdakilerin sağlandığından emin olun:

Ana Makine Donanımı

• Fiziksel sunucuda şunlar bulunmalıdır:

  • En az iki NVLink uyumlu GPU

  • NVLink köprüsü(leri) kurulmuş olmalıdır

  • NVLink’i destekleyen BIOS ve firmware

• Ortak uyumlu kurulumlar, NVLink köprüsü ile çift A100 veya RTX 3090 içerir.

VPS Yapılandırması

• VPS, GPU geçişine izin veren bir hipervizör üzerinde sağlanmalıdır, örneğin:

  • KVM/QEMU ile VFIO (PCI geçişi)

  • VMware ESXi ile DirectPath I/O

  • Proxmox VE ile GPU geçişi

⚠️ Not: NVLink sanallaştırılmış cihazlar arasında çalışmaz, her iki GPU’nun da aynı VM’ye tam PCIe cihazları olarak geçiş yapılması gerekir.

Adım Adım: VPS’de NVLink Nasıl Yapılandırılır

Adım 1: GPU’ların Geçişini Sağlayın

Ana makine, her iki fiziksel GPU’yu doğrudan VPS’nize geçirmelidir.

KVM/QEMU ile VFIO için:

Her iki GPU’yu geçirecek şekilde libvirt veya qemu XML’yi güncelleyin.

Adım 2: NVIDIA Sürücülerini Yükleyin

VPS içinde (misafir işletim sistemi), en son NVIDIA sürücüsünü yükleyin:

Kurulumdan sonra yeniden başlatın.

Adım 3: NVLink Topolojisini Doğrulayın

Misafir işletim sistemine girdikten sonra:

Şunları görmelisiniz:

Burada NV1, GPU0 ile GPU1 arasında NVLink’in aktif olduğunu gösterir.

Adım 4: Peer-to-Peer Erişimini Etkinleştirin (Opsiyonel ama Tavsiye Edilir)

Peer-to-Peer ve Erişim’in her ikisinin de Etkin olarak işaretlendiğinden emin olun.

 Güvenlik Dikkat Edilmesi Gerekenler

• İzole erişim: Tam GPU geçişi kullanırken VPS’nizin aşırı abone edilmediğinden veya başkalarıyla birlikte barındırılmadığından emin olun.

• Paylaşılan bellek sızıntısı yok: NVLink, paylaşılan bir bellek alanı oluşturur—erişimi güvenilir ortamlara sınırlayın.

• /dev/nvidia cihazlarına erişimi denetleyin*.

NVLink Sorun Giderme

NVLink, GPU yoğun iş yükleri için bir oyun değiştiricidir ve doğru yapılandırıldığında, sanal ortamlarda bile muazzam performans avantajları sunar. Doğrudan GPU geçişi ve dikkatli bir kurulum ile, bir VPS’de çoklu GPU bağlantılarının gücünden yararlanabilir ve onu talepkar uygulamalar için yüksek performanslı bir hesaplama düğümüne dönüştürebilirsiniz.

Windows Sunucunuza Giriş Yapmak için Uzak Masaüstü Protokolü (RDP) Kullanma

Uzak Masaüstü Protokolü (RDP), kullanıcıların Windows sunucularına güvenli bir ağ bağlantısı üzerinden uzaktan erişim sağlamasına ve yönetmesine olanak tanıyan güçlü ve yaygın olarak kullanılan bir araçtır. Bulut tabanlı altyapıyı yönetiyor, bir özel sunucuyu yönetiyor veya sadece bir Windows ortamına uzaktan erişim ihtiyacınız varsa, RDP, sunucunuzla tam grafiksel etkileşim için yerel ve verimli bir yöntem sunar.

🧩 Uzak Masaüstü Protokolü Nedir?

RDP, Microsoft tarafından geliştirilen, başka bir bilgisayara uzaktan bağlantıyı kolaylaştıran özel bir protokoldür. Bu, sunucuda hesaplamalar ve işlemler gerçekleşirken istemci sistemine grafiksel bir kullanıcı arayüzü (GUI) sunulmasını sağlar. Bu, Windows tabanlı sistemleri yöneten sistem yöneticileri ve BT profesyonelleri için ideal bir araçtır.

📋 RDP Kullanımı için Ön Gereksinimler

Windows Sunucunuza RDP bağlantısı kurmadan önce, aşağıdaki koşulların sağlandığından emin olun:

• ✅ Windows Sunucu Uzak Masaüstü etkin olmalıdır

• ✅ Yerel makinenizde (istemci) Uzak Masaüstü İstemcisi yüklü olmalıdır (Windows’ta yerleşik)

• ✅ Sunucunun statik bir genel IP veya IP’ye çözümleyen bir alan adı olmalıdır

• ✅ Güvenlik duvarınız ve/veya güvenlik grubunuz TCP port 3389 için izin vermelidir

• ✅ Sunucuda yönetici ayrıcalıklarına sahip bir kullanıcı hesabınız olmalıdır

Windows Sunucusunda RDP’yi Nasıl Etkinleştirirsiniz

Sunucunuza RDP erişimini sağlamak için:

1. Sunucuya konsol üzerinden giriş yapın veya başlangıç erişim panelini kullanın.

2. Açın Sunucu Yöneticisi → Yerel Sunucu‘ya tıklayın.

3. Sağ panelde Uzak Masaüstü‘nü bulun ve “Devre Dışı”‘na tıklayın.

4. Açılan Sistem Özellikleri penceresinde, şunları seçin:

   • “Bu bilgisayara uzaktan bağlantılara izin ver”

   • Daha geniş uyumluluk için “Sadece Ağ Düzeyinde Kimlik Doğrulama ile Uzak Masaüstü çalışan bilgisayarlardan bağlantılara izin ver” seçeneğini kaldırın (isteğe bağlı).

5. Tıklayın Uygula, ardından Tamam.

⚠️ güvenlik duvarı kuralı eklemeyi unutmayın, böylece 3389 portunda gelen TCP trafiğine izin verin.

 Uzak Masaüstü Kullanarak Nasıl Bağlanılır (Windows İstemcisi)

1. Basın Win + R, yazın mstsc, ve Enter’a basın. Bu, Uzak Masaüstü Bağlantısı aracını açar.

2. “Bilgisayar” alanına, sunucunuzun IP adresini veya alan adını girin.

3. Tıklayın Seçenekleri Göster:

   • Kullanıcı adınızı giriniz

   • Gerekirse kimlik bilgilerini kaydedin

   • Görüntü, yerel cihazlar ve pano ayarlarını yapılandırın

4. Tıklayın Bağlan

5. İstendiğinde, şifrenizi girin ve isteğe bağlı olarak sertifika uyarısını kabul edin.

Gelişmiş İpuçları & En İyi Uygulamalar

🔐 1. Güçlü Kimlik Doğrulama Kullanın

Mümkünse varsayılan Yönetici hesabını kullanmaktan kaçının. Güçlü şifrelerle adlandırılmış kullanıcı hesapları oluşturun ve RDP erişimini güvenlik duvarı veya VPN aracılığıyla sınırlayın.

🛡 2. RDP’yi NLA & 2FA ile Güvence Altına Alın

• Kullanıcının bir oturum oluşturulmadan önce kimlik doğrulaması yapmasını gerektirmek için Ağ Düzeyinde Kimlik Doğrulama (NLA)‘yı etkinleştirin.

• Ek güvenlik için, iki faktörlü kimlik doğrulama (2FA)‘yı Duo Security veya Azure MFA ile RD Gateway gibi üçüncü taraf araçlar kullanarak yapılandırın.

🌐 3. IP Erişimini Kısıtlayın

RDP aracılığıyla bağlanabilecek belirli IP’leri beyaz listeye almak için Windows Güvenlik Duvarı veya bulut sağlayıcınızın güvenlik grubu ayarlarını kullanın. Bu, kaba kuvvet saldırılarını önlemeye yardımcı olur.

🧰 4. RDP Günlüğünü ve Denetimini Etkinleştirin

Şüpheli etkinlikleri izlemek için:

• Grup İlkesi aracılığıyla oturum açma denetimini etkinleştirin.

• Günlükleri Olay Görüntüleyici → Windows Günlükleri → Güvenlik‘de kontrol edin.

📦 5. RDP Oturum Gölgelemesini Kullanın

Kurumsal ortamlarda, oturum gölgelemesi, bir yöneticinin başka bir kullanıcının RDP oturumunu kesintiye uğratmadan görüntülemesine veya kontrol etmesine olanak tanır.

 Yaygın RDP Sorunlarını Giderme

RDP, Windows Sunucularını uzaktan yönetmek için sistem yöneticisinin araç setinde hayati bir araç olmaya devam etmektedir. Doğru yapılandırıldığında ve en iyi uygulamalarla güvence altına alındığında, güvenilir ve yüksek performanslı bir uzaktan erişim deneyimi sunar. İster üretim sunucularını, ister geliştirme ortamlarını yönetiyor olun, RDP’yi nasıl kullanacağınızı ve koruyacağınızı anlamak, altyapınız üzerinde kontrol ve güvenliği sürdürmek için anahtardır.