Saatlik GPU’da Jupyter ve PyTorch: Dosyalar ve Checkpoint

Notebook, veri analizi ve model denemeleri için saatlik GPU hizmetinde Jupyter’ı seçin. Bu ortam Python web hosting veya tam VPS’den farklıdır: erişim uygulamanın HTTPS adresindendir, yerel disk geçicidir ve her portun dışarı açılması garanti edilmez.

Kaynakları ayrı planlayın

Model için VRAM, veri için RAM, model ve checkpoint için disk gereksinimini ayrı hesaplayın. Model dosyasının boyutu eğitim belleğine eşit değildir; optimizer, batch ve sayısal hassasiyet de etkilidir. Yapılandırıcıda seçilebilen uyumlu kart ve uygulamaları kullanın. Siparişten önce güncel tarife ve başlangıç bakiyesini kontrol edin. Kapasite yokken kesin tahsis süresi verilmez.

1. Ortama giriş

1. Kart ve Jupyter’ı seçip isteği gönderin; konsolda tahsisi ve uygulamanın hazır olmasını izleyin.
2. Teslimattan sonra aynı hizmet sayfasındaki Jupyter’ı aç düğmesini kullanın.
3. Jupyter token isterse paneldeki uygulama token’ını kullanın; ServerNet hesap parolanızı girmeyin. Ağ geçidi ve uygulama token’ları farklı görevlerde olabilir; aynı hizmetin panelini esas alın.
4. Jupyter dosya tarayıcısında proje klasörü oluşturup verinizi yükleyin ve Python notebook açın.

2. CUDA’yı kontrol edip küçük bir checkpoint oluşturun

Bu örnek ortamı kontrol etmek için tek bir küçük eğitim adımı çalıştırır; benchmark veya kullanışlı bir eğitilmiş model değildir. CUDA yoksa sessizce CPU’ya geçmek yerine durur.

from pathlib import Path
import torch

if not torch.cuda.is_available():
    raise RuntimeError("CUDA is unavailable; check the assigned GPU and environment")
print(torch.cuda.get_device_name(0))
model = torch.nn.Linear(8, 1).cuda()
optimizer = torch.optim.Adam(model.parameters(), lr=0.001)
x, y = torch.randn(16, 8, device="cuda"), torch.randn(16, 1, device="cuda")
optimizer.zero_grad()
loss = torch.nn.functional.mse_loss(model(x), y)
loss.backward()
optimizer.step()
torch.save({"step": 1, "model": model.state_dict(),
            "optimizer": optimizer.state_dict()}, "checkpoint.pt")
print(Path("checkpoint.pt").stat().st_size)

3. Ortam dışında kopya saklayın

Notebook’u kaydedin. Dosya tarayıcısında ipynb ve checkpoint.pt dosyalarına sağ tıklayıp Download seçin. Yerel diske kaydetmek harici yedekleme değildir. Uzun işlerde checkpoint’leri düzenli olarak özel harici depolamaya kopyalayın ve güvenmeden önce örnek bir geri yükleme yapın. Yalnızca güvenilir checkpoint yükleyin; notebook ve bilinmeyen model dosyaları kod çalıştırabilir.

Sık hatalar ve erişim sınırları

• CUDA unavailable: atanan uygulama ve GPU’yu kontrol edin. Hassas bilgi içermeyen tanı çıktısını destek talebine ekleyin. Rastgele CUDA sürümleri kurmak güvenilir çözüm değildir.
• Out of memory: batch, girdi veya model boyutunu azaltın. Eğitim ve inference bellek ihtiyacı aynı değildir.
• Tarayıcı bağlantısı kesildi: konsoldan yeniden açıp kernel ve son checkpoint’i kontrol edin. Tarayıcının kopması işlem veya ücretin durduğunu kanıtlamaz.
• FastAPI veya worker: uvicorn’u yerel portta çalıştırmak genel HTTPS erişimi sağlamaz. Dış erişim yolunu ve timeout sınırlarını önceden destekle doğrulayın.
• Disk alanı: eski çıktıları ancak harici kopyayı doğruladıktan sonra silin. Ortamın yeniden oluşturulması yerel veriyi kaybettirebilir.

İşi bitirme ve doğru ürün seçimi

Dosyaları indirdikten sonra panelde durdurma veya iptal işlemini kullanıp sonucu kontrol edin. Django veya Flask web uygulamaları için Python hosting, işletim sistemi ve port kontrolü için saatlik VPS seçeneklerini inceleyin. Hazır görsel üretimi için ComfyUI rehberine bakın.

Örnek standart PyTorch API’siyle yazılmıştır. Canlı GPU’da çalıştırma ve harici checkpoint aktarımı bu rehber için test edilmemiştir; süre veya maliyet iddiası yoktur. Dosya arayüzü kaynağı: JupyterLab belgeleri.