RuntimeError: CUDA out of memory. Tried to allocate 60.00 MiB (GPU 0; 7.80 GiB total capacity; 6.39 GiB already allocated; 58.81 MiB free; 6.58 GiB reserved in total by PyTorch)
Niezależnie od cyferek, które pojawiły się w błędzie, jest to kolejny super-prosty do rozwiązania błąd.
Zmniejsz batch size w modelu. Ja zmniejszyłam dwukrotnie (podzieliłam batch size przez 2). Oczywiście możesz sobie dobrać rozwiązanie bardziej subtelnie, ale to pozwoli Ci ustalić rząd wielkości. Jak nie zadziała to znowu podziel przez 2 i tak do skutku). Jeżeli pracujesz w notebooku to po zmianie zrestartuj kernel, bo bez tego nie musi zadziałać nawet po ponownym odpaleniu wszystkich komórek.
Nie taki straszny RuntimeError: CUDA out of memory jak go malują… U mnie już działa (;.
