Сохранение модели в PyTorch

После обучения веса модели нужно хранить отдельно от кода сети. Для этого собирают словарь весов: имена параметров и сами тензоры в одной структуре, которую удобно передавать и сравнивать.

Готовый словарь можно записать на диск и позже прочитать на другой машине. Важно подставлять веса в новый объект той же архитектуры, а не пытаться восстановить весь старый модуль целиком из файла.

Отдельно сохраняют внутреннее состояние оптимизатора: накопленные шаги и настройки групп параметров. Это помогает продолжить обучение с того же места, а не начинать спуск заново.

Со всем этим мы и будем разбираться в рамках данного раздела.