Случайные числа в PyTorch

Обучение нейросетей и инициализация весов опираются на случайные значения. В PyTorch их получают готовыми функциями, а не из внешних генераторов Python.

Равномерные числа от нуля до единицы удобны для долей, маскирования и простых экспериментов. Нормальные числа с центром в нуле задают шум и типичный разброс при старте параметров модели.

Чтобы повторить тот же набор значений на другом запуске, фиксируют общее зерно для всего процесса. Когда нужны независимые потоки случайности, создают собственный генератор со своим зерном, не трогая глобальное состояние.

Со всем этим мы и будем разбираться в рамках данного раздела.