Чтение градиента в PyTorch
Атрибут grad хранит посчитанный
градиент. Пока обратный проход не
выполнен, в этом поле пустое
значение:
import torch
x = torch.tensor(3.0, requires_grad=True)
print(x.grad is None) # выведет True
После обратного прохода по формуле в поле лежит тензор с числом. Построим квадрат и прочитаем градиент:
import torch
x = torch.tensor(3.0, requires_grad=True)
y = x * x
y.backward()
print(x.grad) # выведет tensor(6.)
Для дробного 4.0 с записью
выведите, что поле градиента
ещё пустое, затем найдите квадрат,
выполните обратный проход
и снова выведите содержимое
поля.
Для дробного 5.0 с записью
постройте квадрат, выполните
обратный проход и выведите
градиент как обычное число.
Возьмите дробное 10.0
с записью, умножьте на себя,
сделайте обратный проход
и выведите значение градиента
в ячейке.