Функция cuda.memory_reserved

Функция cuda.memory_reserved возвращает объём памяти в байтах, который в данный момент зарезервирован кэш-аллокатором PyTorch на указанном устройстве. Первым параметром функция принимает необязательный идентификатор устройства device. Если устройство не указано, используется текущее. Возвращаемое значение - целое число.

Синтаксис

torch.cuda.memory_reserved(device=None)

Пример

Давайте получим объём зарезервированной памяти на текущем устройстве:

import torch

reserved = torch.cuda.memory_reserved()
print(reserved)

Результат выполнения кода:

0

Пример

Давайте создадим тензор на GPU и снова проверим зарезервированную память:

import torch

t = torch.ones(1000, 1000).cuda()
reserved = torch.cuda.memory_reserved()
print(reserved)

Результат выполнения кода:

4194304

Пример

Давайте получим объём зарезервированной памяти для конкретного устройства:

import torch

if torch.cuda.is_available():
	reserved = torch.cuda.memory_reserved(device=0)
	print(reserved)

Результат выполнения кода:

4194304

Смотрите также

функцию memory_allocated,
которая возвращает объём памяти, фактически занятой тензорами
функцию max_memory_reserved,
которая возвращает пиковое значение зарезервированной памяти
функцию empty_cache,
которая очищает кэш аллокатора памяти
функцию mem_get_info,
которая возвращает информацию о свободной и общей памяти устройства