Тип int8
Тип int8 в TensorFlow представляет собой 8-битное целое число со знаком. Диапазон значений данного типа составляет от -128 до 127. Он используется для экономии памяти и ускорения вычислений в тех случаях, когда не требуется высокая точность, например, при квантовании моделей. Тип данных задается при создании тензора через параметр dtype.
Синтаксис
tf.constant(value, dtype=tf.int8)
Пример
Давайте создадим тензор с типом int8 из списка чисел:
import tensorflow as tf
t = tf.constant([1, 2, 3, 4, 5], dtype=tf.int8)
print(t)
Результат выполнения кода:
tf.Tensor([1 2 3 4 5], shape=(5,), dtype=int8)
Пример
Давайте проверим размер типа int8 в байтах:
import tensorflow as tf
t = tf.constant([1, 2, 3, 4, 5], dtype=tf.int8)
print(t.dtype.size)
Результат выполнения кода:
1
Пример
Давайте создадим двумерный тензор с типом int8 и выведем его форму:
import tensorflow as tf
t = tf.constant([[1, 2, 3], [4, 5, 6]], dtype=tf.int8)
print(t.shape)
Результат выполнения кода:
(2, 3)