Функция nn.relu6

Функция nn.relu6 применяется к данным и вычисляет ограниченную версию активации ReLU. Первым параметром функция принимает входной тензор. Вторым параметром можно передать имя операции. Формула функции: min(max(x, 0), 6). Все значения меньше нуля превращаются в ноль, а значения больше шести обрезаются до шести.

Синтаксис

tf.nn.relu6(features, name=None)

Пример

Давайте применим функцию к тензору с числами 1, 2, 3, 4, 5:

import tensorflow as tf

t = tf.constant([1, 2, 3, 4, 5])
res = tf.nn.relu6(t)
print(res)

Результат выполнения кода:

tf.Tensor([1 2 3 4 5], shape=(5,), dtype=int32)

Пример

Давайте применим функцию к тензору с отрицательными значениями и значениями больше шести:

import tensorflow as tf

t = tf.constant([-3, -1, 0, 4, 7, 10], dtype=tf.float32)
res = tf.nn.relu6(t)
print(res)

Результат выполнения кода:

tf.Tensor([0. 0. 0. 4. 6. 6.], shape=(6,), dtype=float32)

Пример

Давайте применим функцию к двумерному тензору:

import tensorflow as tf

t = tf.constant([[-2, 3, 8], [0, 5, -7]], dtype=tf.float32)
res = tf.nn.relu6(t)
print(res)

Результат выполнения кода:

tf.Tensor(
[[0. 3. 6.]
 [0. 5. 0.]], shape=(2, 3), dtype=float32)

Смотрите также

функцию relu,
которая применяет активацию ReLU без верхней границы
функцию leaky_relu,
которая применяет активацию Leaky ReLU
функцию elu,
которая применяет экспоненциальную линейную активацию
функцию selu,
которая применяет масштабированную экспоненциальную активацию