Функция activations.relu

Функция activations.relu применяет к данным линейную выпрямляющую активацию. Первым параметром функция принимает тензор или массив чисел. Вторым параметром можно передать порог alpha, третьим - максимальное значение max_value. По умолчанию отрицательные значения заменяются нулями, а положительные остаются без изменений.

Синтаксис

tf.keras.activations.relu(x, alpha=0.0, max_value=None, threshold=0.0)

Пример

Давайте применим функцию activations.relu к тензору с положительными и отрицательными числами:

import tensorflow as tf

t = tf.constant([-2, -1, 0, 1, 2])
res = tf.keras.activations.relu(t)
print(res)

Результат выполнения кода:

tf.Tensor([0 0 0 1 2], shape=(5,), dtype=int32)

Пример

Давайте передадим параметр max_value, чтобы ограничить максимальное значение активации:

<+python+> import tensorflow as tf t = tf.constant([-2, -1, 0, 1, 2]) res = tf.keras.activations.relu(t, max_value=1) print(res) <-python+>

Результат выполнения кода:

tf.Tensor([0 0 0 1 1], shape=(5,), dtype=int32)

Пример

Давайте передадим параметр alpha, чтобы отрицательные значения не обнулялись, а умножались на заданный коэффициент:

import tensorflow as tf

t = tf.constant([-2, -1, 0, 1, 2])
res = tf.keras.activations.relu(t, alpha=0.5)
print(res)

Результат выполнения кода:

tf.Tensor([-1. 0.5 0. 1. 2. ], shape=(5,), dtype=float64)

Смотрите также

функцию leaky_relu,
которая применяет активацию с малым наклоном для отрицательных значений
функцию elu,
которая применяет экспоненциальную линейную активацию
функцию sigmoid,
которая применяет сигмоидную активацию
функцию softmax,
которая применяет softmax-активацию