Функция nn.leaky_relu
Функция nn.leaky_relu применяет к тензору
активацию с утечкой. Первым параметром
функция принимает входной тензор. Вторым
параметром можно передать коэффициент
наклона для отрицательных значений.
Синтаксис
tf.nn.leaky_relu(features, alpha=0.2, name=None)
Пример
Давайте применим активацию с утечкой к тензору, содержащему положительные и отрицательные числа:
import tensorflow as tf
t = tf.constant([-3, -1, 0, 1, 3], dtype=tf.float32)
res = tf.nn.leaky_relu(t)
print(res)
Результат выполнения кода:
tf.Tensor([-0.6 -0.2 0. 1. 3. ], shape=(5,), dtype=float32)
Пример
Давайте передадим параметр alpha
со значением 0.1:
<+python+>
import tensorflow as tf
t = tf.constant([-3, -1, 0, 1, 3], dtype=tf.float32)
res = tf.nn.leaky_relu(t, alpha=0.1)
print(res)
<-python+>
Результат выполнения кода:
tf.Tensor([-0.3 -0.1 0. 1. 3. ], shape=(5,), dtype=float32)
Пример
Давайте применим активацию с утечкой к двумерному тензору:
import tensorflow as tf
t = tf.constant([[-3, -1, 0], [1, 3, -2]], dtype=tf.float32)
res = tf.nn.leaky_relu(t)
print(res)
Результат выполнения кода:
tf.Tensor(
[[-0.6 -0.2 0. ]
[ 1. 3. -0.4]], shape=(2, 3), dtype=float32)
