Функция nn.swish
Функция nn.swish применяет к входным данным
активационную функцию Swish, которая вычисляется
по формуле x * sigmoid(x). Функция
принимает один обязательный параметр features -
тензор или массив, к которому применяется
активация. Возвращается тензор той же формы,
что и входные данные.
Синтаксис
tf.nn.swish(features, [name])
Пример
Давайте применим функцию nn.swish
к одномерному тензору:
import tensorflow as tf
t = tf.constant([-2.0, -1.0, 0.0, 1.0, 2.0])
res = tf.nn.swish(t)
print(res)
Результат выполнения кода:
tf.Tensor([-0.23840584 -0.26894143 0. 0.7310586 1.7615942 ], shape=(5,), dtype=float32)
Пример
Давайте применим функцию nn.swish
к двумерному тензору:
import tensorflow as tf
t = tf.constant([[1.0, 2.0, 3.0], [4.0, 5.0, 6.0]])
res = tf.nn.swish(t)
print(res)
Результат выполнения кода:
tf.Tensor(
[[ 0.7310586 1.7615942 2.8577223]
[ 3.928055 4.9665356 5.985164 ]], shape=(2, 3), dtype=float32)
Пример
Давайте применим функцию nn.swish
к тензору целочисленного типа, приведя его
предварительно к float32:
import tensorflow as tf
t = tf.constant([1, 2, 3, 4, 5], dtype=tf.float32)
res = tf.nn.swish(t)
print(res)
Результат выполнения кода:
tf.Tensor([0.7310586 1.7615942 2.8577223 3.928055 4.9665356], shape=(5,), dtype=float32)
