Назад к вопросам
JuniorТеорияЧасто
Что выведет эта программа?
import numpy as np
x = np.array([1.0, 2.0])
W = np.array([[1.0, -2.0], [1.0, 0.5]])
b = np.array([0.5, 0.5])
h = np.maximum(0, x @ W + b)
print(h[0], h[1])3.5 0.0
- Ждать
3.5 -0.5: ReLU заменяет каждую отрицательную сумму нулём, поэтому-0.5второго нейрона превращается в0.0. - Ждать
0.0 2.5: вx @ Wкаждый столбецW— веса одного нейрона, поэтому первый нейрон даёт1 * 1 + 2 * 1 + 0.5 = 3.5.
- Что выведет программа, если заменить ReLU сигмоидой?
- Почему слои без всякой активации не дают ничего сверх одного линейного слоя?