ReLU — аббревиатура от Rectified Linear Unit, распространенной функции активации нейронных сетей. Она выдает ноль для отрицательных входов и значение входа для положительных входов, обеспечивая эффективное нелинейное моделирование.
Abbreviation for Rectified Linear Unit.