Caesar AI Atlas

L0-регуляризация

Caesar AI Atlas Definition

L0-регуляризация — подход к регуляризации, стимулирующий разреженность и штрафующий число ненулевых весов модели или признаков. Поскольку точная L0-оптимизация сложна, практические системы часто используют приближения или альтернативные регуляризаторы, чтобы поощрять более простые модели.

Other Definitions

L0-регуляризация Source

A type of regularization that penalizes the total number of nonzero weights in a model. For example, a model having 11 nonzero weights would be penalized more than a similar model having 10 nonzero weights. L~0~ regularization is sometimes called L0-norm regularization. L~0~ regularization is generally impractical in large models because L~0~ regularization turns training into a convex optimization problem.

Related Terms