Поверхность потерь — представление того, как потери модели меняются при разных возможных значениях параметров. Методы оптимизации, такие как gradient descent, ищут на этой поверхности настройки параметров, снижающие потери, часто стремясь к локальному или глобальному минимуму.
A graph of weight(s) versus loss. Gradient descent aims to find the weight(s) for which the loss surface is at a local minimum.