Модель черного ящика — модель, внутренний процесс рассуждения или принятия решений которой трудно или невозможно непосредственно понять человеку. Пользователи могут наблюдать входы и выходы, но путь от одного к другому лишен прозрачности или интерпретируемости. Многие модели глубокого обучения и крупные языковые модели рассматриваются как системы черного ящика для целей управления.
A model whose "reasoning" is impossible or difficult for humans to understand. That is, although humans can see how prompts affect responses, humans can't determine exactly how a black box model determines the response. In other words, a black box model is lacking interpretability. Most deep models and large language models are black boxes.