Кэш контекста — это сохраненные contextual data, которые могут повторно использоваться в нескольких запросах к модели. Он может уменьшать повторную обработку ввода, поддерживать большие общие справочные материалы и повышать эффективность, когда один и тот же контент нужен в нескольких взаимодействиях.
A context cache in Vertex AI is a large amount of data that can be used in multiple requests to a Gemini model. The cached content is stored in the region where the request to create the cache is made. It can be any MIME type supported by Gemini multimodal models, such as text, audio, or video. For more information, see Context caching overview.