Начальный
Что такое EU AI Act?
EU AI Act — это регламент Европейского союза, который устанавливает риск-ориентированную систему регулирования AI-систем и, в отдельных случаях, моделей общего назначения. Он определяет категории использования ИИ и распределяет обязанности по безопасности, прозрачности, управлению и compliance в зависимости от уровня риска.
Кто считается provider по EU AI Act?
Provider — это лицо, организация, публичный орган, агентство или иной субъект, который разрабатывает AI-систему или general-purpose AI model либо поручает её разработку и выводит её на рынок или вводит в эксплуатацию под своим именем или товарным знаком.
Чем provider отличается от deployer?
Provider — это участник, который разрабатывает, выводит на рынок или вводит в эксплуатацию AI-систему или GPAI model под своим именем; Deployer — участник, который использует AI-систему под своей ответственностью.
Что такое conformity assessment для AI-системы?
Conformity assessment — это процесс определения, соответствует ли система, продукт или процесс установленным правовым или техническим требованиям.
Что такое LLM security?
LLM, или large language model, — это языковая модель с большим числом параметров, обученная на широких текстовых или мультимодальных данных для понимания и генерации языка.
Что такое prompt injection?
Prompt injection — это состязательный приём, при котором языковую модель заставляют следовать вредоносным или непредусмотренным инструкциям, помещённым во ввод пользователя, документы, веб-страницы или другой обрабатываемый контент.
Что такое jailbreak в LLM-системе?
Prompt injection или jailbreak означает состязательный ввод, предназначенный для обхода инструкций модели, safety-политик или операционных мер контроля. Меры снижения риска включают фильтрацию ввода, изоляцию retrieval-слоя, доступ инструментов по принципу минимальных привилегий, enforcement политик и многоуровневые guardrails.
Чем RAG отличается от fine-tuning?
Используйте RAG, когда модели нужна актуальная, основанная на источниках информация; используйте fine-tuning, когда модели нужно специализированное поведение, выполнение задач, адаптация к домену или стиль, усвоенный из данных.
Что такое управление ИИ?
AI Governance — это система политик, процессов, ролей, мер контроля и надзора, используемая для управления разработкой и использованием ИИ на протяжении его жизненного цикла. Она направлена на ответственную, законную, безопасную, прозрачную и подотчётную практику ИИ внутри организации или юрисдикции.
Что такое AI management system?
AI Management System — это организационная платформа или структурированный набор процессов для управления AI-проектами и AI-системами на протяжении их жизненного цикла. Она координирует governance, потоки данных, разработку моделей, внедрение, мониторинг, compliance и accountability.
Что такое ISO/IEC 42001?
ISO/IEC 42001 — международный стандарт для создания, внедрения, поддержания и улучшения системы управления ИИ. Он помогает организациям управлять разработкой и использованием ИИ через политики, роли, управление рисками, надзор и постоянное совершенствование.
Что такое реестр инвентаризации ИИ-систем?
AI Inventory или System Register — это организованный каталог ИИ-систем и AI use cases внутри организации. Обычно он фиксирует владельцев, цели, источники данных, статус внедрения, риски, меры контроля и другую информацию, нужную для governance, аудита и accountability.
Что такое персональные данные в ИИ?
Персональные данные — это информация, относящаяся к идентифицированному или идентифицируемому физическому лицу по праву защиты данных. В контексте ЕС значение связано со статьёй 4(1) Регламента (EU) 2016/679 и соответствующим правовым толкованием.
Что такое специальные категории данных в ИИ?
Особые категории персональных данных — это особо чувствительные виды персональных данных, выделенные в праве ЕС о защите данных.
Являются ли биометрические данные персональными данными?
Биометрические данные — это персональные данные, полученные в результате специальной технической обработки физических, физиологических или поведенческих характеристик человека. Примеры включают изображения лица, отпечатки пальцев, голосовые паттерны, походку и другие идентификаторы, которые могут поддерживать распознавание или идентификацию.
Что такое анонимизация в управлении AI-данными?
Анонимизация и деидентификация — это методы, используемые для снижения риска идентификации людей по набору данных. На практике необратимая анонимизация может быть сложной, особенно если наборы данных можно связать с другой информацией.
Что такое AI safety?
AI Safety — это междисциплинарная область и набор практик, направленных на предотвращение вреда от AI-систем. Она включает надёжность, предотвращение злоупотреблений, снижение bias и ошибок, согласование с человеческими ценностями, а также анализ краткосрочных и долгосрочных рисков.
Чем риск отличается от вреда?
Используйте «риск» для потенциальных неблагоприятных исходов до или во время оценки; используйте «вред» для неблагоприятного эффекта, который уже произошёл или может быть конкретно описан.
Что такое safety case для AI?
AI safety case — это документированный аргумент, подкреплённый доказательствами, что AI-система является приемлемо безопасной для определённого использования и операционного контекста. Он особенно важен для более рискованных секторов, где assurance должен быть явным, проверяемым и поддерживаемым во времени.
Что такое model drift?
Model drift — это ухудшение или изменение performance модели со временем, когда реальные данные, поведение пользователей или условия эксплуатации расходятся с данными, использованными при обучении или оценке. Обнаружение drift важно для решения, когда модель нужно дообучить, откалибровать или заменить.
Что такое оценка модели?
Оценка — это процесс измерения качества, поведения или performance модели, системы либо изменения по заданным критериям. В машинном обучении она может использовать validation и test data, а оценка LLM также может включать безопасность, factuality, robustness и влияние на пользователей.
Что такое benchmark в оценке AI?
Benchmark — это стандартизированный тест, набор данных, задача или процедура оценки, используемые для измерения и сравнения performance AI-систем.
Чем отличаются precision и recall?
Используйте Precision, когда false positives стоят дорого; используйте Recall, когда дорого обходятся пропущенные positives.
Почему accuracy может вводить в заблуждение?
Accuracy — это classification metric, равная доле правильных предсказаний среди всех сделанных предсказаний. Она полезна в некоторых сценариях evaluation, но может вводить в заблуждение при imbalanced classes, где precision, recall или другие метрики лучше отражают performance модели.
Что такое агентный AI?
Agentic AI означает AI-системы, которые могут преследовать цели, воспринимая контекст, принимая решения, планируя шаги и выполняя действия с некоторой степенью автономности.
Что такое AI agent?
AI Agent — это сущность или программная система, которая воспринимает среду, интерпретирует входные данные и выполняет действия для достижения целей.
Что такое agentic workflow?
Agentic Workflow — это процесс, в котором AI agent планирует и выполняет несколько шагов для достижения заданной цели. Он может включать reasoning, tool invocation, взаимодействие с внешними systems, monitoring и self-correction при изменении условий.
Что такое agentic loop?
Agentic Loop — это повторяющийся цикл, в котором AI agent наблюдает ситуацию, рассуждает о том, что делать, действует и использует feedback, чтобы продолжить или остановиться. Цикл продолжается, пока цель не достигнута, не возникло failure condition или не сработало другое termination rule.
Что такое biometric AI?
Биометрическая технология — это системы, которые используют biometric data для распознавания, проверки или идентификации личности человека. Примеры включают facial recognition, fingerprint scanning, iris recognition, voice recognition и связанные identity-assurance tools.
Что такое biometric data?
Biometric data — это персональные данные, созданные в результате специальной технической обработки физических, физиологических или поведенческих характеристик человека. Примеры включают изображения лица, отпечатки пальцев, голосовые паттерны, походку и другие identifiers, которые могут поддерживать распознавание или идентификацию.
Что такое biometric identification?
Biometric identification — это автоматизированное распознавание личности физического лица путём сравнения его biometric data с biometric data, сохранёнными в базе данных. Обычно это процесс сопоставления one-to-many, используемый для установления того, кем является человек.
Чем biometric verification отличается от biometric identification?
Используйте Biometric Identification, когда фокус — автоматизированное распознавание личности физического лица путём сравнения его biometric data с biometric data, сохранёнными в базе данных; используйте Biometric Verification, когда фокус — автоматизированное one-to-one подтверждение личности человека путём сравнения его biometric data с заявленной личностью.
Что такое machine learning?
Machine Learning (ML) — это подполе artificial intelligence, в котором системы учатся паттернам на данных или опыте, чтобы делать predictions, classifications, recommendations или decisions без явного программирования каждого случая.
Что такое supervised learning?
Supervised learning — это подход machine learning, при котором модель учится на примерах, связывающих inputs с известными target outputs или labels. Модель использует эти labeled examples, чтобы изучать mappings для prediction, classification или regression на новых данных.
Чем unsupervised learning отличается от supervised learning?
Используйте Supervised Learning, когда есть labeled input-output examples; используйте Unsupervised Learning, когда цель — обнаружить структуру без labels.
Что такое reinforcement learning?
Reinforcement Learning (RL) — это парадигма machine learning, в которой agent учится действовать в среде, получая rewards или penalties за свои действия. Цель — выучить policy, которая максимизирует ожидаемую cumulative reward во времени.
Что такое generative AI?
Generative AI (GenAI) — это AI-системы, создающие новый контент, например текст, изображения, audio, video, code или другие media, в ответ на prompts или context. Такие системы изучают patterns из training data и генерируют outputs, похожие на типы контента, на которых они обучались, или преобразующие их.
Чем generative AI отличается от artificial intelligence?
Используйте Artificial Intelligence для широкой области и категории систем; используйте Generative AI, когда система создаёт новый content из prompts или context.
Что такое large language model?
LLM, или large language model, — это language model с большим числом parameters, обученная на широких text или multimodal data для понимания и генерации языка.
Что такое diffusion model?
Diffusion model — это generative model, обученная обращать процесс постепенного добавления noise к данным. Обучаясь denoise от random noise к целевому data distribution, она может генерировать realistic images, audio, text representations или другие outputs.