Начальный
Что такое AI safety?
AI Safety — это междисциплинарная область и набор практик, направленных на предотвращение вреда от AI-систем. Она включает надёжность, предотвращение злоупотреблений, снижение bias и ошибок, согласование с человеческими ценностями, а также анализ краткосрочных и долгосрочных рисков.
Чем риск отличается от вреда?
Используйте «риск» для потенциальных неблагоприятных исходов до или во время оценки; используйте «вред» для неблагоприятного эффекта, который уже произошёл или может быть конкретно описан.
Что такое safety case для AI?
AI safety case — это документированный аргумент, подкреплённый доказательствами, что AI-система является приемлемо безопасной для определённого использования и операционного контекста. Он особенно важен для более рискованных секторов, где assurance должен быть явным, проверяемым и поддерживаемым во времени.
Что такое model drift?
Model drift — это ухудшение или изменение performance модели со временем, когда реальные данные, поведение пользователей или условия эксплуатации расходятся с данными, использованными при обучении или оценке. Обнаружение drift важно для решения, когда модель нужно дообучить, откалибровать или заменить.