Экзистенциальный риск от искусственного общего интеллекта — это гипотеза, что продвинутый AGI может вызвать вымирание человечества или другую невосстановимую глобальную катастрофу. Концепция касается маловероятных, но крайне высоко-impact исходов от систем, которые могут превзойти человеческий контроль или надзор.
The hypothesis that substantial progress in artificial general intelligence (AGI) could someday result in human extinction or some other unrecoverable global catastrophe.