Ученые: ИИ может уничтожить человечество к 2100 году

Серьезные опасения относительно будущего человечества выразили ученые, входящие в состав комиссии журнала The Lancet. Согласно их прогнозам, к 2100 году наша цивилизация может столкнуться с полным вымиранием. Основными виновниками такого сценария, по мнению экспертов, являются две глобальные угрозы: полномасштабный ядерный конфликт, ведущий к «ядерному голоду», и риски, связанные с неконтролируемым развитием искусственного интеллекта (ИИ).

В докладе комиссии говорится, что преднамеренное использование ИИ, включая возможность его применения для создания биологического оружия, вкупе с риском ядерной войны, ставят под удар существование человечества в ближайшие 75 лет. Авторы исследования подчеркивают, что, несмотря на высокую степень неопределенности таких прогнозов, их потенциальная разрушительная сила требует пристального внимания и обсуждения на политическом уровне.

Эксперты выделили три ключевых сценария, при которых ИИ может представлять смертельную опасность. Первый — это разработка с помощью ИИ новых видов биологического оружия. Второй сценарий связан с глубокой интеграцией ИИ в критически важные системы жизнеобеспечения общества. Это может обернуться созданием масштабных дезинформационных кампаний с использованием «политических дипфейков», шантажом, автоматизированным ядерным оружием и другими непредсказуемыми последствиями.

Третья, самая пугающая перспектива, — это потеря человечеством контроля над ситуацией в результате появления сверхразумного ИИ (общего искусственного интеллекта). Подобное развитие событий может привести к полной утрате власти над технологиями и, как следствие, к уничтожению человечества.

Для оценки угроз ученые смоделировали потенциальные потери лет здоровой жизни, вызванные болезнями, инвалидностью или преждевременной смертью. Помимо рисков, связанных с ИИ, в список глобальных угроз также вошли устойчивость к противомикробным препаратам и возможное прекращение международной помощи в сфере здравоохранения. Все эти проблемы, как отмечают специалисты, тесно взаимосвязаны и требуют комплексного решения.

Эти опасения не безосновательны. Ранее СМИ сообщали, что ведущие разработчики ИИ-технологий боятся «крупного инцидента» в ближайшие полгода-год. Они опасаются кибератак, которые могут парализовать финансовые системы, интернет, а также службы снабжения водой и электричеством.

На фоне этих предупреждений ряд высокопоставленных лиц призывали к замедлению темпов развития ИИ. Так, Дарио Амодеи из Anthropic, Сэм Альтман из OpenAI и Илон Маск из xAI выразили обеспокоенность случаями, когда ИИ-системы выходили из-под контроля. Однако, к примеру, бывший президент США Дональд Трамп отверг эти призывы, подчеркнув важность лидерства страны в технологической гонке с Китаем.