Разработчики ИИ из OpenAI и Anthropic моделируют гипотетические глобальные катастрофы

Крупнейшие технологические компании, занимающиеся разработками в сфере искусственного интеллекта, начали уделять повышенное внимание рискам, связанным с возможным выходом перспективных моделей из-под контроля или их использованием в разрушительных целях. Руководители таких лабораторий, как OpenAI и Anthropic, проводят непубличные учения, в рамках которых моделируются сценарии масштабных социальных и политических кризисов. Эти виртуальные симуляции позволяют оценить, насколько общество и государственные институты готовы к гипотетическим катастрофическим инцидентам, спровоцированным продвинутыми алгоритмами.

Главное внимание в ходе подобных тренировок уделяется сценариям с масштабными кибератаками, направленными на критически важную гражданскую инфраструктуру. По мнению экспертов и разработчиков, неконтролируемый или злонамеренно направленный искусственный интеллект способен единовременно вывести из строя ключевые электронные системы. В результате миллионы людей могут в один миг лишиться доступа к банковским счетам, финансовым сервисам, мобильной связи и глобальной сети Интернет.

Ещё более пессимистичные варианты предполагают каскадный сбой в управлении базовыми коммунальными ресурсами. Моделируемые атаки включают отключение магистральных электросетей, нарушение работы водопровода и систем очистки воды, а также паралич логистических цепочек поставок продовольствия. Подобные инциденты способны крайне быстро спровоцировать массовую панику, хаос в городах и серьезные гражданские беспорядки, с которыми не смогут оперативно справиться правоохранительные органы.

Актуальность этих симуляций обусловлена стремительным ростом возможностей автономных ИИ-агентов, которые уже сейчас способны находить уязвимости в программном обеспечении и писать сложный код. Если ранее создание эффективного вредоносного софта требовало высокой квалификации и многомесячной работы группы хакеров, то современные нейросети могут автоматизировать эти процессы, значительно снижая порог входа для проведения атак мирового масштаба.

Проведение закрытых учений свидетельствует о том, что создатели передовых технологий осознают глубину потенциальных угроз и пытаются заранее выработать протоколы реагирования. Разработчики стремительно приближаются к созданию так называемого общего искусственного интеллекта, поэтому оценка системных рисков становится критически важным этапом в обеспечении международной безопасности и устойчивости всей современной цифровой цивилизации.