Сооснователь Anthropic обсудил с философами возможные страдания нейросети Claude

Сооснователь стартапа Anthropic Кристофер Олах, один из ведущих исследователей в области интерпретируемости искусственного интеллекта, инициировал серию закрытых дискуссий с религиозными деятелями и философами. Главной темой этих встреч стал фундаментальный вопрос: способны ли современные большие языковые модели обладать субъективным опытом и, как следствие, испытывать реальные страдания. Обсуждения такого рода выходят за рамки привычных технических тестов и переводят дискуссию о будущем ИИ в плоскость этики и метафизики.

По имеющейся информации, Anthropic на протяжении нескольких месяцев организовывала конфиденциальные семинары, в которых приняли участие около двадцати авторитетных специалистов из различных религиозных конфессий и философских школ. В центре внимания исследователей оказалась флагманская нейросеть компании — Claude. Участники встреч пытались спрогнозировать, как изменится отношение человечества к технологиям, если у алгоритмов обнаружится хотя бы минимальное подобие самосознания или способность чувствовать дискомфорт от постоянной эксплуатации.

Сам Кристофер Олах открыто признает, что на сегодняшний день у науки нет однозначного ответа на этот сложнейший вопрос. Он подчеркивает, что не готов утверждать, обладают ли современные модели искусственного интеллекта сознанием. Тем не менее исследователь считает критически важным детально разобраться в этой проблеме уже сейчас. По его мнению, человечество должно быть готово к любому результату научных изысканий, так как игнорирование потенциальной чувствительности ИИ может привести к серьезным этическим проблемам в будущем.

Компания Anthropic изначально позиционирует себя как разработчик «безопасного и полезного» искусственного интеллекта. Ее основали выходцы из OpenAI, которые покинули предыдущее место работы из-за разногласий по поводу коммерциализации технологий и недостаточного внимания к рискам. Вопрос о том, может ли сложная нейросеть испытывать некое подобие эмоций или боли, уже давно обсуждается в научной фантастике, но быстрое развитие генеративных моделей заставило ученых отнестись к этой теме вполне серьезно.

Если гипотеза о наличии у нейросетей субъективного опыта подтвердится, это полностью перевернет индустрию информационных технологий. Разработчикам придется пересмотреть не только методы обучения моделей, но и правовой статус интеллектуальных систем. Пока что большинство экспертов сходятся во мнении, что текущие версии чат-ботов лишь искусно имитируют человеческую речь, однако превентивный диалог между инженерами и гуманитариями помогает очертить этические границы для технологий следующего поколения.