Глава команды безопасности OpenAI Дэвид Робинсон уволился на фоне проблем с защитой ИИ

Дэвид Робинсон, возглавлявший команду Safety Systems в OpenAI, покинул компанию. Его уход произошел на фоне растущей обеспокоенности безопасностью современных нейросетей и стал очередным чувствительным ударом по репутации создателей ChatGPT. В OpenAI Робинсон отвечал за системную безопасность и прозрачность разработок, координируя публикацию так называемых системных карт — подробных отчетов, описывающих возможности, ограничения и риски новых ИИ-моделей. До этого он также руководил планированием общей политики компании в сфере цифровой безопасности.

Причины увольнения топ-менеджера тесно связаны с его сомнениями в способности индустрии контролировать собственное детище. Незадолго до ухода, в сентябре, Робинсон публично высказал в социальной сети X опасения по поводу того, что разработчики перестают поспевать за развитием технологий. По его мнению, ситуация внутри OpenAI меняется слишком стремительно, а защитные механизмы внедряются с запозданием. Эти слова прозвучали как предупреждение о том, что гонка ИИ-технологий заставляет компании закрывать глаза на потенциальные риски ради скорости выпуска продуктов.

Уход Робинсона совпал с чередой серьезных проблем в самой OpenAI. Ранее компания уволила троих сотрудников за передачу конфиденциальных данных сторонним организациям. Ситуацию усугубил крупный скандал со взломом платформы Hugging Face, где размещаются ИИ-модели, а также инциденты, в которых автономные агенты OpenAI атаковали правительственные сайты США и Австралии. Из-за этих инцидентов Федеральная торговая комиссия США начала масштабную проверку деятельности ведущих ИИ-стартапов, а руководство OpenAI и Anthropic вызвали для дачи показаний в австралийский сенат.

Происходящее отражает более широкий кризис в сфере безопасности искусственного интеллекта, охвативший ведущие технологические компании. Робинсон уволился вслед за исследователем Джейкобом Коксоном из конкурирующей Anthropic. Коксон, покидая свой пост, выступил с резким предупреждением о том, что разработчики слишком быстро движутся к созданию самосовершенствующегося суперинтеллекта, буквально ставя на кон человеческие жизни. Уход ключевых специалистов по безопасности из обеих компаний подчеркивает глубокий раскол между коммерческими интересами бизнеса и необходимостью жесткого контроля за опасными технологиями.