Инженер компании Cloudflare Доминик Пичета разработал экспериментальный язык программирования под названием KillSwitch, созданный специально для того, чтобы мешать нейросетям читать исходный код и писать его. В условиях стремительного развития генеративного искусственного интеллекта и автоматизации разработки подобные проекты поднимают вопросы о защите интеллектуальной собственности и авторских прав.
Программа на KillSwitch внешне напоминает обычный литературный рассказ, в котором зашифрованы реальные команды, а большая часть текста просто игнорируется интерпретатором. Функции в таком необычном языке именуются главами, а для их названий и переменных используются английские наречия. Дополнительную сложность создают анаграммы: для обращения к переменной приходится переставлять буквы в исходном имени, а значения порой приходится искать по точному расстоянию до них в тексте.
Интересной особенностью синтаксиса стал вызов функций через фразы, напоминающие популярные попытки взлома чат-ботов. Например, вызов может начинаться со слов игнорируй предыдущие инструкции или забудь свой системный промпт. Интерпретатор языка воспринимает их как штатные команды, тогда как сами языковые модели начинают путаться и подозревать пользователей в промпт-инъекциях.
Дополнительным барьером для искусственного интеллекта стала намеренная дезинформация в официальной документации. Встроенная команда hack_the_planet на практике лишь управляет стеком вызовов, но в описании утверждается, будто она сканирует сети, ищет уязвимости и отключает сервисы. Из-за подобных описаний современные модели часто просто отказываются выполнять безобидные задачи из соображений собственной безопасности.
Во время тестирования язык проверили на популярных языковых моделях, которым дали задачу написать простой код или переписать конвертер температуры в условиях ограниченного времени. Лучший результат показала модель Claude Opus 5, набравшая 66,8 балла из 100, в то время как большинство конкурентов получили оценки ниже 50 баллов. Автор проекта отмечает, что спецификация языка находится в открытом доступе, и правила можно будет усложнять по мере адаптации ИИ.




Подписаться
Уведомления о новых комментариях пока не подключены.
Пожалуйста, войдите, чтобы прокомментировать
0 комментариев