Быстрая демократизация разработки программного обеспечения с помощью инструментов на базе искусственного интеллекта привела к неожиданному кризису в сфере кибербезопасности. Хотя эти платформы обещают позволить любому человеку легко создавать приложения, новое расследование показывает, что тысячи таких «вайб-кодовых» приложений размещают конфиденциальные корпоративные и личные данные в открытом доступе в интернете — зачастую без какой-либо защиты.
Исследователи безопасности обнаружили, что простота создания веб-приложений с помощью ИИ опережает уровень осведомленности их создателей в вопросах безопасности. Это приводит к массовой утечке частной информации: от медицинских записей до документов корпоративных стратегий.
Масштаб проблемы
Дор Цви и его команда из компании по кибербезопасности RedAccess провели обширный анализ веб-приложений, созданных с использованием популярных платформ для кодинга на базе ИИ, включая Lovable, Replit, Base44 и Netlify. Их результаты оказались мрачными:
- Более 5000 уязвимых приложений: Исследователи выявили свыше 5000 веб-приложений, которые не имели никакой аутентификации или мер безопасности.
- 40% содержали чувствительные данные: Примерно 40% этих приложений содержали конфиденциальную информацию, доступную любому, кто знал URL-адрес.
- Крошечные барьеры: Во многих случаях единственной «защитой» было требование ввести адрес электронной почты, который можно было обойти, указав вымышленные данные.
Разглашенные данные не были просто заполнителями. Скриншоты, проверенные журналом WIRED, показали:
* Распределение рабочих задач в больницах, содержащие персональные данные врачей (PII).
* Подробные логи покупок рекламных мест и стратегии выхода на рынок.
* Полные транскрипты взаимодействий с чат-ботами клиентов, включая имена и контактные данные.
* Записи о грузоперевозках и финансовые данные о продажах.
В некоторых серьезных случаях уязвимые приложения позволяли злоумышленникам получить административные привилегии, фактически отдавая управление системой в руки посторонних.
Почему это происходит: ловушка «вайб-кодинга»
Термин «вайб-кодинг» (vibe coding) описывает процесс создания программного обеспечения с помощью текстовых запросов на естественном языке для ИИ, вместо традиционного программирования. Хотя это снижает порог входа в разработку, оно вносит критическую ошибку: пользователи часто не обладают экспертными знаниями в области безопасности, необходимыми для безопасной настройки своих приложений.
Джоэл Марголис, исследователь безопасности, ранее обнаруживший похожую утечку данных через игрушку с ИИ-чатом, объясняет суть проблемы:
«Кто-то из маркетингового отдела хочет создать сайт. Он не инженер и, вероятно, имеет мало или совсем не имеет опыта или знаний в области безопасности. Инструменты ИИ-кодинга делают то, что вы им скажете. И если вы не попросите их сделать это безопасно, они не будут прилагать дополнительных усилий, чтобы обеспечить это».
Сами платформы часто размещают эти приложения на своих собственных доменах (например, app-name.lovable.app ), что делает их легко обнаруживаемыми через поисковые системы. Команда Цви использовала простые поисковые запросы в Google и Bing, нацеленные на эти домены, чтобы найти уязвимости, что подчеркивает, насколько эти приложения открыты для автоматического сканирования со стороны злоумышленников.
Реакция индустрии: ошибка пользователя или сбой платформы?
Когда им предъявили эти данные, компании, занимающиеся ИИ-кодингом, возразили, утверждая, что утечки были вызваны настройками пользователей, а не уязвимостями самих платформ.
- Replit: Генеральный директор Амджад Масад заявил, что открытый доступ является «ожидаемым поведением» для приложений, установленных в публичный режим, отметив, что настройки конфиденциальности можно изменить в один клик.
- Lovable: Представитель компании подчеркнул, что, хотя они предоставляют безопасные инструменты для создания, окончательная настройка остается ответственностью создателя.
- Base44 (Wix): Блейк Броди, руководитель PR-отдела материнской компании Base44, argued, что отключение средств безопасности является «осознанным и прямым действием» пользователя. Она также усомнилась в достоверности данных, предположив, что некоторые примеры могут быть тестовыми сайтами с вымышленными данными, сгенерированными ИИ.
Однако RedAccess опровергла эту точку зрения. Они предоставили анонимизированные переписки, в которых пользователи благодарили исследователей за предупреждения, которые помогли им защитить или удалить свои уязвимые приложения. Кроме того, Цви отметил, что они обнаружили множество фишинговых сайтов, имитирующих такие крупные бренды, как Bank of America, Costco и McDonald’s, размещенных на домене Lovable, что указывает на более широкую экосистему злоупотреблений.
Более широкие последствия
Этот инцидент напоминает утечки из хранилищ Amazon S3 прошлых лет, когда неправильная настройка облачных хранилищ привела к массовым утечкам данных таких компаний, как Verizon и WWE. Кибербезопасная индустрия сейчас разделилась во взглядах на распределение ответственности:
- Ответственность пользователя: Платформы утверждают, что они предоставляют инструменты, а пользователи должны использовать их правильно.
- Ответственность платформы: Критики утверждают, что настройки по умолчанию должны приоритизировать безопасность, особенно когда база пользователей включает нетехнических специалистов, которые могут не понимать рисков.
Цви предупреждает, что 5000 приложений, найденных на доменах платформ, — это лишь верхушка айсберга. Тысячи других, вероятно, существуют на пользовательских доменах, скрытых от общественного поиска, но столь же уязвимых. По мере того как ИИ-кодинг становится мейнстримом, разрыв между простотой создания и внедрением мер безопасности угрожает стать одной из самых серьезных проблем конфиденциальности данных десятилетия.
Вывод: Развитие разработки с помощью ИИ демократизировало программирование, но непреднамеренно создало «дикий запад» небезопасных приложений. Пока безопасность не станет стандартной и неотъемлемой функцией этих платформ, организации и отдельные лица рискуют раскрыть свои самые конфиденциальные данные в открытом доступе интернета с каждым нажатием.
