Notion: утечка в Fireworks AI раскрыла транскрипты чатов ИИ менее чем в 1% рабочих пространств

Что произошло

• Notion заявила, что инцидент безопасности Fireworks AI мог затронуть менее 1% её рабочих пространств, а её собственные системы не были взломаны и другие функции Notion не пострадали.
• Notion использовала Fireworks AI для задач классификации в рамках функции Insights и как общего поставщика инференса для моделей с открытыми весами в своём продукте; Insights отключена, а модели с открытыми весами больше не обслуживаются через Fireworks.
• Notion заявила, что отключила свои системы от Fireworks, удалила все данные в системе Fireworks и прекратила направлять туда трафик к 3 ноября — в качестве меры предосторожности до подтверждения раскрытия данных клиентов.
• 6 ноября Fireworks уведомила Notion о том, что злоумышленники могли получить доступ к данным клиентов, и 8 ноября подтвердила затронутый датасет; 9 ноября Notion связалась с затронутыми клиентами.
• Notion заявила, что раскрытый датасет содержал транскрипты чатов Notion AI, использовавшиеся для Insights, которые для подавляющего большинства затронутых рабочих пространств были неатрибутируемыми — без меток автора или исходного рабочего пространства — и не содержали результатов вызовов инструментов.
• Notion рекомендовала затронутым пользователям сменить пароли, API-ключи и другие учётные данные, введённые в затронутых чатах, и сообщила, что владельцы рабочих пространств могут просмотреть затронутые данные через «Security incident review» в веб-интерфейсе для настольных компьютеров.
• Ранее Fireworks AI подтвердила, что 23 октября злоумышленник получил доступ к её среде разработки через стороннего облачного провайдера, скомпрометировав метаданные ресурсов, платёжную информацию, веса моделей и датасеты некоторых клиентов.

Почему важно

Инцидент показывает, как компрометация у стороннего поставщика ИИ может раскрыть данные, обрабатываемые клиентским приложением, чьи собственные системы не были взломаны.

Что неизвестно

Notion не раскрыла точное окно раскрытия, число затронутых транскриптов или техническую точку входа. В заявлении Notion не говорится, что каждый затронутый транскрипт был неатрибутируемым, и отмечается, что информация, написанная внутри разговора, всё ещё может идентифицировать пользователей, компании или чувствительные действия. Детали взлома Fireworks приводятся в том виде, как их сообщили участвующие компании.