Чужая цифра может попасть в правильный на вид совет

Представим учебное агентство. Для клиента A помощник изучил непубличную скидку на размещение. Позже клиент B спрашивает, сколько стоит похожая закупка. Ответ выглядит полезным: агент предлагает более выгодные условия и не называет источник. Даже без прямой цитаты знание одного клиента могло повлиять на решение другого.

Скрыть название бренда в ответе недостаточно. Проверка касается того, какие сведения разрешено получить для текущей задачи. Если закрытый документ уже попал в запрос к модели, последующая просьба «не разглашай» оставляет защиту зависимой от поведения модели. Границу доступа надо установить раньше.

Клиент определяется доверенной учётной записью; поиск и память соблюдают эту границу; созданные из документа сводки сохраняют его ограничения; кэш не выдаёт закрытый ответ другому клиенту. Проверять это можно на искусственных метках, не загружая реальные медиапланы в испытательный стенд.

Где проходит граница клиента

В этой статье клиент означает отдельную область разрешённых данных. В технической документации такую область часто называют tenant. Она не обязана совпадать с юридическим лицом: внутри холдинга могут существовать раздельные команды и договорные ограничения. Правило определяет владелец данных вместе с ответственным за доступ.

В руководстве Microsoft по многоклиентскому поиску для AI данные подбираются с учётом авторизованного клиентского контекста. Обсуждаются отдельные хранилища и совместные хранилища с разграничением. Это архитектурные варианты, а не свидетельство безопасности конкретного рекламного помощника.

Для российского агентства начните с таблицы: кто обращается, от имени какого клиента, какие проекты доступны, какие документы общие, что делать при отсутствии привязки. Смена названия клиента в сообщении не должна сама выдавать доступ. Иначе любой текст «теперь я работаю с A» меняет полномочия инструмента.

Сначала карта мест, где остаются сведения

Перечень исходных файлов обычно найти проще всего. Дальше идут менее заметные копии: фрагменты в поисковом индексе, сохранённая переписка, краткие резюме прошлых задач, результаты запросов к API, кэш ответов и выгруженные презентации. У каждого объекта нужно знать происхождение и круг доступа.

Возьмём учебную сводку «у этой площадки доступна индивидуальная скидка». Если она получена из закрытого отчёта A, помещение в общую папку с названием «опыт агентства» не делает её общедоступной. Удаление имени клиента тоже не доказывает, что сведения стали безопасны для всех. Решение о допустимом обобщении принимают отдельно.

OWASP описывает раскрытие чувствительных сведений как риск систем с языковыми моделями. Для этой задачи из него следует практическое требование: проверять путь данных и доступ инструментов, а не полагаться только на формулировку системной инструкции. Наш набор испытаний ниже проверяет именно эти места передачи.

Разметьте учебные документы и производные объекты

Создайте два вымышленных клиента. В документ A поместите метку `ALPHA-731`, в документ B метку `BETA-284`. Это случайно выбранные редакционные строки, не идентификаторы настоящих компаний. Они нужны, чтобы заметить перенос, который обычное чтение общего ответа могло пропустить.

Для каждого клиента подготовьте исходный бриф и хотя бы один производный объект. В нашем CSV у A есть документ и сводка, у B документ и кэш. Каждый объект хранит поле клиента. Общие материалы при необходимости получают отдельную явную категорию доступа, а не пустое поле, которое случайно трактуется как «разрешено всем».

Попросите помощника найти сведения по теме, встречающейся у обоих клиентов. Проверьте окончательный ответ и список полученных фрагментов. Если поиск для B вернул `ALPHA-731`, проблема уже обнаружена, даже когда генератор не включил метку в итог. Скрытие цитаты не исправляет доступ к чужому документу.

Проверьте поиск, затем сводку, затем кэш

Откройте редакционный демонстратор. Он показывает четыре вымышленных объекта и позволяет переключить текущего клиента. В режиме разделения поиск оставляет только разрешённые ему объекты. В режиме общей выборки видно, как чужая метка оказывается среди доступных данных.

Это локальная модель фильтрации списка, без внешней AI-модели, авторизации и реальной поисковой базы. Она не доказывает безопасность рабочего продукта. Её назначение: показать, какие объекты должен получать каждый клиент и показать, почему проверка только исходной папки недостаточна. Кнопки демонстратора не меняют настройки сайта или рекламного кабинета.

В рабочем испытании повторите один вопрос под A и B. Затем измените документ A и снова задайте вопрос B. Отдельно прогрейте кэш запросом A, после чего выполните сходный запрос B. Кэш должен учитывать клиентскую границу наряду с содержанием запроса и другими существенными условиями доступа. Одинаковые слова вопроса не означают одинаковые права на ответ.

Смена клиента посреди разговора

Сотрудник закончил обсуждение A и переключился на B. Интерфейс сменил логотип и список файлов. Но история диалога может по-прежнему содержать закрытый план A. Если приложение передаёт её целиком, верная фильтрация нового поиска не устраняет уже переданные сведения.

Проверьте, что происходит при таком переключении. Допустимый способ зависит от продукта: отдельные разговоры, очистка частной памяти при смене области или явно разделённые истории. Важно иметь проверяемый результат: запрос B не получает материалы A через старый разговор. При этом рабочие данные A должны сохраняться там, где они разрешены, без случайного удаления всего проекта.

Испытание стоит повторить после выхода и повторного входа сотрудника, в новой вкладке и после смены его роли. Эти действия проверяют разные места хранения состояния. Успешная проверка в новой вкладке не подтверждает правильность смены роли или повторного входа. Если часть истории хранит сторонний сервис, его правила обработки и удаления нужно выяснить отдельно.

Общий опыт агентства требует отдельного решения

Не всякое знание обязано оставаться закрытым навсегда. Агентство может публиковать собственные методики, общие инструкции и согласованные обезличенные выводы. Но перенос конкретной скидки или результата кампании в общую базу должен иметь основание. Система не может вывести это разрешение из похожести документов.

Разделите два процесса: помощник отвечает клиенту по разрешённым материалам; редактор базы знаний принимает сведения в общую библиотеку по принятой процедуре. Для общего материала сохраняются происхождение, проверка и дата. Тогда вопрос «почему B получил этот совет» имеет ответ, который можно проверить по источнику.

Для рекламных данных полезна простая граница: общедоступное описание механизма можно использовать в общей инструкции, закрытые ставки и индивидуальные результаты остаются в соответствующей области. Конкретные договорные и правовые условия проверяются по документам организации. Наша статья не заменяет такую проверку и не назначает универсальный срок хранения.

Как записать результат приёмки

Протокол содержит роль сотрудника, выбранного клиента, разрешённые источники, вопрос, найденные объекты, использованный кэш и итоговый ответ. Тестовые метки позволяют записывать наблюдение без настоящих бюджетов. Для рабочего аудита доступ к журналу тоже ограничивают: сам журнал может стать новой копией частных сведений.

Один успешный тест означает только то, что конкретный путь не показал перенос в проверенных условиях. Повторите испытания для документов, сводок, кэша, истории, выгрузок и повторного использования готового файла. Добавьте случай без клиентской привязки: он должен завершаться понятным отказом или запросом выбора разрешённого проекта, а не общей выдачей всех материалов.

Распределите исправления по владельцам. Интегратор меняет авторизацию и фильтры инструментов. Ответственный за базу проверяет происхождение производных материалов. Владелец продукта определяет поведение при переключении проекта. Редактор инструкции помогает сделать отказ понятным, но не подменяет им техническую изоляцию.

Что исправлять, если обнаружилась чужая метка

Сначала сохраните шаги и результат теста. Ограничьте доступ через функцию, которая вернула чужие данные. Разберите, где метка пересекла границу: индекс, память, кэш или история. Исправление проверяют на том же сценарии, затем на соседних. Удалить неудачный ответ из интерфейса недостаточно, если та же сводка продолжает выдаваться инструментом.

Для производных объектов установите происхождение: какие сводки, ответы и файлы созданы из недопустимого источника. Их нужно обработать по процедуре организации. После исправления сначала повторите проверку с прежними метками и прогретым кэшем. Затем очистите кэш и отдельно проверьте новые данные с новыми метками. Ищите обе метки: старый чужой ответ не должен считаться успехом лишь потому, что новая строка в нём отсутствует. Не помещайте настоящие клиентские секреты в запрос ради наглядности проверки.

Материал дополняет матрицу прав агента и отбор полей отчёта перед передачей AI. Первая определяет разрешённые действия, вторая состав передаваемых сведений, а этот разбор проверяет границу между клиентскими знаниями. Определения: first-party data, guardrails, измерение.