ИИ и безопасность данных сводятся к двум вопросам: что помощник может увидеть и что он может сделать без вашего ведома. На первый вопрос отвечают права доступа, на второй отвечает подтверждение действий. Если у помощника нет ни того ни другого, он превращается в самый широкий канал к информации компании.
Где у ИИ-помощника возникает риск для данных
Чтобы быть полезным, помощник должен читать рабочие материалы: задачи, переписку, файлы и условия сделок. Отсюда два риска. Первый: он покажет сотруднику то, что тот видеть не должен. Второй: он выполнит действие, которое нельзя отменить, например отправит письмо клиенту.
Оба риска знакомы любому руководителю по обычной работе с людьми. Новому сотруднику не открывают все папки сразу и не позволяют писать клиентам от имени компании без проверки. К помощнику применимы те же ограничения, потому что он действует от имени конкретного человека и с его уровнем доступа.
Права помощника равны правам пользователя
Базовое правило звучит просто: помощник видит только то, что видит человек, который к нему обратился. Если у менеджера нет доступа к бюджету проекта, помощник не должен пересказывать ему этот бюджет в ответ на вопрос. Иначе у любого сотрудника появляется обходной путь к закрытым данным, и достаточно просто спросить.
Права задаются в самой рабочей системе через роли и разрешения, и при каждом обращении к данным их проверяет система. Запрет, написанный в тексте инструкции для модели, обходится переформулировкой вопроса. О том, как раздавать доступ по ролям, подробно написано в материале про права доступа сотрудников.
Перед запуском помощника проверьте, как система отвечает на четыре вопроса:
- Видит ли помощник только те проекты и документы, к которым у пользователя есть доступ.
- Меняется ли ответ помощника, если сотруднику изменили роль.
- Можно ли выдать помощнику доступ шире, чем у человека, и кто принимает такое решение.
- Видит ли руководитель, к каким материалам обращался помощник.
Какие действия помощника требуют подтверждения
Чтение и действие различаются ценой ошибки. Неверный ответ на вопрос можно перепроверить или проигнорировать, а отправленное клиенту письмо или удаление документа вернуть нельзя.
Поэтому действия удобно разделить на уровни. Черновик остается у автора, ничего не меняет за пределами системы, и его можно прочитать и поправить. Действие, которое уходит за пределы компании, затрагивает средства, сроки или состав участников, должно ждать явного согласия человека.
Подтверждение работает, только если человек видит содержание действия целиком: адресата и текст письма. Кнопку «согласен» без деталей быстро начинают нажимать не глядя. О том, какие задачи вообще стоит передавать помощнику, а какие проверять самому, рассказано в статье про ИИ-помощника для работы.
Как устроены права и подтверждения у помощника Анны
В Tagra24 помощник Анна ищет задачи, проекты и документы в пределах полномочий пользователя. Отправка письма и другие важные действия требуют явного согласия. Возможности помощника зависят от прав пользователя и конфигурации.
Для работы ИИ нужен настроенный провайдер модели. Доступ к данным и операциям определяется полномочиями пользователя, а изменения можно проследить по сохраненной истории.
ИИ и конфиденциальность: что спросить у поставщика
Тема ИИ и конфиденциальность упирается в вопросы, на которые поставщик любой системы с ИИ должен отвечать прямо. Задайте их до подключения. Ответы лучше получить письменно и приложить к материалам проекта.
Вот что стоит выяснить у поставщика:
- Какие данные попадают в запрос к модели и кто управляет этой моделью?
- Где размещаются данные и кто имеет к ним доступ на стороне поставщика?
- Используются ли ваши материалы для дообучения модели?
- Можно ли отключить помощника для отдельных ролей или пространств?
- Сохраняется ли история обращений к помощнику и у кого есть к ней доступ?
Кто в компании отвечает за настройки помощника
У доступа помощника должен быть владелец. Обычно это руководитель направления или тот, кто отвечает за рабочую систему в целом. Он решает, какие роли получают помощника, какие материалы закрыты и какие действия требуют согласия. Без назначенного ответственного настройки расходятся с реальными правилами компании.
Пересматривайте настройки при каждом изменении в команде. Когда сотрудник переходит на другой проект или уходит из компании, его роль меняется, и вместе с ней меняется то, что помощник показывает этому человеку. Если права обновляются с опозданием, ошибка попадает и в ответы помощника.
Полезно также договориться, как сотрудники сообщают о сомнительных ответах. Если помощник показал материал, который человеку видеть не положено, об этом нужно сразу сообщить ответственному, чтобы поправить роли.
Журнал действий и разбор спорных случаев
Когда помощник действует от имени сотрудника, нужна история: кто спросил, какие материалы были найдены, какое действие предложено и кто его подтвердил. Без такой записи разбор спорной ситуации превращается в догадки. Она же помогает заметить, что сотруднику выданы слишком широкие права.
Права, подтверждения и журнал проще держать в порядке, когда они настроены один раз для всей рабочей среды. Как устроены контуры такой системы, описано в материале про систему управления бизнесом.
Частые ошибки при подключении помощника
Ошибки обычно сидят в настройках вокруг модели. Чаще всего встречаются такие:
- Помощнику выдают общий служебный доступ ко всем материалам компании.
- Ограничения прописывают в тексте инструкции вместо ролей и разрешений.
- Подтверждение показывает только кнопку, без содержания действия.
- Журнал не ведется или к нему никто не обращается.
- Помощника подключают сразу ко всем процессам, не определив границы.
С чего начать: один процесс и понятные границы
Не подключайте помощника ко всему сразу. Выберите один процесс, определите участников и данные, которые ему доступны, и зафиксируйте границы. О том, как подготовить процесс к ИИ-автоматизации, есть отдельная статья.
Заранее выпишите роли и закрытые материалы, а также действия, которые должны ждать согласия человека. Эта короткая карта станет основой для настройки прав и для разговора с поставщиком.
Состав системы можно посмотреть на странице, где собраны возможности Tagra24.
Читайте также
Частые вопросы
Как обеспечить безопасность данных при работе с ИИ-помощником?
Начните с прав: помощник должен видеть только то, что доступно пользователю, и эти ограничения задаются в рабочей системе через роли и разрешения. Затем определите, какие действия требуют явного согласия человека, например отправку писем клиентам. Третье: журнал, по которому можно восстановить, кто и что подтвердил.
Почему ИИ-помощнику нужно подтверждение действий?
Ошибка в действии стоит дороже ошибки в ответе. Письмо клиенту или удаление документа нельзя отменить, поэтому человек должен увидеть содержание действия и согласиться с ним. Черновик при этом остается безопасным вариантом, который можно прочитать и поправить.
Что выяснить про конфиденциальность до подключения ИИ?
Спросите у поставщика, какие данные попадают в запрос к модели, кто ею управляет и где размещаются данные. Уточните, используются ли ваши материалы для дообучения и кто видит историю обращений. Ответы лучше получить письменно до запуска.