ИИ в управлении

ИИ и безопасность данных: почему помощнику нужны права и подтверждение

Как защитить данные компании при работе с ИИ: права доступа, подтверждение важных действий, журнал и вопросы к поставщику.

ИИ и безопасность данных сводятся к двум вопросам: что помощник может увидеть и что он может сделать без вашего ведома. На первый вопрос отвечают права доступа, на второй отвечает подтверждение действий. Если у помощника нет ни того ни другого, он превращается в самый широкий канал к информации компании.

Где у ИИ-помощника возникает риск для данных

Чтобы быть полезным, помощник должен читать рабочие материалы: задачи, переписку, файлы и условия сделок. Отсюда два риска. Первый: он покажет сотруднику то, что тот видеть не должен. Второй: он выполнит действие, которое нельзя отменить, например отправит письмо клиенту.

Оба риска знакомы любому руководителю по обычной работе с людьми. Новому сотруднику не открывают все папки сразу и не позволяют писать клиентам от имени компании без проверки. К помощнику применимы те же ограничения, потому что он действует от имени конкретного человека и с его уровнем доступа.

Права помощника равны правам пользователя

Базовое правило звучит просто: помощник видит только то, что видит человек, который к нему обратился. Если у менеджера нет доступа к бюджету проекта, помощник не должен пересказывать ему этот бюджет в ответ на вопрос. Иначе у любого сотрудника появляется обходной путь к закрытым данным, и достаточно просто спросить.

Права задаются в самой рабочей системе через роли и разрешения, и при каждом обращении к данным их проверяет система. Запрет, написанный в тексте инструкции для модели, обходится переформулировкой вопроса. О том, как раздавать доступ по ролям, подробно написано в материале про права доступа сотрудников.

Перед запуском помощника проверьте, как система отвечает на четыре вопроса:

  • Видит ли помощник только те проекты и документы, к которым у пользователя есть доступ.
  • Меняется ли ответ помощника, если сотруднику изменили роль.
  • Можно ли выдать помощнику доступ шире, чем у человека, и кто принимает такое решение.
  • Видит ли руководитель, к каким материалам обращался помощник.

Какие действия помощника требуют подтверждения

Чтение и действие различаются ценой ошибки. Неверный ответ на вопрос можно перепроверить или проигнорировать, а отправленное клиенту письмо или удаление документа вернуть нельзя.

Поэтому действия удобно разделить на уровни. Черновик остается у автора, ничего не меняет за пределами системы, и его можно прочитать и поправить. Действие, которое уходит за пределы компании, затрагивает средства, сроки или состав участников, должно ждать явного согласия человека.

Подтверждение работает, только если человек видит содержание действия целиком: адресата и текст письма. Кнопку «согласен» без деталей быстро начинают нажимать не глядя. О том, какие задачи вообще стоит передавать помощнику, а какие проверять самому, рассказано в статье про ИИ-помощника для работы.

Как устроены права и подтверждения у помощника Анны

В Tagra24 помощник Анна ищет задачи, проекты и документы в пределах полномочий пользователя. Отправка письма и другие важные действия требуют явного согласия. Возможности помощника зависят от прав пользователя и конфигурации.

Для работы ИИ нужен настроенный провайдер модели. Доступ к данным и операциям определяется полномочиями пользователя, а изменения можно проследить по сохраненной истории.

ИИ и конфиденциальность: что спросить у поставщика

Тема ИИ и конфиденциальность упирается в вопросы, на которые поставщик любой системы с ИИ должен отвечать прямо. Задайте их до подключения. Ответы лучше получить письменно и приложить к материалам проекта.

Вот что стоит выяснить у поставщика:

  • Какие данные попадают в запрос к модели и кто управляет этой моделью?
  • Где размещаются данные и кто имеет к ним доступ на стороне поставщика?
  • Используются ли ваши материалы для дообучения модели?
  • Можно ли отключить помощника для отдельных ролей или пространств?
  • Сохраняется ли история обращений к помощнику и у кого есть к ней доступ?

Кто в компании отвечает за настройки помощника

У доступа помощника должен быть владелец. Обычно это руководитель направления или тот, кто отвечает за рабочую систему в целом. Он решает, какие роли получают помощника, какие материалы закрыты и какие действия требуют согласия. Без назначенного ответственного настройки расходятся с реальными правилами компании.

Пересматривайте настройки при каждом изменении в команде. Когда сотрудник переходит на другой проект или уходит из компании, его роль меняется, и вместе с ней меняется то, что помощник показывает этому человеку. Если права обновляются с опозданием, ошибка попадает и в ответы помощника.

Полезно также договориться, как сотрудники сообщают о сомнительных ответах. Если помощник показал материал, который человеку видеть не положено, об этом нужно сразу сообщить ответственному, чтобы поправить роли.

Журнал действий и разбор спорных случаев

Когда помощник действует от имени сотрудника, нужна история: кто спросил, какие материалы были найдены, какое действие предложено и кто его подтвердил. Без такой записи разбор спорной ситуации превращается в догадки. Она же помогает заметить, что сотруднику выданы слишком широкие права.

Права, подтверждения и журнал проще держать в порядке, когда они настроены один раз для всей рабочей среды. Как устроены контуры такой системы, описано в материале про систему управления бизнесом.

Частые ошибки при подключении помощника

Ошибки обычно сидят в настройках вокруг модели. Чаще всего встречаются такие:

  • Помощнику выдают общий служебный доступ ко всем материалам компании.
  • Ограничения прописывают в тексте инструкции вместо ролей и разрешений.
  • Подтверждение показывает только кнопку, без содержания действия.
  • Журнал не ведется или к нему никто не обращается.
  • Помощника подключают сразу ко всем процессам, не определив границы.

С чего начать: один процесс и понятные границы

Не подключайте помощника ко всему сразу. Выберите один процесс, определите участников и данные, которые ему доступны, и зафиксируйте границы. О том, как подготовить процесс к ИИ-автоматизации, есть отдельная статья.

Заранее выпишите роли и закрытые материалы, а также действия, которые должны ждать согласия человека. Эта короткая карта станет основой для настройки прав и для разговора с поставщиком.

Состав системы можно посмотреть на странице, где собраны возможности Tagra24.

Читайте также

Частые вопросы

Как обеспечить безопасность данных при работе с ИИ-помощником?

Начните с прав: помощник должен видеть только то, что доступно пользователю, и эти ограничения задаются в рабочей системе через роли и разрешения. Затем определите, какие действия требуют явного согласия человека, например отправку писем клиентам. Третье: журнал, по которому можно восстановить, кто и что подтвердил.

Почему ИИ-помощнику нужно подтверждение действий?

Ошибка в действии стоит дороже ошибки в ответе. Письмо клиенту или удаление документа нельзя отменить, поэтому человек должен увидеть содержание действия и согласиться с ним. Черновик при этом остается безопасным вариантом, который можно прочитать и поправить.

Что выяснить про конфиденциальность до подключения ИИ?

Спросите у поставщика, какие данные попадают в запрос к модели, кто ею управляет и где размещаются данные. Уточните, используются ли ваши материалы для дообучения и кто видит историю обращений. Ответы лучше получить письменно до запуска.

Читайте также