Checklist de segurança de IA no atendimento: 7 perguntas antes de assinar

Por que estas perguntas importam (e por que quase ninguém faz)

Uma IA de suporte não é um chatbot bonito na vitrine. Para funcionar, ela precisa ler o que há de mais sensível na sua operação: dados pessoais de clientes, descrições de incidentes, anexos, contratos, senhas que o usuário colou sem querer no corpo do chamado. É o material perfeito para um vazamento ou para um uso indevido que você nem sabe que autorizou.

Na empolgação da demo, a conversa vira sobre o que a IA gera. Quase ninguém pergunta para onde os dados vão para ela gerar aquilo. Este checklist de segurança de IA no atendimento inverte a ordem: primeiro segurança e soberania, depois o show. Leve estas 7 perguntas para TODA apresentação de fornecedor — e cobre a nossa também.

• Os chamados são, na prática, um banco de dados pessoais nos termos da LGPD.
• Quem responde rápido e por escrito a estas perguntas costuma ser quem já pensou nelas.
• Quem desconversa, manda ‘falar com o jurídico depois’ ou some, já te deu a resposta.

Pergunta 1 — Onde os dados rodam?

A primeira fronteira é geográfica e de infraestrutura. Os chamados saem da sua rede para onde? Servidor no Brasil, nuvem nos EUA, API de terceiro na Ásia? Quantos saltos os dados dão até virar uma resposta?

Peça o desenho do fluxo de dados, não uma frase de efeito. No Relatório de Causa-Raiz da Service Up, a análise nasce dentro do seu Znuny/OTOBO; a orquestração fica do seu lado e a chamada ao modelo de linguagem é a parte externa e declarada. Pergunte ao fornecedor onde, exatamente, está essa fronteira. Transparência de fluxo é o mínimo, não o diferencial.

• Exija um diagrama: chamado → fila/console → modelo → relatório.
• Pergunte a região física do processamento e dos backups.
• Pergunte quais subprocessadores entram no caminho (e onde ficam).

Pergunta 2 — A IA treina o modelo com os meus chamados?

Esta é a pergunta que mais gente esquece e mais dói depois. Usar seus dados para responder ao seu chamado é uma coisa. Usar seus dados para treinar o modelo que vai servir outros clientes — inclusive concorrentes seus — é outra completamente diferente.

Exija a resposta por escrito, no contrato, não no PowerPoint. A formulação certa é: ‘os dados dos meus chamados são usados para treinar, ajustar ou avaliar modelos fora do meu ambiente?’. Lembre que o motor de inferência é um subprocessador (no caso da Service Up, o DeepSeek/deepseek-chat), então a pergunta tem que alcançar também os termos dele. Se a resposta tiver ‘mas’, leia o ‘mas’ com lupa.

• Treino é diferente de inferência — separe os dois na pergunta.
• Cobre cláusula de não-treinamento e de não-retenção, inclusive pelo subprocessador de IA.
• Pergunte se há opção de opt-out explícito e como ela é auditável.

Pergunta 3 — Dá para ser on-premise (ou no meu próprio ambiente)?

Soberania de dados de verdade é poder dizer ‘roda na minha casa’. Nem toda operação precisa de on-premise puro, mas você precisa saber o que fica no seu ambiente e o que sai — porque isso revela o quanto a arquitetura do fornecedor depende de uma nuvem que você não controla.

O Copilot da Service Up vive dentro do Znuny/OTOBO que já é seu: o processamento em lote é disparado por você, via ‘Processar agora’ na interface ou pelo console (bin/znuny.Console.pl Maint::AICopilot::RCAScan). A orquestração fica do seu lado; a chamada ao modelo (DeepSeek/deepseek-chat) é a parte externa e declarada — ou seja, não se trata de um modelo rodando localmente, e nós somos claros quanto a isso. Pergunte a qualquer fornecedor onde está essa fronteira — e se ela é negociável.

• On-premise, nuvem privada ou modelo local: pergunte quais cenários o fornecedor suporta de fato.
• Pergunte o que exatamente sai do seu ambiente e o que nunca sai.
• Quanto mais da orquestração estiver do seu lado, mais controle você mantém.

Pergunta 4 — A IA cita a fonte?

Esta é a pergunta que separa fornecedor sério de fornecedor de slide. Se a IA afirma que um chamado levou 29 dias parado ou que a causa-raiz foi um gap de processo, ela tem que apontar de onde tirou isso. Saída sem rastreabilidade é palpite com cara de relatório.

Cada análise do Relatório de Causa-Raiz aponta o chamado de origem — por exemplo, o #2685787, com um gap de cerca de 29 dias. Isso é o que torna a saída auditável e contestável: você abre o chamado citado e confere. Sem fonte, você não tem como provar nada — nem para o cliente, nem para a auditoria, nem para você mesmo.

• Rastreabilidade é pré-condição para auditoria e para a LGPD.
• Peça para ver, na demo, o link/ID que a IA usou como base.
• Saída que cita a fonte é saída que você pode defender ou refutar.

Pergunta 5 — Atende à LGPD (na prática, não no marketing)?

‘Somos compatíveis com a LGPD’ é uma frase, não uma garantia. Cobre os mecanismos: base legal para o tratamento, contrato de operador, capacidade de atender pedidos de titular (acesso, correção, eliminação), e o que acontece com os dados quando o contrato acaba.

A LGPD trata a IA como mais um agente de tratamento de dados pessoais. Então as perguntas anteriores — onde roda, se treina, se cita fonte — são, juntas, a sua resposta de conformidade. Um fornecedor que responde bem às quatro primeiras quase sempre responde bem a esta. Um que trava aqui, provavelmente travou nas outras também.

• Peça o contrato de operador/subprocessador e a lista de subprocessadores.
• Confirme como pedidos de titular (LGPD) são atendidos sobre o que a IA leu.
• Pergunte o que acontece com os dados no fim do contrato: devolução ou eliminação?

Perguntas 6 e 7 — O que fica logado? E quem decide no fim?

Pergunta 6: o que fica logado, por quanto tempo e quem acessa? Logs são ótimos para auditar e péssimos quando viram um segundo banco de dados pessoais sem controle. Pergunte sobre retenção, criptografia, e quem do lado do fornecedor consegue ler o conteúdo dos seus chamados.

Pergunta 7, a mais importante: quem decide no fim? Uma IA de suporte saudável sugere, prioriza e acelera — mas não fecha chamado, não nega garantia e não fala com o cliente no seu lugar sem revisão. Na Service Up isso é tese, não rodapé: a IA acelera; o humano decide. Se um fornecedor te vende automação total sem humano no circuito, ele está te vendendo risco com embrulho de produtividade.

• Logs: retenção definida, criptografia, acesso restrito e auditável.
• Decisão crítica sempre com revisão humana — a IA prepara, a pessoa assina.
• Desconfie de quem promete tirar o humano do circuito por completo.