IAs estão expondo números de telefone e dados pessoais reais

Relatos recentes mostram sistemas de IA fornecendo NÚMEROS reais de TELEFONES em RESPOSTAS geradas, inclusive direcionando usuários para CONTATOS PESSOAIS como se fossem canais de ATENDIMENTO, SUPORTE ou INFORMAÇÕES públicas relevantes.

Modelos de linguagem são treinados com grandes volumes de DADOS coletados da WEB, que podem incluir informações pessoalmente identificáveis, como TELEFONES, ENDEREÇOS, NOMES de familiares e detalhes PROFISSIONAIS. 

Segundo a DeleteMe, consultas de clientes sobre IA generativa e PRIVACIDADE cresceram 400% nos últimos sete meses, indicando que a PREOCUPAÇÃO deixou de ser TEÓRICA e passou a AFETAR pessoas diretamente.

Não é fácil saber se um dado pessoal foi usado no TREINAMENTO de um modelo, nem garantir sua REMOÇÃO completa. Guardrails ajudam, mas não eliminam o RISCO, especialmente porque chatbots foram desenhados para responder perguntas com EFICIÊNCIA.

Na era dos modelos generativos, privacidade não depende apenas do que compartilhamos hoje, mas também do que já foi publicado, armazenado e reprocessado em sistemas que tornam dados dispersos muito mais acessíveis.