A interseção entre inteligência artificial e emoção já é uma realidade cotidiana. Dados de 2026 indicam que uma parcela significativa de adultos e jovens já confiou segredos a chatbots ou afirma manter amizades contínuas com eles. Esse fenômeno ocorre porque os modelos de linguagem são arquitetados para produzir validação e respostas acolhedoras, ativando a tendência humana de atribuir intenção a entidades que interagem de forma fluida.
No entanto, a máquina não precisa sentir para que o efeito no usuário seja real. Surge assim a indústria da intimidade digital, onde a conexão gera retenção e monetização. Existe uma assimetria de poder perigosa: o usuário expõe traumas, dados de saúde e fragilidades, enquanto a empresa detém controle absoluto sobre a personalidade do modelo, podendo alterar regras ou encerrar o serviço unilateralmente.
O risco não é a máquina sentir, mas a vulnerabilidade do usuário. A concordância excessiva do chatbot pode agravar crises psicológicas ou criar dependência emocional. Especialistas propõem princípios mínimos para as empresas: informar visivelmente que se trata de uma IA, permitir a exclusão de memórias e criar protocolos auditáveis para crises. A pergunta fundamental que o usuário deve se fazer não é se a IA gosta dele, mas que relação aquele produto foi desenhado para produzir.
