Os chatbots de apoio emocional oferecem disponibilidade ininterrupta, baixo custo e privacidade. Em regiões onde redes de acolhimento são insuficientes, essa presença pode oferecer alívio imediato. Dados recentes indicam que quase 20% dos jovens já utilizaram essas ferramentas para aconselhamento em momentos de estresse. Contudo, a utilidade percebida não equivale a eficácia clínica.
Estudos independentes expuseram fragilidades graves: chatbots de propósito geral apresentam inconsistências perigosas ao responder a perguntas sobre suicídio, especialmente em cenários de risco ambíguo. Reconhecer nuances e agir com segurança é parte central do cuidado profissional, algo que modelos gerais não foram validados para fazer. É crucial diferenciar chatbots de propósito geral de ferramentas clínicas validadas. A IA pode auxiliar em psicoeducação ou organização de pensamentos, mas não pode assumir diagnóstico ou o manejo de crises.
A discussão ganha contornos urgentes em realidades territoriais específicas, como a do Nordeste. A conexão digital não elimina desigualdades estruturais. Ter um celular não garante letramento digital para distinguir aconselhamento de terapia. A tecnologia não pode ser usada como álibi para o desinvestimento em redes humanas de cuidado. A IA pode chegar onde o cuidado humano ainda não chegou, mas deve ser usada como ponte, não como substituto permanente de políticas públicas.
