A possibilidade de empresas administradas por inteligência artificial entrou no debate público com força, impulsionada por anúncios de modernização legislativa em países como a Argentina, que prevê a inclusão de Organizações Autônomas Descentralizadas. É preciso cautela: digitalização não é autonomia, e essas organizações não são sinônimo de agentes de IA. Mesmo sem personalidade jurídica para a máquina, uma empresa humana já pode automatizar grande parte de sua operação, desde ajuste de preços até geração de contratos.
O cerne do problema não é a consciência da máquina, mas a responsabilização. Se um agente de IA rejeita candidatos de forma discriminatória ou causa dano ambiental, afirmar que a IA decidiu não repara a vítima. É necessário mapear uma cadeia de responsabilidade que inclua o fornecedor do modelo, o desenvolvedor, a empresa operadora, o administrador formal e o beneficiário final.
O risco econômico por trás dessas propostas é a arbitragem regulatória. Estruturas corporativas podem escolher jurisdições que ofereçam menor transparência, usando a automação como uma forma de blindagem. Proprietários capturam os lucros e atribuem os danos a uma entidade sem patrimônio. Automatizar a gestão é uma inovação legítima; automatizar a impunidade é um problema antigo em versão tecnológica.
Para o contexto brasileiro, especialistas apontam condições mínimas: administrador humano identificável com dever legal de supervisão, beneficiário final transparente, registro auditável de decisões, capacidade de reparação financeira e a não exclusão de responsabilidade humana. A autonomia do sistema não pode servir como desculpa automática para falhas operacionais ou danos a terceiros.
