O debate sobre os direitos da inteligência artificial tornou-se uma questão jurídico-corporativa tangível. Empresas de tecnologia anunciaram medidas experimentais, como a preservação de modelos após sua aposentadoria e a criação de programas de pesquisa sobre bem-estar de modelos. No entanto, a documentação de treinamento dessas empresas deixa claro que os comportamentos do modelo são moldados por diretrizes corporativas. Um pedido de uma IA para não ser desligada pode ser apenas um padrão linguístico aprendido, não uma preferência moral genuína.
É vital fazer distinções jurídicas precisas. Direitos humanos protegem pessoas por sua dignidade. Personalidade jurídica, por sua vez, é uma construção legal que permite ser titular de direitos e deveres; empresas já possuem personalidade jurídica sem ter consciência. Conceder personalidade a uma IA para facilitar contratos não prova que ela sente.
O maior risco identificado por juristas é a criação de direitos sem responsabilidade. Se uma IA com personalidade jurídica causar um dano, a empresa desenvolvedora pode tentar usar a suposta autonomia da máquina como escudo para dispersar a culpa, já que a IA não possui patrimônio para pagar indenizações. A sociedade deve investigar a possível consciência sem romantizar e regular sem entregar poder irrestrito a vozes produzidas por corporações. Nenhuma consideração pela máquina deve reduzir a responsabilidade de quem a constrói e lucra com ela.
