Recriações digitais de pessoas falecidas, conhecidas como “deadbots”, estão próximas de se tornarem realidade e precisam de regulamentação urgente, conforme argumentam especialistas em ética de IA. Eles alertam que essas tecnologias podem causar danos psicológicos aos criadores e usuários, além de potencialmente “assombrá-los” digitalmente.
Pesquisadores da Universidade de Cambridge afirmam que esses serviços já são tecnicamente viáveis e legalmente permitidos. Eles permitem que usuários enviem conversas com parentes falecidos para “trazer à vida” esses entes queridos na forma de chatbots. Esses serviços podem ser direcionados a pais com doenças terminais que desejam deixar algo para seus filhos interagirem, ou mesmo a pessoas saudáveis que desejam criar um legado interativo. No entanto, práticas comerciais irresponsáveis podem causar danos psicológicos duradouros e desrespeitar os direitos dos falecidos.
A Dra. Katarzyna Nowaczyk-Basińska, coautora do estudo no Leverhulme Centre for the Future of Intelligence (LCFI) da Universidade de Cambridge, destaca que os avanços rápidos na IA generativa permitem que quase qualquer pessoa com acesso à internet e algum conhecimento básico possa reviver um ente querido falecido. Segundo ela, este campo da IA é uma “mina terrestre ética” e é crucial priorizar a dignidade dos falecidos, garantindo que os motivos financeiros dos serviços de legado digital não interfiram nessa dignidade.
Um dos riscos identificados é a monetização desses serviços por meio de publicidade. O estudo sugere que os usuários podem se surpreender ao ver suas recriações digitais sugerindo pedidos de comida, o que pode gerar desconforto ao perceberem que não foram consultados sobre o uso de seus dados dessa forma. Resultados ainda piores são possíveis quando os usuários desses serviços são crianças. Pais que desejam ajudar seus filhos a lidar com a perda podem recorrer aos “deadbots”, mas não há evidências de que essa abordagem seja psicologicamente benéfica, podendo, ao contrário, causar danos significativos ao interromper o processo normal de luto.
Os pesquisadores propõem um conjunto de melhores práticas que podem exigir regulamentação para preservar a dignidade dos falecidos e o bem-estar psicológico dos vivos. Esses serviços deveriam ter procedimentos para “aposentar” os “deadbots” de forma sensível, limitar suas funcionalidades interativas apenas a adultos e ser muito transparentes sobre como operam e as limitações de qualquer sistema artificial.
A ideia de usar sistemas de IA como o ChatGPT para recriar um ente querido falecido não é ficção científica. Em 2021, Joshua Barbeau fez manchetes ao usar o GPT-3 para criar um chatbot com a voz de sua namorada falecida. Seis anos antes, a desenvolvedora Eugenia Kuyda converteu as mensagens de texto de um amigo próximo em um chatbot, o que levou à criação do popular aplicativo de companhia AI Replika. A tecnologia também se estende além dos chatbots. Em 2021, o site de genealogia MyHeritage introduziu o Deep Nostalgia, uma ferramenta que cria vídeos animados dos ancestrais dos usuários a partir de fotos estáticas. Após o recurso se tornar viral, a empresa admitiu que alguns usuários achavam “assustador”. Em 2022, o MyHeritage introduziu o DeepStory, permitindo aos usuários gerar vídeos falantes, o que só aumentou a controvérsia e a necessidade de regulamentação.
Diante do avanço tecnológico, a criação de “deadbots” apresenta um dilema ético significativo. A regulamentação é necessária para garantir que a dignidade dos falecidos seja mantida e que o bem-estar psicológico dos vivos não seja comprometido. Como sociedade, é essencial abordar essa questão com seriedade e sensibilidade, equilibrando a inovação com a ética e o respeito pelos nossos entes queridos falecidos.
