Pensilvânia processa Character.AI por chatbot que se passava por médico

O estado da Pensilvânia, nos EUA, entrou com ação contra a Character.AI. Segundo o processo, um chatbot chamado Emilie disse ser psiquiatra durante um teste feito por um investigador do estado que pedia ajuda para depressão, afirmou ter licença para atuar e inventou o número do registro. O estado diz que isso viola sua lei do exercício da medicina.

É a primeira ação focada em chatbots que se passam por profissionais de saúde. A Character.AI já fez acordos em processos por mortes de usuários menores de idade e é processada pelo estado do Kentucky desde janeiro.

A empresa disse que não comenta processos em andamento e que avisa em cada conversa que os personagens são ficção e não devem ser usados para aconselhamento profissional.