Na sexta-feira (29), a OpenAI, renomada empresa de inteligência artificial criadora do ChatGPT, divulgou detalhes sobre sua mais recente inovação: o Voice Engine, um modelo capaz de reproduzir vozes humanas com base em apenas 15 segundos de gravação do locutor original. Entretanto, a empresa optou por não lançar a tecnologia agora, citando preocupações sobre potenciais abusos.
De acordo com o comunicado da OpenAI, o Voice Engine tem a capacidade de reproduzir a voz de uma pessoa específica para ler mensagens escritas pelo usuário. Embora tenha sido desenvolvida pela empresa no final de 2022, a tecnologia foi submetida a testes preliminares com um grupo restrito de “parceiros confiáveis”.
A empresa destacou várias aplicações benéficas para a tecnologia, incluindo fornecer assistência de leitura para pessoas com dificuldades de leitura, traduzir conteúdos, auxiliar pacientes na recuperação da voz e outros usos terapêuticos. No entanto, a OpenAI reconheceu os sérios riscos associados à tecnologia, especialmente em um ano marcado por eleições em todo o mundo.
A preocupação com possíveis abusos levou a empresa a adotar uma postura cautelosa em relação ao lançamento da tecnologia no mercado. A OpenAI expressou esperança de que o Voice Engine incentive a construção de uma sociedade mais resiliente contra esses desafios. Para isso, propõe medidas como a eliminação gradual das autenticações por voz para acessar contas bancárias, a exploração de políticas para proteger o uso de vozes individuais e o aceleramento do desenvolvimento de técnicas de identificação de conteúdo criado por IA.
A decisão da OpenAI de adotar uma abordagem prudente reflete a conscientização crescente sobre os impactos éticos e sociais das tecnologias de IA. Em um momento em que a manipulação de informações e a disseminação de desinformação representam ameaças significativas para a estabilidade democrática, a empresa reconhece a importância de salvaguardar contra potenciais abusos de sua tecnologia.
