A OpenAI, empresa por trás do ChatGPT, revelou uma ferramenta de clonagem de voz chamada Voice Engine. Essa IA é capaz de duplicar a fala de uma pessoa com base em uma amostra de apenas 15 segundos da voz original. No entanto, a ferramenta ainda não está disponível para todos e a empresa planeja mantê-la sob estrito controle até que sejam implementadas medidas de segurança para evitar falsificações de áudio destinadas a enganar os ouvintes.
A OpenAI reconhece os riscos associados à geração de fala semelhante às vozes das pessoas, especialmente em um ano de eleições. Portanto, estão trabalhando com parceiros dos Estados Unidos, governos, mídia, empresas de entretenimento, educação e sociedade civil para incorporar feedbacks e garantir o uso responsável dessa tecnologia.
Além disso, em fevereiro, a OpenAI também revelou o modelo de inteligência artificial Sora, que cria vídeos realistas a partir de texto curtos. O Sora pode gerar vídeos de até 60 segundos com cenas detalhadas, movimentos de câmera complexos e vários personagens com emoções vibrantes. A empresa está adotando uma abordagem cautelosa e informada para o lançamento mais amplo dessas tecnologias, considerando o potencial de uso indevido de vozes sintéticas e vídeos gerados por IA.