Erro técnico na ferramenta de IA Symphony Digital Avatars do TikTok permitiu, sem nenhum filtro, que qualquer texto fosse dublado em vídeo
O TikTok, popular plataforma de compartilhamento de vídeos, recentemente lançou uma nova ferramenta chamada Symphony Digital Avatars. Essa ferramenta utiliza inteligência artificial (IA) para criar avatares digitais realistas que podem ser usados em anúncios e outros conteúdos. No entanto, o lançamento não foi tão suave quanto o esperado.
IA do TikTok Symphony Digital Avatars foi acidentalmente lançada sem filtro
Inicialmente, o TikTok lançou uma versão interna da IA Symphony Digital Avatars sem salvaguardas adequadas. Isso permitiu que os usuários criassem vídeos com conteúdo inadequado, incluindo citações de Hitler e mensagens perigosas. Embora a ferramenta tenha sido projetada para empresas gerarem anúncios usando dublagem com atores pagos e IA, um erro permitiu que qualquer pessoa com uma conta pessoal a experimentasse.
PUBLICIDADEPlay Video
A CNN descobriu o problema e criou vídeos perturbadores usando a ferramenta defeituosa. Isso levou o TikTok a agir rapidamente e remover a versão problemática. Agora, a versão correta da Symphony Digital Avatars inclui uma marca d’água para indicar que o conteúdo foi gerado por IA. Além disso, a empresa reforçou as diretrizes de uso para evitar abusos futuros.
Erro em IA do TikTok já foi corrigido, segundo porta-voz
Laura Perez, porta-voz do TikTok, confirmou que o erro técnico foi resolvido em comunicado enviado ao The Verge. No entanto, preocupações permanecem sobre o potencial de abuso da ferramenta. Afinal, a criação de avatares digitais realistas pode ser usada para disseminar informações falsas, discurso de ódio ou outros conteúdos prejudiciais.
O TikTok diz que está comprometido em melhorar a moderação e garantir que a Symphony Digital Avatars seja usada de maneira responsável. A empresa está ciente de que a IA pode ser uma faca de dois gumes e está trabalhando para encontrar um equilíbrio entre criatividade e segurança.
OLHAR DIGITAL
