Erro em IA do TikTok permitiu colocar até discurso nazista em vídeos

O TikTok, popular plataforma de compartilhamento de vídeos, recentemente lançou uma nova ferramenta chamada Symphony Digital Avatars. Essa ferramenta utiliza inteligência artificial (IA) para criar avatares digitais realistas que podem ser usados em anúncios e outros conteúdos. No entanto, o lançamento não foi tão suave quanto o esperado.

IA do TikTok Symphony Digital Avatars foi acidentalmente lançada sem filtro

Inicialmente, o TikTok lançou uma versão interna da IA Symphony Digital Avatars sem salvaguardas adequadas. Isso permitiu que os usuários criassem vídeos com conteúdo inadequado, incluindo citações de Hitler e mensagens perigosas. Embora a ferramenta tenha sido projetada para empresas gerarem anúncios usando dublagem com atores pagos e IA, um erro permitiu que qualquer pessoa com uma conta pessoal a experimentasse.

Leia mais:

• Uma tendência arriscada está crescendo entre usuários do TikTok; entenda
• 4 maneiras de filtrar o que você não quer ver no TikTok
• TikTok Lite: saiba tudo sobre o aplicativo
• O que é o Programa Criativo do TikTok e como ganhar dinheiro com ele?

A CNN descobriu o problema e criou vídeos perturbadores usando a ferramenta defeituosa. Isso levou o TikTok a agir rapidamente e remover a versão problemática. Agora, a versão correta da Symphony Digital Avatars inclui uma marca d'água para indicar que o conteúdo foi gerado por IA. Além disso, a empresa reforçou as diretrizes de uso para evitar abusos futuros.

▶ Ver publicacao no X (Twitter)

Erro em IA do TikTok já foi corrigido, segundo porta-voz

Laura Perez, porta-voz do TikTok, confirmou que o erro técnico foi resolvido em comunicado enviado ao The Verge. No entanto, preocupações permanecem sobre o potencial de abuso da ferramenta. Afinal, a criação de avatares digitais realistas pode ser usada para disseminar informações falsas, discurso de ódio ou outros conteúdos prejudiciais.

O TikTok diz que está comprometido em melhorar a moderação e garantir que a Symphony Digital Avatars seja usada de maneira responsável. A empresa está ciente de que a IA pode ser uma faca de dois gumes e está trabalhando para encontrar um equilíbrio entre criatividade e segurança.