O YouTube permitirá que músicos e atores solicitem a remoção de seus deepfakes. A empresa também está lançando rótulos mais claros para conteúdo criado com IA.
YouTube quer combater deepfake
O YouTube anunciou novas etapas para combater o abuso e a desinformação da IA, que serão implementadas nos próximos meses. As novas políticas abordam a transparência em vídeos feitos com inteligência artificial e o problema generalizado dos deepfakes.
Assim, o YouTube torna “possível solicitar a remoção de conteúdo gerado por inteligência artificial ou outro conteúdo sintético ou modificado que simule uma pessoa identificável, incluindo seu rosto ou voz”.
Nesse sentido, os indivíduos podem enviar solicitações de remoção por meio do processo de solicitação de privacidade do YouTube, mas a empresa avaliará a decisão com base se é uma sátira ou se a pessoa é identificável de forma única, como uma pessoa pública.
Da mesma forma, músicos ou seus representantes também podem solicitar a remoção de qualquer conteúdo usando IA que imite sua voz. As políticas surgem num momento em que os deepfakes são amplamente promovidos e partilhados, como o Civitai, que incentiva recreações sexuais de mulheres influentes com a ajuda da IA.
Além de simplificar a remoção, o YouTube também garantirá que qualquer conteúdo modificado ou sintético seja rotulado como tal. Os criadores verão novas opções para divulgar essas informações e poderão enfrentar a remoção da postagem, a suspensão do Programa de Parcerias do YouTube e outras repercussões se não o fizerem.
Os especialistas prevêem: 90% do conteúdo online será gerado por IA até 2026
O YouTube afirma que irá interagir com os criadores sobre o uso desta nova ferramenta antes do lançamento. Do lado do visualizador, isso levará a um grande banner na descrição informando que determinado conteúdo é “alterado ou sintético”, com opção de saber mais. Independentemente da rotulagem adequada, o YouTube ainda pode remover vídeos gerados por IA se contiverem conteúdo intencionalmente perturbador.
“Não acredite em tudo que você vê na internet” tem sido um conselho bastante comum já há algum tempo. E de acordo com um novo relatório do grupo europeu de aplicação da lei Europol, temos todos os motivos do mundo para intensificar essa vigilância.
“Os especialistas estimam que até 90% do conteúdo online poderá ser gerado sinteticamente até 2026”, alertou o relatório, acrescentando que a mídia sintética “refere-se à mídia gerada ou manipulada usando inteligência artificial”.
“Na maioria dos casos, os meios de comunicação sintéticos são gerados para jogos, para melhorar os serviços ou para melhorar a qualidade de vida”, continua o relatório, “mas o crescimento dos meios de comunicação sintéticos e a melhoria da tecnologia criaram oportunidades para a desinformação”.
Como provavelmente nem é preciso dizer: 90% é um número bastante chocante. É claro que os humanos já se habituaram – até certo ponto – à presença de bots, e os programas de conversão de texto em imagem gerados por IA certamente causaram grandes ondas. No entanto, o padrão não é necessariamente presumir que quase tudo com que entramos em contato digital possa ser, digamos, falso.
,