Preocupada (?) com uma possível avalanche de conteúdo falso gerado por inteligência artificial, a Meta anunciou nesta semana que passará a detectar e sinalizar automaticamente textos, imagens, áudios e vídeos fabricados por IA em plataformas como Facebook e Instagram.
A big tech desenvolveu um algoritmo capaz de identificar "marcadores digitais invisíveis" embutidos por criadores de conteúdo de IA como DALL-E, Midjourney e outras plataformas avançadas. Ao encontrar esses metadados, a rede neural da Meta rotulará o material, alertando os usuários sobre sua origem sintética.
A iniciativa antecipa uma era de disrupção profunda com a popularização de chatbots, imitadores de voz e vídeos hiper-realistas gerados por inteligência artificial. Diante da capacidade assustadora dessas ferramentas de inventar falas e situações fictícias críveis, gigantes de tecnologia terão que adaptar suas políticas para educar usuários pouco familiarizados a discernir entre real e artificial.
Ao tornar IA mais transparente, os rótulos ajudarão o público a desenvolver intuição que falta hoje para detectar textos eloquentes ou mídias forjadas que são produtos de modelos treinados, não de humanos. Porém, especialistas divergem sobre a eficácia da medida no longo prazo. Ela pode até normalizar a presença massiva de desinformação hiper-realista circulando livremente.
Outro problema é a sobre-dependência de sistemas de IA para avaliar e checar outros sistemas de IA. Se no futuro máquinas superinteligentes podem burlar ou sabotar seus próprios rótulos, a Meta e reguladores podem estar apostando suas fichas na estratégia errada contra a desinformação.
De qualquer forma, a gigante das redes sociais está claramente adotando uma postura mais proativa do que rivais como Twitter e YouTube para se precaver contra novos riscos de seus serviços serem abusados para disseminação viral de informações falsas da próxima geração. Resta saber se apenas alertar os usuários será suficiente frente à velocidade dos avanços em AI synthetic media.
Comments