Parte das notícias sobre IA nos apontam para um futuro lindo e maravilhoso. Outra parte já apresentam a IA como responsável pelo fim da humanidade. Dentro desse cenário, uma das previsões mais impactantes é que, até 2026, o conteúdo gerado por inteligência artificial (IA) irá superar em muito o conteúdo gerado por seres humanos. Isso levanta questões fascinantes sobre como será a paisagem digital do futuro e como as pessoas irão interagir com o conteúdo gerado por máquinas.
Estamos rapidamente nos aproximando de um “ponto de virada” em que o conteúdo não gerado por humanos vai superar em muito a quantidade de conteúdo gerado por humanos. Segundo a EUROPOL (European law enforcement group) 90% do conteúdo online será gerado por IA até 2026. Esse dado também aparece no relatório de tendências da CB Insights 2024. Essa estimativa levanta questões sobre como as pessoas vão perceber e interagir com esse novo tipo de conteúdo, e como a autenticidade será valorizada em meio a uma inundação de narrativas criadas por algoritmos.
Esse aumento na produção de conteúdo sintético e a melhoria da tecnologia deram origem a possibilidades de desinformação. Isso levanta questões sobre como as pessoas vão discernir entre o que é real e o que é fabricado, e como isso vai impactar a confiança nas informações online.
Não é incomum ouvir o conselho “Não acredite em tudo que você vê na internet”. Mas, de acordo com um novo relatório do grupo de aplicação da lei europeu Europol, temos todas as razões para intensificar essa vigilância. A maioria das pessoas confia em sua própria percepção para guiá-las e dizer o que é real e o que não é. Mas e se essas mídias puderem ser geradas artificialmente, adaptadas para mostrar eventos que nunca aconteceram, para distorcer a verdade?
A confiança nas gravações visuais e auditivas de um evento muitas vezes é tratada como uma conta verdadeira do evento. Mas e se essas mídias puderem ser geradas artificialmente, adaptadas para mostrar eventos que nunca aconteceram, para distorcer a verdade?
A integridade do conteúdo gerado por humanos se tornará fundamental, e nossas estratégias de segurança cibernética devem ser ágeis o suficiente para se defender contra as manipulações sofisticadas que a IA generativa pode produzir, como a criação de personas sintéticas com alto alcance viral e credibilidade. Como a cibersegurança irá evoluir para detectar e combater a desinformação gerada por IA? Como as pessoas vão aprender a confiar nas informações online?
O surgimento de conteúdo gerado por IA e mídia sintética anuncia uma era transformadora no cenário digital, uma que está preparada para alterar fundamentalmente nossa percepção da realidade. Essa mudança não é apenas tecnológica, mas profundamente filosófica, desafiando a base de como discernimos a verdade da fabricação.
Este é um momento importante para refletir sobre como planejamos o futuro e as nossas relações através do ambiente digital. O resumo são mais perguntas do que respostas: Como podemos garantir que a curadoria humana continue a desempenhar um papel importante na disseminação de informações? Como podemos fortalecer a comunidade e a conexão humana em um mundo cada vez mais digital?