A Internet está inundada de imagens e vídeos de IA a tal ponto que é difícil confiar em qualquer coisa que você vê online. É aí que entram os detectores de IA, separando o fato do prompt… certo?
Infelizmente, simplesmente não existe uma maneira confiável de detectar imagens ou vídeos gerados por IA.
Detectar conteúdo gerado por IA é mais fácil de falar do que fazer
Existem todos os tipos de ferramentas de detecção de IA, mas nenhuma delas funciona com garantia. Na verdade, os detectores de IA são tão pouco confiáveis que o AI Resource Hub do MIT tem um guia completo para aconselhar os educadores sobre como lidar com o problema. Embora isso se preocupe principalmente com detectores de texto, imagem e vídeo, o desempenho não é muito melhor.
A IA generativa é uma corrida armamentista, onde empresas como Google e OpenAI estão investindo grandes quantidades de recursos na criação de modelos melhores que podem gerar criações de aparência mais realista. Essas empresas estão trabalhando para solucionar alguns dos sinais reveladores que facilitam a distinção da mídia gerada. A tecnologia está melhorando constantemente, mesmo que as coisas não estejam acelerando no ritmo de antes.
Parece haver tantas ferramentas disponíveis para detectar conteúdo gerado por IA quanto para criá-lo. Pior ainda, nada disso funciona com qualquer grau de certeza. Você pode testar isso com suas próprias criações geradas por IA.
Para este teste, gerei uma “imagem realista de uma praia em um dia nublado” usando Gemini e o modelo de geração de imagens Nano Banana do Google. Este está entre um dos melhores modelos que existem, mas ainda é de uso gratuito. Como o Gemini me deu uma imagem quadrada, decidi recortá-la rapidamente usando um aplicativo de edição de imagens para uma proporção menos óbvia de 16:9. Por último, coloquei a imagem no PicScrubber para remover quaisquer metadados reveladores da imagem (um processo que acontece quando você carrega imagens na maioria das plataformas).
Aqui está minha vista sombria à beira-mar:
Coloquei isso em uma ferramenta de detecção, e você daria uma olhada nisso:
Estimulado pelo meu sucesso, tentei outro:
Mais uma vez, para dar sorte:
Seus olhos são os melhores detectores de IA
A questão é que eu realmente não culpo os detectores de IA por não conseguirem detectar que minha imagem foi gerada por IA. Eu iria mais longe e diria que a maioria das pessoas também não pensaria que foi gerado por IA, principalmente porque escolhi uma cena tão sem vida. Você pode argumentar que as coisas seriam um pouco mais óbvias se eu tivesse escolhido algo mais estranho.
Olhando para a imagem, você pode pensar que algo está acontecendo ao ver a onda quebrar à direita. As ondas quebram assim? E aquelas (presumivelmente) gaivotas no céu parecem um pouco colocadas ao acaso. De qualquer forma, não é a falsificação mais fácil do mundo de detectar.
Há algumas coisas que você pode procurar e algumas perguntas que você pode querer fazer a si mesmo quando se deparar com uma mídia que você suspeita não ser genuína, mas é mais difícil do que nunca estar verdadeiramente confiante.
Pode ser fácil perder os sinais mais óbvios de conteúdo gerado por IA em segundo plano quando você está focado em primeiro plano. Dê uma olhada no fundo e procure por coisas que estão fora do lugar. Pessoas com rostos estranhos, janelas com números inconsistentes de vidraças, edifícios e árvores que não fazem sentido.
A imagem está tingida de laranja? ChatGPT gera muitas imagens com brilho laranja. Limpar isso na postagem é bastante trivial, mas muitos usuários negligenciam isso. Ao mesmo tempo, certos modelos generativos possuem estilos distintos e reconhecíveis. A fonte do ChatGPT é bastante reconhecível depois de ver algumas criações, por exemplo, assim como seu estilo genérico de ilustração de “história em quadrinhos”.
Quando se trata de “arte”, como nas criações de IA que se apresentam como criações de autoria humana, decisões deliberadas são o que você deve procurar. Linhas que parecem fora do lugar, folhas de uma árvore que não se conectam a nada, “linhas-guia” a lápis que não fazem sentido (como se tivessem sido adicionadas depois do fato).
Pergunte-se se um artista escolheria colocar a caneta no papel e produzir esses detalhes, mesmo que pareçam triviais. Nem todo mundo é um artista talentoso, mas a “obra de arte” gerada por esses modelos geralmente tem como objetivo demonstrar proficiência.
Se eu pudesse resumir tudo isso em uma palavra, seria “vibrações”.
Treine-se para identificar melhor imagens e vídeos gerados por IA
Como você não pode depender de serviços de detecção de IA, mesmo aqueles que possuem um plano premium, você precisa tirar suas próprias conclusões. Se você for como eu, talvez queira transformar isso em uma espécie de jogo e aprenda os sinais reveladores ao mesmo tempo. Quanto mais você joga, mais você aprende.
Existem subreddits como r/isthisAI e r/RealOrAI onde os membros da comunidade postam vídeos e imagens para tentar descobrir se o conteúdo é real ou não. Depois de visualizar o suficiente dessas postagens, você começará a entender algumas das coisas mencionadas na seção anterior.
Embora muitas dessas postagens sejam solicitações genuínas, outras são deliberadamente elaboradas para suscitar discussões. Muitos usuários geram imagens e as publicam e, em seguida, fornecem alguma conclusão sobre se a imagem é real ou não.
Se você vai passar indefinidamente por um monte de imagens e vídeos gerados por IA nas redes sociais, é melhor aprender algo ao mesmo tempo, certo?
Já faz algum tempo que não procuramos maneiras de detectar imagens de IA e os sinais reveladores de vídeos gerados por IA, especialmente com a tecnologia avançando tão rapidamente.
Você está procurando um exemplo mais útil de tecnologia de IA? Experimente o NotebookLM.