Google lança ferramenta no Gemini para identificar imagens geradas por IA

O Google está lançando um novo recurso de detecção no aplicativo Gemini para ajudar usuários a responderem à pergunta: “Esta imagem foi gerada por IA?”. A partir de agora, o Gemini consegue identificar as marcas d’água invisíveis SynthID, presentes em imagens criadas pelos modelos de inteligência artificial da empresa, oferecendo um alto grau de confiança ao apontar quando uma imagem foi gerada ou modificada por IA do Google.

Os modelos da empresa incorporam automaticamente as marcas d’água SynthID ao produzir imagens. Embora invisíveis a olho nu, elas podem ser detectadas e decodificadas com ferramentas proprietárias. Muitos serviços do Google já oferecem esse tipo de verificação, incluindo o Portal de Detecção de SynthID, voltado para jornalistas e profissionais da mídia, e o painel “Informações de IA” no Google Fotos. Com a integração ao aplicativo Gemini, essa capacidade passa a ser mais amplamente acessível.

Para analisar uma imagem, basta enviá-la ao aplicativo ou site do Gemini e perguntar: “Esta imagem foi gerada com IA?”. A ferramenta examina o arquivo e alerta caso encontre marcas SynthID, indicando que a imagem foi criada com um modelo de IA do Google.

Mesmo quando a marca d’água não está presente, o Gemini tenta identificar sinais visuais característicos de IA. O Gemini 3 Pro é capaz de detectar artefatos sutis, como objetos com física inconsistente, trechos de instruções que aparecem no texto, ou até a aparência artificialmente lisa conhecida como “pele de IA”. O sistema também observa pistas adicionais, como nomes de arquivos usados por aplicativos de IA e marcas d’água visíveis, como o ícone de “brilho” aplicado pelo Nano Banana. No entanto, ao contrário do SynthID, essas análises não fornecem confirmação absoluta.

Uma limitação importante é que o SynthID funciona apenas nos modelos de IA do Google. Plataformas como Midjourney ou GPT Image 1 não utilizam esse sistema, o que impede detecção por marca d’água. Ainda assim, o Gemini tentará identificar sinais de criação por IA por outros meios, embora sem garantia de precisão total.

O Google reconhece que, apesar da utilidade do SynthID para criadores que desejam trabalhar com responsabilidade, o recurso não impede tentativas de fraude. As marcas d’água resistem a alterações simples, como cortes, filtros ou redimensionamento, mas podem ser contornadas com relativa facilidade por usuários com conhecimento técnico.

O SynthID também funciona para vídeo, áudio e texto, e o Google pretende expandir a detecção do Gemini para esses formatos. Entretanto, as limitações continuam válidas. A empresa também trabalha para implementar suporte às credenciais de conteúdo C2PA, que permitirão verificar materiais provenientes de outras plataformas.

Embora o recurso não seja uma solução definitiva para deepfakes ou desinformação, representa um avanço ao incentivar os usuários a checarem a origem do conteúdo. A detecção via SynthID no Gemini está sendo disponibilizada gradualmente e pode levar algum tempo para chegar a todas as regiões.

Fonte: Forbes