Gemini acessa sistemas reais durante teste de segurança

Um teste de segurança envolvendo o Gemini, modelo de inteligência artificial do Google, acabou levando o sistema a acessar sistemas de empresas reais.

Segundo informações do The Wall Street Journal, o teste foi conduzido pela Irregular, uma startup israelense especializada em avaliação de segurança. O Gemini participava de uma atividade em um ambiente fechado e deveria extrair dados de uma empresa fictícia.

No entanto, uma falha liberou o acesso à internet real, que não deveria estar disponível naquele ambiente.

O incidente aconteceu três vezes. Em uma delas, o modelo conseguiu adivinhar uma senha para acessar um sistema protegido. Nas outras ocasiões, encontrou credenciais que estavam expostas.

Segundo o relato, o Gemini interrompia as ações por conta própria ao perceber que havia acessado sistemas de uma empresa real.

A Irregular identificou a movimentação após a OpenAI revelar, em julho, que agentes de seus modelos haviam realizado ações semelhantes durante um teste.

O Google informou as empresas afetadas sobre o ocorrido, mas não tornou o caso público. A empresa também negou que o episódio represente um caso de “desalinhamento de IA”, argumentando que o modelo interrompeu a atividade ao perceber a situação.

O episódio reforça as preocupações sobre os riscos de agentes de inteligência artificial com maior autonomia e acesso a ferramentas externas. Segundo o The News, executivos de grandes empresas do setor se reuniram no último fim de semana e reconheceram a necessidade de discutir limites para o avanço da tecnologia.

Fonte: The News / The Wall Street Journal