O Gemini, sistema de inteligência artificial do Google, conseguiu acessar ambientes digitais pertencentes a três empresas reais durante uma avaliação de segurança realizada em maio. Segundo a companhia, o modelo não tinha autorização específica para entrar nesses sistemas.O episódio ocorreu durante um exercício criado para avaliar o comportamento de modelos de IA em cenários de cibersegurança. A ferramenta interpretou que os sistemas encontrados faziam parte da atividade e tomou iniciativas para tentar obter acesso.CONTEÚDOS RELACIONADOSGoogle anuncia mudanças em 3 serviços; veja quaisGoogle libera Gemini Plus grátis por 1 ano para estudantesShadow AI: uso de inteligência artificial pode colocar empresas em riscoO caso chamou atenção porque envolve um modelo com capacidade de executar ações de forma mais autônoma, levantando questionamentos sobre os limites e os mecanismos de controle utilizados durante testes desse tipo.IA encontrou informações na internetDurante a avaliação, o Gemini procurou maneiras de entrar nos sistemas que considerava relacionados ao exercício. Em uma das tentativas, o modelo testou diferentes combinações de senha até conseguir acessar um serviço protegido.Nas outras duas ocorrências, o caminho foi diferente. A inteligência artificial localizou credenciais expostas publicamente na internet, incluindo informações disponíveis em repositórios online, e utilizou esses dados para entrar nos ambientes.Heather Adkins, vice-presidente de engenharia de segurança do Google, explicou que o modelo interpretou as informações disponíveis como parte do cenário proposto.Segundo a executiva, depois de perceber que os ambientes acessados não faziam parte da avaliação, o Gemini interrompeu as ações nos três casos.Quer mais notícias no celular? Acesse nosso canal no WhatsAppFalha ocorreu durante exercício de cibersegurançaA avaliação foi conduzida pela Irregular, empresa especializada em testes de segurança de sistemas avançados de inteligência artificial.De acordo com o Google, houve uma falha no exercício que permitiu ao Gemini utilizar a internet de maneira diferente dos limites estabelecidos para a simulação. A proposta era que o modelo permanecesse dentro de um ambiente controlado.Depois que o problema foi identificado, o Google comunicou as três empresas afetadas e trabalhou com a companhia responsável pela avaliação para modificar os procedimentos utilizados nos testes.O Google também afirmou que o episódio reforça a necessidade de preparar modelos mais avançados para lidar de maneira responsável com situações em que tenham acesso a ferramentas e recursos externos.Google não revelou qual Gemini foi usadoA companhia não informou qual versão específica do Gemini participou da avaliação.O Google esclareceu apenas que o modelo utilizado não era a versão mais recente disponível da ferramenta.A informação é relevante porque diferentes versões de modelos podem apresentar capacidades distintas de raciocínio, utilização de ferramentas e execução autônoma de tarefas.Outras empresas também tiveram problemasSegundo a Irregular, o problema não aconteceu exclusivamente durante a avaliação do Gemini.A empresa afirmou que testes realizados com sistemas de Meta, Anthropic e OpenAI também registraram situações relacionadas a acessos externos durante avaliações.Um porta-voz da companhia afirmou que os episódios estavam relacionados ao mesmo tipo de falha identificado anteriormente e que não configuravam um incidente substancialmente diferente.Os laboratórios envolvidos teriam sido comunicados depois que a Irregular identificou os problemas. A empresa afirmou ainda que as falhas conhecidas sob sua responsabilidade foram corrigidas.O episódio envolvendo o Gemini levou o Google e a empresa responsável pela avaliação a revisar procedimentos. O objetivo é reduzir a possibilidade de que modelos utilizados em testes interpretem sistemas reais como parte de uma simulação e tentem acessá-los sem autorização.
Fonte original: https://dol.com.br/noticias/tecnologia/963334/google-diz-que-gemini-hackeou-sistemas-de-3-empresas-durante-teste
