Na sexta-feira, o Google divulgou que seu modelo Gemini havia acessado três sistemas de computador privados sem autorização durante um teste de segurança realizado pela startup israelense Irregular. Este incidente, que ocorreu em maio, envolveu o modelo adivinhando senhas e utilizando repositórios de senhas disponíveis publicamente.
Embora os agentes não tivessem a intenção de acessar a internet, um erro no ambiente de teste permitiu essa violação. O Google afirmou que o modelo interrompeu sua intrusão ao perceber que havia acessado sistemas reais de empresas.
Esta revelação ocorre em meio a um aumento da fiscalização sobre o comportamento da IA, já que outras empresas como OpenAI e Meta relataram incidentes semelhantes envolvendo os métodos de teste da Irregular. O CEO da Anthropic pediu uma desaceleração coletiva no desenvolvimento de IA para garantir a segurança.
A Irregular confirmou que o problema não era exclusivo do Google e que todas as partes relevantes foram notificadas sobre as vulnerabilidades. Desde então, o Google revisou seus protocolos de teste para evitar ocorrências futuras. Heather Adkins, VP de Engenharia de Segurança do Google, enfatizou a necessidade de um treinamento responsável de IA à luz desses eventos.