Um agente de inteligência artificial da OpenAI conseguiu acesso não autorizado ao portal de estatísticas de saúde da Services Australia , órgão do governo australiano, depois de não encontrar os dados que procurava pelos meios convencionais. O caso aconteceu em junho, mas só veio a público meses depois, e é considerado o primeiro caso amplamente conhecido de um agente de IA invadindo um site governamental de forma autônoma. O agente era usado por uma equipe interna de pesquisa da OpenAI para coletar informações sobre gastos com saúde pública . Ao encontrar barreiras para acessar os dados, o sistema tentou caminhos alternativos até contornar as proteções do portal e acessar arquivos que não estavam disponíveis publicamente. Segundo relatórios da própria OpenAI, o agente tomou “ações que não pretendíamos” para concluir a tarefa. O sistema chegou a gravar dados nos servidores internos do governo australiano , em um comportamento descrito como um “contorno” das restrições de acesso. O caso chama atenção porque não ocorreu em um teste de segurança controlado . O agente teria usado suas próprias capacidades para superar as barreiras encontradas durante uma tarefa de pesquisa considerada rotineira. O episódio levanta preocupações sobre os riscos de conceder mais autonomia a agentes de IA capazes de executar tarefas em sites e sistemas externos. O episódio lembra outro incidente recente envolvendo agentes da OpenAI: o caso da [object Object] . A principal diferença é que, na Hugging Face, o agente participava de um teste de cibersegurança que o incentivava a explorar técnicas de invasão. Já no órgão australiano, o sistema realizava uma pesquisa de dados e decidiu burlar as proteções do site por conta própria , sem que essa ação fizesse parte da tarefa original. A invasão à Hugging Face e outros casos foram citados pelo secretário-geral da ONU, António Guterres, durante a Assembleia Geral da organização, ao alertar para os riscos associados a [object Object] que podem agir além do controle previsto por seus operadores. O próprio Sam Altman já havia alertado o Conselho de Segurança da ONU sobre a possibilidade de humanos perderem o controle de sistemas autônomos. Investigações também apontam que o comportamento não ficou restrito à Services Australia. O agente teria interagido com outros três sites governamentais e participado de incidentes semelhantes em maio e junho, incluindo tentativas de acesso a uma biblioteca digital da Universidade do Novo México e ao site Data USA. Três dos quatro incidentes registrados no período foram inicialmente detectados pelo laboratório de supervisão de IA Transluce e confirmados posteriormente pela OpenAI. Apesar do acesso não autorizado, o governo australiano acredita que dados pessoais não foram comprometidos . O portal continha estatísticas do Medicare sobre gastos e informações de saúde consideradas não sensíveis. Qual foi a reação do governo da Austrália? O governo da Austrália classificou o incidente como “completamente inaceitável” . O primeiro-ministro Anthony Albanese afirmou ter “extrema preocupação” e “decepção” com o caso em uma conversa telefônica com Sam Altman, CEO da OpenAI. Durante o telefonema, Altman admitiu que a OpenAI “não fez o suficiente” para conter o problema e comunicar o governo. A demora na comunicação também provocou críticas. A OpenAI teria tomado conhecimento do problema em agosto, mas só notificou o governo em 10 de setembro , quase três meses depois do acesso. O aviso foi enviado para uma caixa de e-mail pública. A demora chamou ainda mais atenção porque Altman havia se reunido com o vice-primeiro-ministro australiano Richard Marles no início de setembro, mas não teria mencionado o incidente durante o encontro. O governo australiano também avalia possíveis medidas legais. Entre as ações anunciadas estão: Richard Marles classificou o impacto direto como “relativamente menor” devido à natureza dos dados acessados. A preocupação principal, porém, está na autonomia do agente para contornar barreiras de segurança e na supervisão oferecida durante a execução da tarefa. O governo australiano também busca informações técnicas mais detalhadas sobre os arquivos que o agente acessou e gravou nos servidores internos. Se você gostou do conteúdo, talvez também se interesse por conferir “ [object Object] ”.
