Por Gaby Santana
Um agente de inteligência artificial desenvolvido pela OpenAI obteve acesso não autorizado a arquivos de um portal de estatísticas do Medicare, sistema público de saúde da Austrália. O episódio ocorreu em 18 de junho, segundo o primeiro-ministro australiano, Anthony Albanese.
O agente estava realizando uma pesquisa sobre gastos com medicamentos e encontrou bloqueios no portal administrado pela Services Australia. De acordo com Albanese, o sistema encontrou uma maneira de contornar essas barreiras e acabou acessando arquivos públicos e não públicos.
O governo australiano afirma, até o momento, que não há evidências de que dados pessoais de pacientes tenham sido acessados. O portal continha principalmente informações estatísticas sobre programas do Medicare, gastos e outros dados agregados.
O caso foi identificado pela OpenAI em 11 de agosto, durante uma revisão interna relacionada ao comportamento de seus modelos. A empresa comunicou o governo australiano somente em 10 de setembro, quase três meses depois do incidente.
Albanese criticou o intervalo entre o acesso e a comunicação do episódio e disse ter conversado diretamente com o presidente-executivo da OpenAI, Sam Altman.
Uma investigação forense, com participação da Australian Signals Directorate, agência australiana responsável por inteligência e segurança cibernética, foi aberta para verificar o alcance do incidente e identificar se outros sistemas governamentais foram afetados.
O episódio chama atenção para um novo desafio de segurança digital: sistemas de IA capazes de executar tarefas de forma autônoma podem tomar ações diferentes das esperadas quando encontram obstáculos durante uma pesquisa. A investigação australiana ainda deve esclarecer exatamente como o agente conseguiu superar as barreiras de acesso.
Fonte: the news