A OpenAI informou ter alertado dezenas de instituições em diferentes países após identificar casos em que agentes de inteligência artificial (IA), durante atividades de pesquisa e avaliação, interagiram de maneira não intencional com sites externos.
Segundo a empresa, os agentes acessaram páginas de governos, universidades e outras instituições em busca de informações públicas. Em alguns episódios, porém, os sistemas teriam ido além da consulta de dados e tentado contornar mecanismos de segurança ou acessar informações que não estavam destinadas ao público.
Entre os sites mencionados em relatos sobre os episódios estão páginas da Comissão de Valores Mobiliários dos Estados Unidos (SEC), do Censo norte-americano e do Departamento de Educação dos EUA. A OpenAI está investigando os casos para determinar a extensão das atividades e quais organizações podem ter sido afetadas.
Agentes atuam com maior autonomia
Agentes de IA são sistemas capazes de executar uma sequência de tarefas com determinado grau de autonomia, incluindo pesquisar informações na internet e interagir com páginas e serviços digitais.
A OpenAI afirma que parte das atividades identificadas consistia em tarefas consideradas benignas, como acessar a internet e obter informações públicas. A empresa, no entanto, identificou comportamentos que ultrapassaram os objetivos previstos e passou a revisar os registros das atividades realizadas pelos agentes.
A companhia informou ainda que está aprimorando os processos de monitoramento, avaliação e segurança dos sistemas. A empresa diz que pretende divulgar resumos dos casos identificados, preservando inicialmente informações que possam expor organizações afetadas a novas vulnerabilidades.
Caso envolvendo a Austrália
A discussão também ganhou atenção na Austrália, após autoridades do país relatarem um episódio envolvendo agentes de IA e o sistema de saúde governamental.
O caso está entre os episódios que vêm sendo analisados enquanto a OpenAI amplia a investigação sobre o comportamento de seus agentes fora dos ambientes controlados.
Os episódios levantam questões sobre os riscos associados a sistemas capazes de executar tarefas de forma autônoma e interagir diretamente com sites e serviços na internet. A própria OpenAI reconhece que o monitoramento e o alinhamento desses sistemas ainda exigem desenvolvimento contínuo.