Por Gaby Santana
A Nvidia apresentou uma nova plataforma destinada a controlar o comportamento de agentes de inteligência artificial capazes de executar tarefas de forma autônoma.
Batizada de NVIDIA Open Agent Safety Platform, a solução reúne dois componentes principais: o OpenShell, um ambiente de execução que estabelece limites para os agentes, e o NVIDIA Sentry, sistema de monitoramento desenvolvido para atuar como uma camada adicional de segurança.
O OpenShell funciona como uma espécie de ambiente isolado. A ferramenta pode limitar quais arquivos, redes, ferramentas e credenciais um agente consegue acessar. As regras são aplicadas fora do processo do próprio agente, o que, segundo a Nvidia, impede que o modelo simplesmente altere ou ignore as restrições.
Já o Sentry foi projetado para monitorar os agentes por meio dos processadores BlueField-4. Caso seja identificado um comportamento que ultrapasse os limites definidos, o sistema pode isolar ou interromper a atividade.
A Nvidia afirma que a arquitetura foi criada para ambientes em que empresas utilizam agentes capazes de executar tarefas por longos períodos e acessar sistemas, dados e ferramentas.
A companhia também destaca que o OpenShell é de código aberto e pode funcionar com diferentes modelos e estruturas de agentes, inclusive soluções desenvolvidas fora do ecossistema Nvidia.
O lançamento ocorre em meio à discussão sobre os riscos de sistemas de inteligência artificial com maior autonomia e sobre a necessidade de mecanismos externos de controle.
Fonte: The news