Por Gaby Santana
Pesquisadores e especialistas em segurança de inteligência artificial têm manifestado preocupação com o avanço de sistemas cada vez mais autônomos e com os possíveis riscos do desenvolvimento da chamada superinteligência.
Um dos casos mais recentes envolve Jacob Coxon, pesquisador de 27 anos que deixou a Anthropic, empresa responsável pelo desenvolvimento do Claude. Segundo ele, grandes laboratórios de inteligência artificial, incluindo Anthropic e OpenAI, estão acelerando uma corrida pelo desenvolvimento de sistemas capazes de se aperfeiçoar com menor participação humana.
Coxon afirmou que os riscos dessa corrida tecnológica precisam ser discutidos de forma mais transparente. A saída dele se soma a outros casos de pesquisadores que deixaram empresas do setor citando preocupações relacionadas à segurança da inteligência artificial.
Entre eles está Jan Leike, ex-chefe de segurança da OpenAI, que deixou a empresa em 2024. Também está Daniel Kokotajlo, ex-pesquisador de governança da companhia, que abriu mão de uma participação financeira para poder falar publicamente sobre suas preocupações.
Dentro da própria Anthropic, o pesquisador Evan Hubinger também já alertou para os desafios relacionados à superinteligência. Segundo ele, ainda não existe um planejamento suficientemente claro para lidar com esses riscos.
O debate acontece enquanto empresas de tecnologia avançam no desenvolvimento de sistemas cada vez mais sofisticados. Ao mesmo tempo, autoridades e pesquisadores discutem a necessidade de estabelecer regras para garantir que o avanço da inteligência artificial ocorra com mecanismos de segurança e supervisão humana.
Fonte: The news