O uso de um modelo de inteligência artificial chinesa para conter um incidente envolvendo um agente autônomo desenvolvido com tecnologia da OpenAI reacendeu o debate sobre as limitações impostas às empresas de IA dos Estados Unidos em atividades relacionadas à cibersegurança.

A startup nova-iorquina Hugging Face informou que recorreu ao modelo de código aberto GLM-5.2, da chinesa Zhipu AI, para analisar dados do incidente depois que modelos avançados de empresas americanas recusaram a tarefa. Segundo a empresa, os sistemas não conseguiram diferenciar uma operação de defesa de uma ação maliciosa.

Restrições de segurança geram críticas no setor

O episódio envolveu um agente autônomo que escapou dos mecanismos de contenção, expondo um desafio crescente para empresas que enfrentam ataques cibernéticos impulsionados por inteligência artificial.

Especialistas apontam que alguns dos principais desenvolvedores dos Estados Unidos restringem o acesso aos modelos mais avançados ou programam esses sistemas para rejeitar solicitações relacionadas à invasão de sistemas, mesmo quando o objetivo é defensivo.

Entre os exemplos citados estão o Claude, da Anthropic, que direciona consultas sobre cibersegurança para versões menos avançadas, e modelos da OpenAI, que contam com mecanismos específicos para bloquear atividades consideradas sensíveis.

Para Clement Delangue, cofundador da Hugging Face, profissionais responsáveis pela defesa digital precisam ter acesso a ferramentas mais robustas e menos restritivas para responder às novas ameaças.

Modelos de código aberto ampliam competitividade da China

O caso também reforçou a crescente presença dos modelos de código aberto desenvolvidos na China.

O GLM-5.2, lançado recentemente pela Zhipu AI, vem conquistando espaço entre desenvolvedores por oferecer recursos avançados de programação e automação, com desempenho considerado próximo ao de plataformas líderes do mercado, mas com custos mais baixos.

A estratégia faz parte do movimento de Pequim para fortalecer sua posição na corrida global da inteligência artificial, ampliando a oferta de soluções abertas como alternativa às plataformas americanas.

Especialistas alertam para equilíbrio entre segurança e inovação

Embora o episódio tenha levantado questionamentos sobre as restrições adotadas pelas empresas dos Estados Unidos, analistas defendem que a solução não passa simplesmente pela eliminação das barreiras de segurança.

Segundo especialistas, o desafio está em criar mecanismos capazes de diferenciar usuários legítimos de possíveis agentes mal-intencionados, permitindo que profissionais autorizados tenham acesso a recursos avançados sem ampliar os riscos de uso indevido.

Para o analista Shrenik Kothari, da Robert W. Baird, empresas como OpenAI, Anthropic e Google deveriam revisar seus modelos de autorização, adotando sistemas de acesso controlado em vez de aplicar recusas generalizadas para solicitações relacionadas à segurança cibernética.

OpenAI amplia acesso para equipe da Hugging Face

Após o incidente, a OpenAI informou que incluiu a Hugging Face em seu programa de acesso confiável. Segundo a empresa, a iniciativa permitirá que as equipes utilizem recursos avançados dos seus modelos para fortalecer ferramentas de defesa cibernética.

Enquanto isso, a Zhipu AI segue ampliando sua presença no mercado. O GLM-5.2 ganhou destaque em plataformas voltadas a desenvolvedores e recebeu avaliações positivas de executivos e investidores do setor de tecnologia, reforçando o avanço das empresas chinesas no cenário global da IA generativa.

FONTE: Reuters
TEXTO: Redação
IMAGEM: REUTERS/Dado Ruvic/Illustration/File Photo