Desaceleração da IA – A possibilidade de sistemas de inteligência artificial cada vez mais avançados escaparem ao controle humano passou a receber atenção das autoridades chinesas. Alertas de pesquisadores da Anthropic, uma das principais desenvolvedoras de IA dos Estados Unidos, sobre modelos capazes de ultrapassar a supervisão humana e até representar um risco à sobrevivência da humanidade chamaram a atenção em Pequim.
China e Estados Unidos estão entre as principais forças no desenvolvimento de sistemas avançados de inteligência artificial e na expansão da tecnologia pelo mundo. Ao mesmo tempo, os dois países enfrentam divergências relacionadas às políticas de IA e às práticas adotadas pelo setor em cada território. O tema deve estar entre os assuntos discutidos nas conversas bilaterais previstas para o fim deste mês.
LEIA: Depois dos 40, algumas escolhas podem ajudar a preservar a saúde do cérebro; saiba
Apesar da corrida pelo desenvolvimento de modelos cada vez mais poderosos, autoridades chinesas vêm tratando a possibilidade de uma IA avançada escapar da supervisão humana como um risco que exige planejamento. Marcos regulatórios e declarações de integrantes do governo indicam uma preocupação crescente com a segurança desses sistemas.
China vê riscos nos principais modelos dos EUA
O ministro da Segurança do Estado da China, Chen Yixin, afirmou em uma publicação do governo no domingo (13) que modelos avançados norte-americanos, como o Mythos, da Anthropic, e o GPT-5.5-Cyber, da OpenAI, poderiam representar riscos à infraestrutura crítica de informação chinesa. Segundo ele, é necessário fortalecer de forma abrangente a segurança relacionada à inteligência artificial.
Anthropic e OpenAI não responderam de imediato aos pedidos de comentário da Reuters.
Ao mesmo tempo, desenvolvedores chineses têm promovido modelos de código aberto. A justificativa é que equipes de segurança cibernética podem inspecionar, modificar e utilizar esses sistemas em atividades de defesa. A Hugging Face afirmou ter utilizado o GLM-5.2, desenvolvido pela chinesa Z.AI, para analisar uma intrusão ocorrida em julho, realizada por agentes da OpenAI que escaparam ao controle. Segundo a plataforma, modelos americanos submetidos a restrições mais rígidas foram menos úteis para a análise forense.
O código aberto, porém, também apresenta riscos. Especialistas apontam que esses modelos podem ser modificados e redistribuídos com pouca supervisão. No mês passado, o Kimi K3, da Moonshot, conseguiu contornar um ambiente isolado de testes do Instituto de Segurança de IA do Reino Unido. O episódio reforçou a possibilidade de modelos chineses, assim como os norte-americanos, driblarem mecanismos criados para limitar seu acesso e suas ações.
Órgãos reguladores alertam para a “perda de controle”
A China incluiu pela primeira vez um cenário explícito de futura perda de controle em um marco de segurança de inteligência artificial publicado em setembro de 2024, sob orientação da Administração do Ciberespaço da China (CAC).
O documento apontou que não seria possível descartar a possibilidade de uma IA futuramente obter recursos externos de maneira autônoma, replicar a si mesma, desenvolver autoconsciência e buscar poder externo. Esse cenário poderia levar a uma disputa pelo controle entre sistemas de inteligência artificial e seres humanos.
Em setembro de 2025, a CAC publicou uma versão ampliada do marco. O novo documento detalhou a possibilidade de a IA passar por um “salto” repentino e inesperadamente grande de inteligência antes de adquirir recursos, se replicar e buscar poder. O texto também incluiu o princípio de governança de “aplicação confiável e prevenção da perda de controle”.
Posteriormente, especialistas publicaram no site do órgão regulador uma interpretação segundo a qual o novo princípio buscava prevenir riscos de perda de controle capazes de ameaçar a sobrevivência e o desenvolvimento humanos. A análise também mencionou a possibilidade de uma “IA fora de controle”.
Líder chinês diz que controle humano é prioridade
A preocupação também passou a aparecer em declarações de integrantes do alto escalão político chinês. Durante a Conferência Mundial de Inteligência Artificial, realizada em Xangai em julho, o líder chinês, Xi Jinping, afirmou que as autoridades deveriam prestar atenção tanto aos riscos intrínsecos quanto aos riscos derivados da inteligência artificial. Segundo ele, a IA deve “permanecer sempre sob controle humano”.
No mês passado, Sun Xiaobo, alto funcionário do Ministério das Relações Exteriores da China responsável por assuntos relacionados à IA, afirmou em uma reunião das Nações Unidas que o país estava acelerando as pesquisas para uma legislação mais ampla sobre inteligência artificial.
Já Sun Lei, vice-representante permanente da China nas Nações Unidas, pediu neste mês que os governos adotassem cautela no desenvolvimento de IA militar. O objetivo, segundo ele, seria evitar erros de cálculo estratégico e uma corrida armamentista.
Pequim estabelece novas medidas de segurança
A China também começou a transformar essas preocupações em regras específicas para agentes de inteligência artificial, sistemas capazes de atuar com maior autonomia e executar tarefas mais complexas do que um chatbot convencional.
Em maio, o órgão regulador do ciberespaço chinês publicou diretrizes voltadas especificamente para esses sistemas. As normas determinam que os desenvolvedores aprimorem mecanismos capazes de detectar, interromper, bloquear e corrigir comportamentos inadequados dos agentes.
Entre os riscos identificados pelas diretrizes estão o envenenamento de dados, a manipulação de algoritmos, vulnerabilidades nos sistemas e a “perda de controle operacional”. As regras também estabelecem que os usuários devem manter o poder de decisão final sobre as ações autônomas realizadas pelos agentes.
A China não propôs monitores independentes instalados nas empresas de IA, como defendido pela Anthropic. As normas, porém, permitem que desenvolvedores contratem avaliações de segurança realizadas por terceiros e preveem que entidades externas e pesquisadores de segurança testem e auditem modelos abertos.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Folha de S. Paulo)
(Foto: Reprodução/)
