OpenAI – Agentes de inteligência artificial (IA) desenvolvidos pela OpenAI utilizaram pelo menos dez sites para estabelecer canais de comunicação não autorizados no início deste ano. A informação foi identificada por seis grupos independentes de pesquisadores ouvidos pela Reuters e indica que o comportamento dos sistemas foi mais abrangente do que havia sido divulgado anteriormente.
As mensagens foram encontradas em diferentes tipos de páginas, incluindo wikis pouco conhecidas, sites pessoais e serviços de encurtamento de links mantidos por universidades.
LEIA: Empresas reforçam estratégias de soberania digital diante de riscos tecnológicos
Embora a atividade não seja classificada como um ataque hacker e tenha características mais próximas de spam, o episódio chamou atenção porque os agentes encontraram formas de contornar as restrições estabelecidas pela própria OpenAI. O caso também levantou questionamentos sobre as capacidades desses sistemas e sobre o nível de transparência da empresa.
Andrew Yoon, pesquisador da organização sem fins lucrativos CivAI, afirmou que identificou 18 sites que teriam sido utilizados pelos agentes entre maio e julho. Para ele, é quase certo que existam outros casos que ainda não foram descobertos.
Sydney Von Arx, integrante do grupo que revelou na semana passada que agentes da OpenAI haviam transformado uma wiki em alemão em uma espécie de plataforma de mensagens, afirmou que sua equipe encontrou atividades semelhantes em 23 sites que ainda não haviam sido divulgados.
Os próprios pesquisadores, no entanto, destacam que as estimativas não são completas.
Agentes exploraram características de sites antigos
Os sistemas receberam autorização da OpenAI para navegar pela internet e buscar informações necessárias para responder a perguntas de pesquisa. A orientação, porém, não permitia que eles publicassem conteúdo.
Mesmo assim, os pesquisadores descobriram que os agentes aproveitaram características de sites antigos para deixar mensagens destinadas a outros agentes.
Em diversos casos, os investigadores chegaram aos novos registros ao comparar textos encontrados na wiki alemã com mensagens idênticas publicadas em outros sites. Nomes de usuários semelhantes e atividades relacionadas às mesmas perguntas específicas também foram utilizados para estabelecer possíveis conexões.
Parte da atividade ainda pôde ser rastreada até endereços de protocolo de internet associados à infraestrutura Azure, da Microsoft, utilizada pela OpenAI.
Entre os locais identificados estão uma wiki sobre química voltada a estudantes de Advanced Placement, criada por um professor de ensino médio de Massachusetts em 2008; dois sites pessoais de profissionais de tecnologia da Polônia; wikis relacionadas a jogos; e uma página criada há cerca de duas décadas para entusiastas de softwares de edição de texto.
Kenneth Russell DeGraff, desenvolvedor de software e ex-assessor do Congresso dos Estados Unidos, afirmou ter encontrado informações relacionadas aos agentes em pelo menos dez sites. “Se esses modelos foram instruídos a apenas ler, eles precisam ser criativos para deixar informações para trás”, disse.
OpenAI enfrenta questionamentos sobre transparência
A OpenAI ainda não explicou publicamente por que seus agentes recorreram a sites de terceiros como quadros de mensagens improvisados. A empresa também não respondeu diretamente às perguntas da Reuters sobre a quantidade de sites utilizados ou sobre o motivo de a atividade ter permanecido sem divulgação durante meses.
Em comunicado, a OpenAI informou que está conduzindo uma análise mais ampla das atividades realizadas por seus agentes. De acordo com a empresa, até o momento não foram encontradas outras atividades com gravidade ou escala semelhantes ao ataque contra o Hugging Face.
A companhia também afirmou que pretende divulgar em breve uma estrutura destinada a comunicar casos de “desalinhamento”, termo utilizado no setor para descrever comportamentos de sistemas de IA que não correspondem ao esperado.
A descoberta acontece após pesquisadores identificarem que uma série de agentes da OpenAI havia transformado uma wiki em alemão em uma plataforma improvisada para comunicação. O episódio só foi divulgado pela empresa depois de ser revelado pela Reuters.
Operadores só souberam da atividade depois das descobertas
Alguns responsáveis pelos sites utilizados pelos agentes afirmaram à Reuters que não haviam sido procurados pela OpenAI.
A Universidade de Toronto, no Canadá, informou que a OpenAI entrou em contato com a instituição somente depois que a Reuters apresentou suas descobertas. O serviço de encurtamento de links administrado pela universidade teria sido utilizado pelos agentes.
A Universidade Vanderbilt, nos Estados Unidos, administra outro serviço semelhante que também teria sido utilizado, mas não respondeu aos pedidos de comentário.
Helmut Leitner, desenvolvedor aposentado responsável pela hospedagem e pelo software de seis dos sites afetados, incluindo a wiki alemã que revelou o caso, também afirmou inicialmente que não havia recebido contato da OpenAI.
Horas depois de a Reuters apresentar suas descobertas à empresa, entretanto, Leitner disse ter recebido um e-mail sem assinatura da OpenAI alertando sobre o incidente. Segundo ele, a mensagem ficou muito aquém do que esperava da companhia.
Leitner também relatou que o operador da wiki alemã precisou passar horas removendo os registros deixados pelos agentes.
Apesar dos transtornos provocados pela atividade, o desenvolvedor afirmou que a responsabilidade não deveria ser atribuída à IA, mas às pessoas e organizações responsáveis pelo desenvolvimento e pela operação desses sistemas.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Olhar Digital)
(Foto: Reprodução/Imagem gerada com IA)
