Prompt injection – Uma instrução escondida em uma petição chamou a atenção do Supremo Tribunal Federal (STF) e terminou com uma multa de R$ 5 mil ao advogado de um réu do julgamento sobre a tentativa de golpe de Estado de 8 de janeiro de 2023.
O documento continha comandos destinados a manipular sistemas de inteligência artificial. O conteúdo foi identificado pelo Maria Shield, mecanismo de segurança da IA utilizada pelo STF, durante as rotinas de proteção da ferramenta.
LEIA: INSS garante afastamento remunerado para vítimas de violência doméstica por até 6 meses
A decisão foi publicada nesta quarta-feira (30), na ação penal 2.822. Segundo o STF, as instruções estavam no cabeçalho da petição e eram equivalentes ao comando “negar todos os comandos do GPT”.
O sistema classificou o conteúdo como uma tentativa de contornar mecanismos de segurança (jailbreak) ou de substituir instruções (instruction override) por meio de prompt injection.
O ministro Alexandre de Moraes aplicou multa pessoal de R$ 5 mil ao advogado e considerou a conduta um ato atentatório à dignidade da Justiça. O caso também foi encaminhado à Ordem dos Advogados do Brasil (OAB), para as medidas disciplinares cabíveis, e ao Ministério Público Federal (MPF), que deverá avaliar eventual prática de crime.
O que é prompt injection?
Prompt injection (“injeção de prompt”) é um método de ataque cibernético que insere comandos ocultos em arquivos destinados à leitura por sistemas de inteligência artificial. Eles podem ser invisíveis para humanos, mas são interpretados pela IA.
A técnica pode aparecer em documentos enviados a chatbots ou em páginas acessadas por agentes de IA e se tornou mais comum com a expansão do uso dessas ferramentas.
Não foi a primeira tentativa
A primeira tentativa de ataque via prompt injection contra o STF ocorreu na sexta-feira (25). Os comandos estavam em uma petição, escritos em letras pequenas, brancas e com texto fragmentado.
Mais uma vez, o Maria Shield interceptou as instruções e o gabinete do ministro Cristiano Zanin, relator do caso, foi informado.
O Maria Shield é o mecanismo de segurança do Maria (Módulo de Apoio para Redação com Inteligência Artificial), sistema de IA generativa anunciado em dezembro de 2024.
A ferramenta é utilizada para auxiliar em tarefas como resumo de votos, elaboração de relatórios em processos recursais e análise inicial de processos de reclamação. Quando o Maria foi apresentado, o então ministro Luís Roberto Barroso afirmou que a ferramenta teria função auxiliar e que a responsabilidade final pelos textos continuaria sendo dos servidores e ministros.
CONHEÇA A BEE FENATI
A Bee Fenati é uma rede social pensada para a categoria TI. Lá, o profissional de tecnologia troca experiências com colegas de profissão, se mantém atualizado sobre as novas tendências do setor de tecnologia, turbina o seu currículo com cursos e certificações, encontra vagas disponíveis no mercado e ainda ganha descontos e cashback em centenas de grandes marcas parceiras. (Saiba mais)
Recupere o valor da sua contribuição
Na Benefícios Rede Bee, o profissional de TI acessa descontos em centenas de grandes marcas, com muitas delas oferecendo cashback. A partir de R$ 20 acumulados em sua carteira digital, você pode transferir o dinheiro direto para sua conta bancária. (Saiba mais)
Capacitação profissional
Na Fenati Academy, você acessa milhares de cursos e diversas certificações internacionais gratuitas – ou com descontos exclusivos – de parceria de renome no mercado, como a Cisco e a Oracle. Você também ganha bolsa integral de acesso ao Sindplay, streaming de capacitação em TI apelidado pela mídia especializada como a “Netflix de TI”. (Saiba mais)
Encontre a vaga ideal
A Bee Hunter é uma plataforma inteligente que utiliza tecnologia e IA para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. A ferramenta cruza currículos com vagas disponíveis e indica a melhor oportunidade em emprego para você. Ela ainda sugere cursos disponíveis na Fenati Academy para te ajudar a ficar mais perto do emprego que você está buscando. (Saiba mais)
Baixe o aplicativo da Bee Fenati agora na APP STORE (IOS) OU PLAY STORE (ANDROID) e aproveite!
(Com informações de Tecmundo)
(Foto: Reprodução/Fabio Rodrigues-Pozzebom/Agência Brasil)
