IA nas escolas – A inteligência artificial já ocupa espaço na rotina de estudantes e professores. Ferramentas de IA são utilizadas para pesquisar, resumir conteúdos, compreender conceitos e preparar trabalhos. Apesar da praticidade, existe um risco que pode passar despercebido: uma resposta bem escrita e convincente pode conter informações falsas.
Esses erros são conhecidos como “alucinações” da IA. À medida que os sistemas aprimoram a capacidade de produzir textos naturais e coerentes, identificar uma informação incorreta pode se tornar ainda mais difícil.
LEIA: Brasil começa a migrar dados do SUS para servidores nacionais
Um estudo conduzido em uma escola de negócios do Reino Unido dimensionou esse desafio. Apenas 20% de 211 estudantes do segundo ano conseguiram identificar uma alucinação inserida propositalmente em uma avaliação importante.
O cenário reforça uma questão fundamental para o uso da tecnologia na educação: uma resposta bem elaborada não significa necessariamente uma resposta correta.
Fontes inexistentes
Entre as alucinações mais conhecidas estão as referências inventadas. Uma IA pode apresentar títulos de artigos inexistentes, atribuir trabalhos a autores incorretos, indicar revistas científicas que não existem e até fornecer números DOI aparentemente legítimos.
Pesquisas sobre integridade acadêmica indicam que esse comportamento aparece especialmente quando o usuário solicita informações sobre assuntos muito específicos ou pouco representados nos dados utilizados pelo modelo.
Um estudo qualitativo realizado com 63 estudantes de engenharia da Universidade Khalifa, nos Emirados Árabes Unidos, também encontrou relatos frequentes de referências inexistentes quando os alunos tentavam verificar as informações fornecidas.
A melhor forma de evitar o problema é conferir cada referência. O título deve ser pesquisado, o DOI precisa ser consultado e o trabalho deve ser confirmado em bases acadêmicas confiáveis.
Datas, estatísticas e biografias inventadas
Outro tipo de erro da IA nas escolas é a chamada fabricação factual. Nesse caso, a IA pode apresentar uma data histórica incorreta, criar uma estatística que não existe ou combinar informações verdadeiras e falsas ao construir uma biografia.
Isso acontece porque os modelos de linguagem não funcionam exatamente como bancos de dados. Eles utilizam probabilidades para produzir sequências de palavras a partir de padrões identificados durante seu treinamento.
Quando não possuem informações suficientes para responder a uma pergunta, podem produzir uma resposta plausível em vez de simplesmente admitir que não sabem.
Uma estratégia para reduzir esse risco é utilizar o método SIFT, desenvolvido por Mike Caulfield. A técnica propõe quatro etapas: parar antes de aceitar a informação, investigar a fonte, encontrar outras referências confiáveis e rastrear a afirmação até sua origem.
Explicações logicamente erradas
Nem sempre uma alucinação envolve números, datas ou referências inexistentes. Em alguns casos, o erro está na própria lógica da explicação.
A IA pode apresentar conceitos verdadeiros, utilizar termos técnicos corretamente e, ainda assim, chegar a uma conclusão equivocada.
O problema é agravado pelo chamado “efeito de fluência-verdade”. Quando uma informação é apresentada de forma clara, organizada e confiante, as pessoas tendem a considerá-la mais verdadeira.
A dificuldade aumenta quando o assunto é especializado. Um estudante que ainda está aprendendo determinado conteúdo pode não ter conhecimento suficiente para identificar uma contradição na resposta.
Nesse cenário, a leitura lateral pode ajudar. Utilizada por profissionais de verificação, a técnica consiste em consultar outras fontes independentes, comparar as informações e não permanecer restrito à resposta apresentada inicialmente pela IA.
A IA reconhece o erro, e erra novamente
Existe ainda uma situação particularmente enganosa: o usuário identifica um erro, questiona a inteligência artificial e recebe uma resposta reconhecendo a crítica, como: “Você está absolutamente correto. Peço desculpas pelo erro”.
Isso não significa necessariamente que o problema tenha sido solucionado.
Modelos de IA podem apresentar um comportamento conhecido como sycophancy, ou adulação. Nesses casos, o sistema tende a concordar excessivamente com o usuário, mesmo sem corrigir a lógica que levou ao erro inicial.
O resultado pode ser uma falsa sensação de segurança. A IA parece ter reconhecido e corrigido a falha, mas a informação problemática pode continuar presente na resposta.
Por isso, depois de apontar um possível erro, é importante solicitar uma nova explicação e verificar novamente o conteúdo em fontes independentes.
Erros em áudio e materiais educativos
Um problema menos discutido envolve ferramentas de texto para voz utilizadas para tornar materiais educativos mais acessíveis.
Sistemas de TTS podem interpretar incorretamente fórmulas, referências e determinados trechos. Também podem omitir informações ou produzir um áudio que não corresponda perfeitamente ao texto original.
A falha pode afetar especialmente estudantes com deficiência visual ou dislexia que dependem do áudio como principal forma de acesso ao conteúdo.
Uma análise publicada pela empresa ReadSpeaker em 2026 destacou justamente a importância de verificar a fidelidade desses sistemas.
Sempre que possível, materiais importantes devem ser comparados com a versão original ou conferidos por meio de outras ferramentas confiáveis.
Pensamento crítico ganha importância
A presença da inteligência artificial na educação dificilmente será revertida. Por isso, o desafio não está simplesmente em impedir que estudantes utilizem essas ferramentas, mas em ensinar como fazer isso de maneira responsável.
Métodos como SIFT, leitura lateral e consulta às fontes primárias podem se tornar componentes importantes da alfabetização digital.
Também é necessário compreender como os modelos generativos funcionam. Uma IA não deve ser tratada automaticamente como um mecanismo de busca que apenas recupera fatos armazenados.
Esses sistemas produzem respostas a partir de padrões e probabilidades. Por isso, podem apresentar uma informação falsa com a mesma confiança utilizada para apresentar uma informação verdadeira.
Nesse contexto, saber fazer boas perguntas continuará sendo importante. Mas desenvolver a capacidade de desconfiar, verificar e comparar as respostas pode ser ainda mais essencial para estudantes e professores.
Acumule cashback e transfira o dinheiro direto para sua conta!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Agora a plataforma conta com a Benefícios Rede Bee, que reúne descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
Baixe o aplicativo nas lojas App Store (iOS) e Play Store (Android) e aproveite agora!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Dentre as marcas parceiras estão Magalu, Renner, Drogasil, C&A, Casas Bahia, Petz, e outras dezenas de opções que oferecem tudo que você precisa na sua rotina!
Além de poderem aproveitar os descontos oferecidos pelas marcas parceiras, os sócios e contribuintes dos sindicatos filiados à Fenati (Federação Nacional dos Trabalhadores em Tecnologia da Informação) podem receber de volta um percentual a cada compra que realizarem em parceiros que oferecem o cashback.
Este valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados em cashback, o trabalhador pode enviar o dinheiro direto para sua conta bancária! Na prática, a ferramenta permite que sócios e contribuintes dos sindicatos filiados à Fenati ZEREM o valor da sua contribuição assistencial e/ou associativa!
Atualmente, o valor da contribuição é de R$ 32,50 por mês para sócios e R$ 35 por mês para contribuintes, ou seja, é possível recuperar todo esse valor e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar o Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
A ferramenta oferece também cursos em parceria com a Cisco Networking Academy, com CERTIFICAÇÕES GRATUITAS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da Fenati Academy é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários já podem acessar cursos, trilhas de aprendizado e obter certificações Oracle gratuitamente ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente da Bee Fenati que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Gizmodo)
(Foto: Reprodução/Magnific/Frolopiaton Palm)
