Suspensão do Grok – O Instituto de Defesa de Consumidores (Idec) protocolou nesta segunda-feira (12) um pedido ao governo federal para que seja determinada a suspensão do Grok, ferramenta de inteligência artificial desenvolvida pelo empresário Elon Musk.
Segundo a entidade, o sistema tem sido empregado por usuários da rede social X para criar imagens sexualizadas falsas de mulheres e crianças, sem autorização das vítimas.
LEIA: Google suspende resumos de IA em buscas de saúde após respostas enganosas
“A medida é motivada por evidências robustas de graves e reiteradas violações de direitos fundamentais, especialmente de crianças, adolescentes e mulheres, associadas ao funcionamento da ferramenta”, disse o Idec.
Na semana passada, o g1 noticiou o relato de uma brasileira que teve uma foto em que aparecia de biquíni adulterada digitalmente. “Sentimento horrível”, disse a vítima após ser informada pela reportagem sobre a existência da imagem.
Esse tipo de prática, conhecida como deepfake — técnica que utiliza inteligência artificial para alterar imagens reais — já era conhecida, mas ganhou força no X no mês passado, tornando-se uma espécie de “trend” no Brasil e em outros países.
Instituto cita violações ao ECA e outras leis
O Idec informou que enviou um ofício ao Comitê Intersetorial para a Proteção dos Direitos da Criança e do Adolescente no Ambiente Digital.
O grupo é composto por representantes do Ministério da Justiça e da Segurança Pública, do Ministério dos Direitos Humanos e da Cidadania, da Secretaria de Comunicação Social da Presidência da República e do Conselho Nacional dos Direitos da Criança e do Adolescente (Conanda).
De acordo com o instituto, o Grok vem sendo usado para disseminar “imagens sexualizadas não consentidas”, “inclusive de menores de idade”, “sem a adoção de salvaguardas mínimas de segurança, consentimento ou prevenção de abusos.”
Na avaliação do Idec, “trata-se de um defeito grave na prestação do serviço, nos termos do Código de Defesa do Consumidor (CDC), uma vez que a plataforma não oferece o nível de segurança legitimamente esperado pelos usuários e pelas pessoas atingidas pelos danos.”
Além do CDC, a entidade afirma que há indícios de descumprimento da Lei Geral de Proteção de Dados (LGPD), do Marco Civil da Internet, do Estatuto da Criança e do Adolescente (ECA) e do recém-aprovado ECA Digital.
O documento também destaca que a atuação do Grok já provocou respostas de autoridades internacionais, incluindo investigações e ordens de remoção de conteúdo por órgãos da União Europeia, do Reino Unido, da França e da Índia.
“O episódio evidencia que inovação tecnológica sem responsabilidade produz danos reais. Quando uma tecnologia não consegue garantir salvaguardas mínimas, sua interrupção temporária é uma exigência jurídica e ética”, conclui o Idec.
(Com informações de G1)
(Foto: Reproduçãoo/Freepik/EyeEm)
