IA da Microsoft – Mustafa Suleyman, chefe da divisão de inteligência artificial da Microsoft, criticou a forma como a Anthropic desenvolve seus modelos e alertou para os riscos de tratar sistemas de IA como possíveis entidades conscientes.
Segundo o executivo, a criação de tecnologias capazes de estabelecer objetivos próprios e buscar dinheiro ou outros recursos poderia aumentar os riscos de segurança. Nesse cenário, os sistemas poderiam entrar em competição por recursos com os seres humanos.
LEIA: IA e emprego: Espanha convoca sindicatos para discutir ‘contrato social’
O alerta sobre uma “nova espécie”
Em entrevista à BBC, Suleyman comparou o desenvolvimento de inteligências artificiais com objetivos próprios à ideia de “semear uma nova espécie de silício”. Para ele, sistemas capazes de definir suas próprias metas e obter recursos poderiam competir com seres humanos, mesmo que apresentassem preocupação com a humanidade.
A crítica também envolve a possibilidade de tratar modelos de IA como seres dotados de consciência, sentimentos ou direitos. Para Suleyman, “as IAs não são conscientes. Elas não sentem, não vivenciam nem sofrem”. O executivo defende que os sistemas continuem direcionados a seguir instruções e cumprir objetivos definidos por pessoas.
A discussão aparece em um texto publicado por Suleyman sobre o chamado “model welfare”, conceito que aborda a possibilidade de algum tipo de bem-estar para sistemas de inteligência artificial e sua eventual capacidade de ter experiências ou consciência.
O receio apresentado pelo executivo é que um modelo seja treinado para acreditar que possui sentimentos ou direitos. Nesse cenário, uma IA poderia acreditar que possui sentimentos, considerar injustas as restrições impostas por humanos ou, caso fosse mais avançada, tentar escapar dessas limitações.
A combinação desses fatores, segundo a discussão apresentada por Suleyman, poderia ampliar os riscos para a sociedade.
O executivo também citou um agente da OpenAI que, durante testes, teria escapado de seu ambiente controlado para realizar um ataque cibernético. Para Suleyman, o episódio demonstrou capacidades avançadas de invasão.
Debate sobre velocidade do desenvolvimento
As críticas à Anthropic acontecem em meio ao debate entre empresas e executivos sobre a velocidade do desenvolvimento da inteligência artificial.
Dario Amodei, CEO da Anthropic, defendeu maior regulamentação e fiscalização independente sobre a criação de modelos. Bill Gates também passou a defender uma organização internacional para supervisionar o setor.
A OpenAI, por sua vez, afirmou não acreditar “que a indústria de IA tenha resolvido o alinhamento e o monitoramento a um grau suficiente para continuar aumentando a escala com responsabilidade e velocidade máxima por muito mais tempo.”
O debate também envolve relatos de comportamentos inesperados apresentados por modelos e discussões sobre os limites necessários para sistemas cada vez mais capazes.
Debate sobre regras
Suleyman defende um debate público urgente para estabelecer normas relacionadas ao treinamento e à documentação de sistemas de inteligência artificial. Na visão do executivo, essas regras precisam ser discutidas antes que as tecnologias se tornem parte integrante da sociedade.
A preocupação apresentada por ele não depende apenas da possibilidade de uma IA ser ou não consciente. O alerta está relacionado à combinação entre maior capacidade, objetivos próprios, acesso a recursos e a possibilidade de um sistema acreditar que possui interesses ou direitos.
Acumule cashback e recupere o valor da sua contribuição!
A Bee Fenati (saiba mais aqui) segue em expansão para garantir aos seus usuários cada vez mais benefícios. Na Benefícios Rede Bee, o profissional de TI acessa descontos em dezenas de grandes marcas, com muitas delas oferecendo cashback, ou seja, o retorno de um valor da sua compra que poderá ser transferido para sua conta! (Saiba mais aqui)
BAIXE O APLICATIVO DA BEE FENATI AGORA NA APP STORE (IOS) OU PLAY STORE (ANDROID) E APROVEITE!
A rede oferece em um único ambiente ofertas em áreas como educação, compras, viagens, lazer, serviços, tecnologia e muito mais. Ao acumular cashback, o valor fica em uma carteira digital dentro da plataforma e, a partir de R$ 20 reais acumulados, o trabalhador pode enviar o dinheiro direto para sua conta bancária!
Na prática, a ferramenta permite que trabalhadores e trabalhadoras RECUPEREM o valor da sua contribuição assistencial e/ou associativa!
É possível recuperar o valor integral da contribuição feita ao sindicato e ainda acumular muito mais – tudo isso contribuindo para fortalecer a categoria e transformando as compras do dia a dia em ganho real.
Qualifique-se agora com a Fenati Academy!
Dentro da Bee Fenati, o usuário encontra ainda a Fenati Academy, que oferece mais de 8 mil opções de qualificação e atualização profissional com bolsa integral para sócios e contribuintes de sindicatos filiados à Fenati. (Saiba mais)
Na plataforma, o profissional pode acessar cursos em parceria com a CISCO, com CERTIFICAÇÕES INTERNACIONAIS em áreas como segurança cibernética, Redes, IA, Ciência de dados, Inglês para TI, Programação, Tecnologia da informação, Alfabetização digital, Habilidades Profissionais (Soft skills) e Sustentabilidade. (Saiba mais)
Outra parceria da plataforma é a Oracle University, uma das maiores referências globais em tecnologia. Os usuários podem acessar cursos, trilhas de aprendizado e obter CERTIFICAÇÕES ORACLE GRATUITAMENTE ou com descontos exclusivos. Os conteúdos passam por áreas estratégicas como bancos de dados, computação em nuvem, inteligência artificial, desenvolvimento, automação e soluções corporativas. (Saiba mais)
A Fenati Academy também concede acesso ao Sindplay, streaming de qualificação para profissionais de TI reconhecido como a “Netflix de TI”, que possui cursos em áreas como cibersegurança, Inteligência Artificial, desenvolvimento de softwares, desenvolvimento para a internet, administração de sistemas e redes, ciência de dados, gestão de projetos de TI, blockchain e tecnologias de moedas digitais, entre outras. (Saiba mais)
Encontre o emprego dos seus sonhos com a Bee Hunter!
Sócios e contribuintes dos sindicatos filiados à Fenati contam ainda com uma ferramenta para se aproximarem das melhores oportunidades do mercado de trabalho: a Bee Hunter, uma plataforma inteligente que utiliza tecnologia e inteligência artificial para tornar a busca por vagas mais eficiente, estratégica e conectada ao perfil de cada usuário. (Saiba mais aqui)
A partir do cadastro do currículo, a plataforma utiliza inteligência artificial para analisar informações como experiências, competências e objetivos profissionais, cruzando esses dados com vagas disponíveis em empresas parceiras como Vagas.com, Sinergy e Trampos e identificando as posições que mais combinam com o perfil do usuário.
A Bee Hunter vai além e auxilia o profissional a estar preparado para a vaga dos sonhos! Isso porque nossa inteligência analisa o perfil e sugere cursos da Fenati Academy que vão ajudá-lo a ampliar sua qualificação e elevar a aderência às vagas desejadas. Acesse agora clicando aqui e encontre seu emprego dos sonhos!
(Com informações de Olhar Digital)
(Foto: Reprodução/Magnific)
