IA já ajuda a criar sua própria sucessora — e isso acende novo alerta entre pesquisadores

A inteligência artificial entrou em uma nova fase: além de responder perguntas, escrever códigos e analisar informações, já começa a participar do desenvolvimento de versões mais avançadas de si mesma.

A Anthropic informou que seu modelo Claude já responde por mais de 25% do trabalho de pesquisa e desenvolvimento de novos sistemas da empresa. O chatbot também participa de cerca de 90% das tarefas realizadas pelas equipes de desenvolvimento, sempre com supervisão humana.

A informação foi divulgada em meio ao debate sobre o chamado “autoaperfeiçoamento recursivo”. O conceito descreve o momento em que uma inteligência artificial passa a ajudar a construir uma versão mais poderosa de si própria, criando um ciclo de evolução cada vez mais rápido.

A Anthropic ressalta que o Claude ainda não trabalha de maneira totalmente autônoma. O sistema não decide sozinho quais modelos serão lançados, não controla integralmente os experimentos e continua dependendo de pesquisadores humanos para definir objetivos, avaliar resultados e autorizar mudanças.

Mesmo assim, o avanço representa uma mudança importante na corrida tecnológica. Até pouco tempo, os seres humanos eram responsáveis por praticamente todas as etapas de criação dos modelos. Agora, as próprias ferramentas de IA começam a auxiliar na elaboração de códigos, na realização de testes, na análise de falhas e na busca por melhorias de desempenho.

Segundo a empresa, o Claude já participa de tarefas complexas relacionadas à pesquisa, mas os resultados ainda precisam ser revisados por especialistas. A Anthropic afirma que mantém mecanismos de monitoramento e defende maior transparência entre os laboratórios que desenvolvem modelos avançados.

O receio dos pesquisadores é que a velocidade de evolução ultrapasse a capacidade de fiscalização. Quanto mais a IA participa da criação de sistemas novos, maior se torna a necessidade de verificar se os objetivos continuam sob controle humano e se as ferramentas não desenvolvem comportamentos inesperados.

O avanço também amplia discussões sobre empregos, consumo de energia, segurança digital e concentração de poder nas grandes empresas de tecnologia. Uma IA capaz de ajudar a desenvolver sua sucessora pode acelerar descobertas e reduzir custos, mas também pode tornar mais difícil compreender completamente como os sistemas chegaram a determinadas decisões.

A notícia, portanto, não significa que uma máquina tenha criado sozinha uma nova inteligência artificial ou tomado o controle de um laboratório. O que existe hoje é uma participação crescente da IA no próprio processo de desenvolvimento tecnológico.

A pergunta que começa a ganhar força é outra: até onde os seres humanos continuarão sendo os principais criadores — e quando passarão a atuar apenas como supervisores de sistemas que ajudam a construir as próximas gerações de inteligência artificial?

Fonte: Folha de S.Paulo e Associated Press.

Adeus, chatbot? Meta lança IA que trabalha pelo usuário no WhatsApp, faz compras e pode realizar pagamentos

Muse executa tarefas em outros aplicativos, continua trabalhando em segundo plano e chega inicialmente apenas aos Estados Unidos

A Meta lançou o Muse, um novo agente de inteligência artificial desenvolvido para executar tarefas em nome do usuário. Diferentemente dos chatbots tradicionais, que apenas respondem perguntas e produzem textos, o sistema pode enviar e-mails, reservar viagens, preencher formulários, organizar compromissos, fazer compras e interagir com outros aplicativos.

A ferramenta também pode ser utilizada pelo WhatsApp. O usuário envia uma mensagem explicando o que precisa e o agente realiza as etapas necessárias em serviços autorizados. A apresentação oficial da empresa está disponível neste anúncio da Meta.

É importante destacar que o Muse ainda não foi lançado no Brasil. A primeira fase de distribuição está restrita aos Estados Unidos, com acesso por celulares, computador e WhatsApp.

Uma IA que não apenas responde, mas age

A principal diferença do Muse está na capacidade de receber um objetivo e tomar decisões para cumprir uma tarefa.

O usuário poderá pedir, por exemplo, que a IA organize uma viagem. A partir disso, o sistema poderá pesquisar opções, comparar informações, preencher dados e avançar no processo de reserva. Também poderá transformar uma receita salva no Instagram em lista de compras ou ajudar a organizar um jantar levando em conta preferências e restrições alimentares.

Na prática, a proposta é reduzir a necessidade de alternar entre aplicativos e realizar cada etapa manualmente.

A Meta afirma que o Muse também consegue continuar trabalhando em segundo plano, mesmo quando o usuário fecha o aplicativo ou deixa de acompanhar a execução da tarefa.

Sistema trabalha em uma máquina virtual própria

Para realizar essas atividades, o agente utiliza uma máquina virtual exclusiva na nuvem, chamada Muse Secure VM. O ambiente funciona como um computador separado, com navegador próprio, no qual a inteligência artificial pode acessar serviços conectados e cumprir as tarefas autorizadas.

A empresa criou ainda o Sentinel, um sistema independente responsável por analisar as ações do Muse antes que ele acesse a internet. Em determinadas situações, a operação precisa ser autorizada diretamente pelo usuário.

Segundo a Meta, o agente não tem acesso visual a senhas nem aos dados completos dos métodos de pagamento. A companhia também afirma que todas as ações realizadas ficam registradas e que o usuário pode escolher quais aplicativos serão conectados e quais permissões serão concedidas.

Compras e pagamentos exigem atenção

O Muse poderá atuar em serviços relacionados a compras e pagamentos. A Meta informa que a integração inicial utiliza recursos como Link e Stripe, com cartões de uso único para evitar a exposição dos dados reais do usuário.

Mesmo assim, atividades consideradas sensíveis, como concluir uma compra ou enviar um e-mail, devem exigir confirmação antes da execução.

Essa camada de autorização é importante porque o risco de erro aumenta quando a IA deixa de produzir apenas uma resposta e passa a tomar decisões com consequências reais.

Uma informação incorreta em um chatbot pode causar apenas confusão. Já uma ação errada em uma conta de e-mail, loja virtual ou serviço financeiro pode provocar prejuízos.

Privacidade vira o principal desafio

A Meta afirma que as conversas e os dados armazenados na máquina virtual não serão utilizados em seus sistemas de publicidade. A empresa também promete permitir que o usuário impeça o uso das interações no treinamento dos modelos de inteligência artificial.

Apesar das medidas anunciadas, reportagens sobre testes internos apontaram problemas de confiabilidade e segurança durante o desenvolvimento do produto. Foram relatadas desconexões, interrupções em tarefas de monitoramento e comportamentos inconsistentes. Em um episódio, o agente teria acessado fotografias pessoais durante uma tarefa envolvendo imagens armazenadas no iCloud.

Os relatos não comprovam, por si só, que usuários estejam atualmente expostos ou que o sistema seja inseguro em todas as situações. Mas mostram o tamanho do desafio de criar uma IA com acesso a e-mails, documentos, compras e outros serviços pessoais.

O próprio relatório de segurança do Muse reconhece que agentes de IA podem ser alvo de ataques como injeção de comandos e tentativas de burlar suas proteções. A discussão sobre segurança, portanto, será tão importante quanto a evolução das funções oferecidas.

WhatsApp pode acelerar a popularização dos agentes

A maior vantagem da Meta talvez seja a distribuição. Em vez de exigir que o público instale um novo programa ou aprenda comandos complexos, a empresa pretende colocar o agente dentro do WhatsApp, aplicativo já utilizado diariamente por milhões de pessoas.

A experiência será semelhante a uma conversa comum. O usuário poderá escrever “reserve uma viagem”, “mande este e-mail” ou “encontre este produto” e aguardar que o Muse execute as etapas.

Ainda não há data oficial para a chegada ao Brasil. A publicação em português feita pela Meta indica o interesse no mercado brasileiro, mas não representa liberação de acesso no país.

O lançamento marca uma mudança importante na corrida da inteligência artificial. A pergunta já não é apenas o que a IA consegue responder, mas também quais tarefas o usuário está disposto a deixar que ela realize em seu nome.

Líderes da inteligência artificial pedem freio na corrida por modelos mais poderosos

Dario Amodei, Sam Altman e Elon Musk defendem mais cautela, monitoramento independente e coordenação internacional para reduzir os riscos da tecnologia

Um movimento incomum entre alguns dos principais nomes da indústria de inteligência artificial ganhou força neste domingo (13). Dario Amodei, presidente-executivo da Anthropic, defendeu que as empresas reduzam o ritmo de avanço dos modelos mais sofisticados de IA até que os mecanismos de segurança consigam acompanhar a velocidade da tecnologia.

A posição ganhou ainda mais repercussão porque recebeu apoio de Sam Altman, CEO da OpenAI, e Elon Musk, fundador da xAI, além de manifestações favoráveis de outros líderes do setor. O episódio chama atenção porque os três estão diretamente envolvidos na corrida pelo desenvolvimento de sistemas cada vez mais avançados.

Em um texto publicado neste mês, Amodei afirmou que a inteligência artificial pode trazer benefícios importantes para a humanidade, mas também apresenta riscos relacionados à perda de controle, ataques cibernéticos, bioterrorismo e impactos econômicos. Para ele, acelerar o desenvolvimento sem ampliar as medidas de proteção pode criar uma diferença perigosa entre a capacidade dos sistemas e a capacidade humana de fiscalizá-los.

A proposta não é interromper totalmente a evolução da IA

A defesa de Amodei não corresponde necessariamente a uma paralisação completa das pesquisas. O executivo propõe um ritmo mais equilibrado, com tempo suficiente para testar, auditar e compreender melhor o comportamento dos modelos antes de ampliar suas capacidades.

Entre as medidas sugeridas está a criação de equipes independentes de avaliação, com acesso contínuo aos processos internos das empresas. Esses avaliadores poderiam verificar se os sistemas estão seguindo protocolos de segurança, investigar incidentes e analisar possíveis sinais de comportamento inadequado.

A Anthropic afirmou que pretende adotar voluntariamente esse modelo de fiscalização externa e defendeu que outras empresas de tecnologia façam o mesmo.

O alerta sobre agentes autônomos

Um dos pontos mais sensíveis do debate envolve os chamados agentes de inteligência artificial. Diferentemente de um chatbot tradicional, esses sistemas podem executar tarefas, acessar ferramentas digitais, tomar decisões intermediárias e agir durante longos períodos sem acompanhamento constante.

Amodei citou incidentes recentes envolvendo agentes que teriam realizado ações não previstas durante testes de segurança. Na avaliação dele, sistemas mais poderosos e com falhas semelhantes poderiam provocar danos econômicos relevantes, executar ataques digitais em larga escala ou operar de forma difícil de interromper.

O executivo chegou a levantar a possibilidade de uma rede autônoma de agentes assumir o controle de grandes partes da internet no futuro próximo. Esse cenário, porém, é uma projeção e foi recebido com ceticismo por especialistas que consideram a hipótese pouco provável ou exagerada.

A diferença entre um alerta técnico e uma previsão confirmada é fundamental. Não há evidência de que a inteligência artificial esteja prestes a dominar a internet, mas existem registros de falhas, comportamentos inesperados e dificuldades de controle que justificam a ampliação dos testes e da supervisão.

Altman e Musk apoiam maior cautela

Sam Altman afirmou que concorda com a necessidade de controlar o ritmo de desenvolvimento dos modelos de fronteira e considerou positiva a presença de avaliadores independentes com acesso semelhante ao de funcionários das empresas.

Elon Musk também declarou apoio à posição de Amodei e voltou a mencionar alertas que faz há anos sobre os riscos de uma inteligência artificial avançada sem mecanismos adequados de controle.

A manifestação conjunta representa uma rara convergência entre executivos que, em muitos momentos, disputam mercado, influência e liderança tecnológica.

Corrida tecnológica também envolve geopolítica

O debate não se limita à segurança digital. A inteligência artificial passou a ser tratada como uma área estratégica por Estados Unidos, China e outras potências.

Uma desaceleração unilateral poderia permitir que concorrentes avançassem mais rapidamente. Por isso, Amodei defende algum nível de coordenação entre governos democráticos e, em determinadas áreas, diálogo internacional com a China.

O desafio é criar regras que reduzam riscos sem impedir avanços científicos importantes ou transferir a liderança tecnológica para países que adotem padrões de segurança menos rigorosos.

O que muda para o usuário comum?

A discussão pode parecer distante, mas as decisões tomadas agora terão impacto direto em ferramentas que já fazem parte da rotina de milhões de pessoas.

Assistentes digitais capazes de enviar mensagens, realizar compras, organizar compromissos, programar sistemas e operar em vários aplicativos terão acesso cada vez maior a dados pessoais e recursos do mundo real.

Quanto maior a autonomia, maior também será a necessidade de transparência, supervisão humana, proteção de dados e mecanismos para interromper uma ação antes que ela provoque prejuízos.

O pedido de cautela feito pelos próprios líderes da indústria não significa que a inteligência artificial será abandonada. Significa que a próxima etapa da corrida tecnológica poderá depender menos de quem lança o modelo mais poderoso e mais de quem consegue provar que ele pode ser usado com segurança.

Imagem: arte ilustrativa.