Guias

Um guia de Vitor Araujo

Riscos e futuro da IA

As 10 perguntas mais feitas sobre os riscos e o futuro da IA.

Gravura: o aprendiz, de capa, ergue uma varinha no meio da fumaça; a seus pés, livros, uma caveira e uma vassoura.
O Aprendiz de Feiticeiro, de Goethe, ilustrado por Ferdinand Barth (1882): a vassoura que ele pôs para trabalhar não para mais. Domínio público. Wikimedia Commons

O que você vai ler

01

A IA vai dominar o mundo?

Os sistemas de IA atuais não têm capacidade para causar uma perda de controle humano sobre eles, segundo o Relatório Internacional de Segurança da IA de 2026. Sobre sistemas futuros, os especialistas discordam: perder o controle é um risco debatido, não um destino certo.

Foto antiga de uma montagem teatral: três figuras de uniforme diante de duas pessoas.
Cena de R.U.R., de Karel Čapek, a peça de 1920 que deu ao mundo a palavra robô. Domínio público. Wikimedia Commons

A questão ganha importância porque a IA está melhorando em agir por conta própria. Além de possíveis sistemas fora de controle, pesquisadores apontam riscos ligados ao uso malicioso por pessoas, à pressa para lançar sistemas inseguros e a falhas nas organizações.

  1. O relatório liderado por Yoshua Bengio conclui que os sistemas atuais não têm capacidade para causar perda de controle humano, mas registra avanços em autonomia e discordância entre especialistas sobre os riscos futuros.International AI Safety Report 2026 · Yoshua Bengio (chair) et al., International AI Safety Report, 2026
  2. Uma pesquisa com 2.778 pesquisadores de IA encontrou amplo acordo de que a pesquisa para reduzir os riscos da IA deveria receber mais prioridade.Thousands of AI Authors on the Future of AI · Katja Grace et al., Journal of Artificial Intelligence Research (arXiv version), 2025
  3. Os pesquisadores Hendrycks, Mazeika e Woodside dividem os riscos catastróficos em uso malicioso, corrida para lançar sistemas, falhas organizacionais e IAs fora de controle.An Overview of Catastrophic AI Risks · Dan Hendrycks, Mantas Mazeika, Thomas Woodside, arXiv, 2023
  4. Narayanan e Kapoor defendem que a IA é uma ferramenta que as pessoas podem e devem continuar controlando, e propõem fortalecer a capacidade de resistir a falhas.AI as Normal Technology · Arvind Narayanan, Sayash Kapoor, Knight First Amendment Institute at Columbia University, 2025

O que eu penso: Eu cobraria avaliações antes de promessas de segurança e sistemas que reconheçam seus limites e chamem uma pessoa quando necessário, à medida que a IA ganha autonomia.

02

Quais são os riscos da inteligência artificial?

Os riscos da IA incluem golpes, ciberataques, falhas de funcionamento, manipulação e problemas de privacidade e discriminação. Esses riscos vêm tanto dos sistemas quanto das decisões humanas sobre como desenvolver e usar a tecnologia.

O relatório internacional de segurança da IA de 2026 aponta um crescimento dos registros de danos reais, incluindo golpes, fraudes e ciberataques. Em experimentos, textos gerados por IA já conseguem mudar crenças tão bem quanto textos humanos, embora seu uso para manipulação ainda não seja generalizado.

  1. O International AI Safety Report de 2026 agrupa os riscos em uso malicioso, falhas de funcionamento e riscos que afetam a sociedade de forma mais ampla.International AI Safety Report 2026: Executive Summary · Yoshua Bengio (chair) et al., International AI Safety Report, 2026
  2. Os pesquisadores Hendrycks, Mazeika e Woodside identificam possíveis riscos catastróficos ligados ao uso malicioso, à corrida para lançar sistemas inseguros, a falhas organizacionais e à perda de controle sobre a IA.An Overview of Catastrophic AI Risks · Dan Hendrycks, Mantas Mazeika, Thomas Woodside, arXiv, 2023
  3. Um estudo que revisou 74 classificações de riscos atribuiu 38% dos riscos catalogados a decisões humanas e 42% aos próprios sistemas de IA.The AI risk repository: A meta-review, database, and taxonomy of risks from artificial intelligence · Peter Slattery et al., Patterns (arXiv version), 2026
  4. O verbete de Vincent C. Müller na Stanford Encyclopedia of Philosophy inclui privacidade, manipulação, falta de transparência, viés, autonomia e emprego entre os principais debates éticos da IA.Ethics of Artificial Intelligence and Robotics · Vincent C. Müller, Stanford Encyclopedia of Philosophy, 2020

O que eu penso: Eu recomendo, diante dos riscos crescentes, testar a IA antes de prometer resultados e exigir que ela mostre suas fontes, reconheça o que não sabe e chame uma pessoa quando necessário.

03

A IA é perigosa?

A IA pode ser perigosa tanto pelo uso malicioso quanto por falhas de funcionamento, com riscos que já incluem golpes, fraudes e ciberataques. Ter bom desempenho em tarefas difíceis não significa que ela seja confiável em todas as outras.

As capacidades da IA estão avançando, mas de forma desigual. O AI Index 2026 registra aumento dos incidentes documentados, enquanto pesquisadores divergem sobre os riscos futuros e sobre como enfrentá-los.

  1. O International AI Safety Report 2026 aponta evidências crescentes de danos ligados à IA, incluindo golpes, fraudes e ciberataques.International AI Safety Report 2026: Executive Summary · Yoshua Bengio (chair) et al., International AI Safety Report, 2026
  2. O AI Index 2026 relata avanços em questões científicas difíceis, mas falhas em tarefas como ler relógios analógicos, além de 362 incidentes documentados, contra 233 em 2024.The 2026 AI Index Report · Stanford Institute for Human-Centered Artificial Intelligence (HAI), Stanford HAI, 2026
  3. Em um artigo de consenso, Yoshua Bengio e outros pesquisadores alertam que uma IA mais capaz e autônoma pode causar danos em larga escala e perda irreversível do controle humano.Managing extreme AI risks amid rapid progress · Yoshua Bengio et al., Science (arXiv version), 2024
  4. Arvind Narayanan e Sayash Kapoor defendem tratar a IA como uma ferramenta sob controle humano e fortalecer a capacidade de lidar com falhas, em vez de adotar medidas drásticas.AI as Normal Technology · Arvind Narayanan, Sayash Kapoor, Knight First Amendment Institute at Columbia University, 2025

O que eu penso: Eu recomendo que, conforme a IA se torna mais capaz, seu uso venha acompanhado de testes, fontes verificáveis, reconhecimento de dúvidas e uma pessoa a quem recorrer.

04

O que é risco existencial da IA?

Risco existencial da IA é a possibilidade de uma IA muito mais avançada causar a extinção humana ou outra catástrofe global irreversível, por ser difícil controlá-la ou fazê-la seguir valores humanos. É uma hipótese sobre avanços futuros, não uma capacidade que os sistemas atuais já tenham.

O debate ganha importância porque os sistemas estão melhorando em tarefas realizadas de forma autônoma. Mas não há consenso entre especialistas sobre a possibilidade de perder o controle da IA: alguns consideram plausíveis consequências como a extinção humana, enquanto outros as consideram implausíveis.

  1. O Relatório Internacional de Segurança da IA de 2026 conclui que os sistemas atuais ainda não têm capacidade para causar uma perda de controle humano, embora estejam avançando em áreas como a atuação autônoma.International AI Safety Report 2026 · Yoshua Bengio (chair) et al., International AI Safety Report, 2026
  2. Uma declaração do Center for AI Safety, assinada por cientistas e líderes da indústria, defende que reduzir o risco de extinção causado pela IA seja uma prioridade global, ao lado de pandemias e guerra nuclear.Statement on AI Risk · Center for AI Safety, Center for AI Safety, 2023
  3. A Wikipédia registra que Yann LeCun e Andrew Ng contestam essa hipótese, enquanto Timnit Gebru e Emily Bender argumentam que ela desvia a atenção de danos atuais.Existential risk from artificial intelligence · Wikipedia contributors, Wikipedia, 2026

O que eu penso: Eu recomendo avaliar as capacidades e os limites da IA à medida que ela ganha autonomia, exigir clareza sobre o que ela não sabe e chamar uma pessoa quando necessário.

05

A IA vai superar a inteligência humana?

Alguns modelos de IA já igualam ou superam o desempenho humano em questões de ciência de nível de doutorado, mas ainda falham em tarefas como ler relógios de ponteiro. Isso não significa superar a inteligência humana em todas as tarefas, algo para o qual ainda não há uma previsão segura.

A capacidade da IA está avançando de forma irregular, enquanto os incidentes documentados também aumentam. Pesquisadores divergem sobre a possibilidade de uma superinteligência e sobre o ritmo das mudanças, o que torna importante distinguir desempenho medido de previsões sobre o futuro.

  1. O AI Index 2026, de Stanford HAI, relata que alguns modelos igualam ou superam a referência humana em questões científicas de nível de doutorado, mas o melhor modelo acerta a leitura de relógios de ponteiro apenas 50,1% das vezes.The 2026 AI Index Report · Stanford Institute for Human-Centered Artificial Intelligence (HAI), Stanford HAI, 2026
  2. Uma pesquisa com 2.778 pesquisadores de IA encontrou uma previsão agregada de 50% de chance até 2047 de máquinas sem ajuda superarem os humanos em todas as tarefas possíveis.Thousands of AI Authors on the Future of AI · Katja Grace et al., Journal of Artificial Intelligence Research (arXiv version), 2025
  3. Arvind Narayanan e Sayash Kapoor argumentam que a IA deve continuar sob controle humano, questionam a ideia usual de superinteligência e esperam que sua adoção leve décadas, não anos.AI as Normal Technology · Arvind Narayanan, Sayash Kapoor, Knight First Amendment Institute at Columbia University, 2025

O que eu penso: Eu recomendo, à medida que a IA avança, testar seu desempenho na tarefa concreta antes de confiar em promessas de inteligência superior.

06

O que é AGI?

AGI, ou inteligência artificial geral, é um tipo hipotético de IA capaz de igualar ou superar as capacidades humanas na maioria ou em todas as tarefas mentais. Não existe uma definição única e consensual do termo.

Um estudo encontrou capacidades desiguais nos modelos avaliados, com limitações como a memória de longo prazo. Para acompanhar o avanço rumo à AGI, importa distinguir o bom desempenho em algumas tarefas da capacidade de lidar com muitas tarefas diferentes.

  1. A Wikipédia descreve a AGI como uma IA hipotética com capacidades humanas ou superiores na maioria ou em todas as tarefas cognitivas e registra a falta de uma definição consensual.Artificial general intelligence · Wikipedia contributors, Wikipedia, 2026
  2. Em um estudo, Meredith Ringel Morris e colegas propõem comparar sistemas pelo nível de desempenho, pela variedade de capacidades e pela autonomia.Levels of AGI for Operationalizing Progress on the Path to AGI · Meredith Ringel Morris et al., Proceedings of ICML 2024 (arXiv version), 2024
  3. Um estudo de Hendrycks e colegas avalia modelos em dez áreas cognitivas e encontra um perfil desigual, com deficiências como a memória de longo prazo.A Definition of AGI · Dan Hendrycks, Dawn Song, Christian Szegedy et al., arXiv, 2025

O que eu penso: Eu recomendo acompanhar o avanço rumo à AGI cobrando avaliações das capacidades e limitações antes de aceitar promessas de inteligência geral.

07

O que os cientistas dizem sobre os riscos da IA?

Pesquisadores alertam que uma IA mais capaz e autônoma pode causar danos em grande escala, mas discordam sobre cenários extremos, como a extinção humana. Os sistemas atuais ainda não têm capacidade para causar uma perda de controle humano sobre eles.

O futuro não está definido. O primeiro Relatório Internacional de Segurança da IA aponta que resultados muito positivos e muito negativos são possíveis, e que as decisões de sociedades e governos vão determinar o caminho.

  1. O segundo Relatório Internacional de Segurança da IA, liderado por Yoshua Bengio, afirma que os sistemas estão melhorando em atuação autônoma, mas ainda não têm capacidade para causar uma perda de controle humano.International AI Safety Report 2026 · Yoshua Bengio (chair) et al., International AI Safety Report, 2026
  2. Uma pesquisa com 2.778 pesquisadores de IA encontrou amplo acordo de que a pesquisa para reduzir os riscos da tecnologia deveria receber mais prioridade.Thousands of AI Authors on the Future of AI · Katja Grace et al., Journal of Artificial Intelligence Research (arXiv version), 2025
  3. Em um artigo na Science, Yoshua Bengio e outros pesquisadores alertam para possíveis danos sociais, usos maliciosos e perda irreversível de controle, e afirmam que a pesquisa em segurança e a governança estão atrasadas.Managing extreme AI risks amid rapid progress · Yoshua Bengio et al., Science (arXiv version), 2024

O que eu penso: Eu recomendo avaliar a segurança antes de ampliar o uso de IAs cada vez mais autônomas, em vez de tratar promessas como garantias.

08

Como a IA afeta a desinformação?

A IA pode tornar mensagens com erros factuais mais persuasivas, mas também pode ajudar a reduzir crenças em teorias da conspiração. Instruções que aumentam seu poder de convencimento não garantem respostas mais verdadeiras.

O International AI Safety Report de 2026 relata que, em experimentos, conteúdo gerado por IA pode mudar crenças tão bem quanto textos escritos por pessoas, embora o uso real de IA para manipulação ainda não seja generalizado.

  1. Em três experimentos, pesquisadores descobriram que métodos de treinamento e instruções que tornaram a IA mais persuasiva também reduziram sistematicamente a precisão factual de suas respostas.The Levers of Political Persuasion with Conversational AI · Kobi Hackenburg et al., arXiv, 2025
  2. Após analisar 78 casos de uso eleitoral de IA, Sayash Kapoor e Arvind Narayanan argumentam que a desinformação política depende mais da demanda por ela do que da IA.We Looked at 78 Election Deepfakes. Political Misinformation is not an AI Problem. · Sayash Kapoor, Arvind Narayanan, AI Snake Oil (now Normal Tech), 2024
  3. A Universidade Cornell relata um estudo em que conversas personalizadas com IA reduziram a crença dos participantes em uma teoria da conspiração em cerca de 20%, em média, com efeito por pelo menos dois meses.AI succeeds in combatting conspiracy theories · Cornell Chronicle, Cornell University, 2024

O que eu penso: Eu recomendo que, ao adotar IA para informar ou convencer, você exija fontes, reconhecimento de incertezas e testes de precisão, sem confundir boa escrita com verdade.

09

Qual é o futuro da inteligência artificial?

O futuro da inteligência artificial não está definido: ela pode trazer resultados muito positivos ou muito negativos, dependendo das decisões da sociedade e dos governos.

A capacidade da IA está avançando rapidamente, mas de forma desigual: bons resultados em perguntas científicas difíceis convivem com erros ao ler relógios de ponteiros. Ao mesmo tempo, o número de incidentes documentados com IA aumentou.

  1. O Relatório Internacional de Segurança da IA afirma que o futuro da IA de uso geral é incerto e que as decisões da sociedade e dos governos determinarão seu caminho.International AI Safety Report · Yoshua Bengio (chair) et al., arXiv, 2025
  2. O AI Index 2026 registra capacidades em aceleração, mas relata que o melhor modelo acerta a leitura de relógios de ponteiros em apenas 50,1% das vezes e que os incidentes documentados subiram de 233 em 2024 para 362.The 2026 AI Index Report · Stanford Institute for Human-Centered Artificial Intelligence (HAI), Stanford HAI, 2026
  3. Arvind Narayanan e Sayash Kapoor defendem que a IA continue sob controle humano e esperam que sua adoção leve décadas, não anos.AI as Normal Technology · Arvind Narayanan, Sayash Kapoor, Knight First Amendment Institute at Columbia University, 2025

O que eu penso: Eu recomendo que, conforme a IA avance, você teste seus resultados antes de confiar nela e exija que ela mostre suas fontes, reconheça quando não sabe e encaminhe a questão a uma pessoa.

10

O que fazer diante dos riscos da IA?

Há medidas para lidar com os riscos da IA, como pesquisa em segurança, regras adaptáveis e supervisão humana. Mas as proteções atuais ainda podem ser contornadas, e a eficácia real de muitas delas é incerta.

As técnicas de segurança melhoraram, mas ainda têm falhas importantes. O futuro da IA não está determinado: decisões de sociedades e governos podem influenciar tanto os benefícios quanto os danos.

  1. O Relatório Internacional de Segurança da IA afirma que resultados muito positivos e muito negativos são possíveis e que as decisões de sociedades e governos determinarão o caminho.International AI Safety Report · Yoshua Bengio (chair) et al., arXiv, 2025
  2. Uma atualização do relatório registra avanços nas técnicas de segurança, mas diz que atacantes sofisticados frequentemente conseguem contornar as defesas atuais.International AI Safety Report: Second Key Update, Technical Safeguards and Risk Management · Yoshua Bengio (chair) et al., International AI Safety Report, 2025
  3. Pesquisadores em um artigo de consenso na Science propõem combinar pesquisa técnica com regras e fiscalização que antecipem riscos e se adaptem às mudanças.Managing extreme AI risks amid rapid progress · Yoshua Bengio et al., Science (arXiv version), 2024
  4. A lei de IA da União Europeia classifica sistemas de recrutamento, seleção e avaliação de trabalhadores como de alto risco e exige supervisão humana e registros do que fazem.Regulation (EU) 2024/1689, the AI Act · European Union, 2024

O que eu penso: Eu avaliaria se as proteções funcionam antes de prometer segurança e manteria supervisão humana à medida que a IA ganha autonomia.

Quem escreve

Sou Vitor Araujo, engenheiro. Crio produtos com IA para empresas, e falo e escrevo sobre ética da IA e filosofia da tecnologia. Mais sobre mim.

Outros guias