IA será capaz de se reproduzir sem ajuda humana até 2028, diz CEO
Amodei sugere que estamos no nível 2, onde os modelos de linguagem já podem fornecer informações perigosas, como a construção de armas biológicas, por exemplo.
Postado em 19/04/2024Reprodução A RedaçãoO CEO da startup Anthropic, Dario Amodei, lançou um alerta que parece cena de cinema durante uma entrevista, na sexta-feira (12/4), ao jornalista Ezra Klein, do The New York Times, sobre o futuro das inteligências artificiais (IA). Segundo Amodei, entre 2025 e 2028, as IAs poderão alcançar um nível de autonomia que possibilitará sua sobrevivência e reprodução, representando assim um risco significativo para a segurança geopolítica e militar global. Atualmente, a Anthropic define níveis de segurança para IAs, identificados pela sigla ASL.
Amodei sugere que estamos no nível 2, onde os modelos de linguagem já podem fornecer informações perigosas, como a construção de armas biológicas, por exemplo. Contudo, ele ressalta que essas informações ainda são pouco confiáveis e representam um risco relativamente baixo.
Porém, a preocupação aumenta quando se considera o potencial alcançado no nível 3, que poderá ser atingido já no próximo ano. Neste estágio, o risco de uma catástrofe seria consideravelmente maior, com a possibilidade de utilização dessas tecnologias em armas biológicas e cibernéticas.
Além disso, Amodei destaca que o nível 4, ainda especulativo, poderia trazer características como autonomia, o que inclui capacidade independente de reprodução de sistemas, e habilidade de persuasão. Ele estima que modelos com essa classificação poderão surgir entre 2025 e 2028, o que levanta questões sérias sobre a segurança global diante do uso militar dessas tecnologias.
Diante desse cenário, o CEO enfatizou a importância de monitorar de perto o desenvolvimento e a aplicação das IAs, especialmente considerando o potencial de alguns estados em aumentar suas capacidades militares com essa tecnologia. Com investimentos de gigantes como Amazon e Google, a Anthropic lançou seu próprio modelo de linguagem, o Claude - a startup afirma que desenvolve a tecnologia de maneira mais responsável que a OpenAI (os fundadores da Anthropic são dissidentes da dona do ChatGPT).A IA da Anthropic já está em sua terceira versão, desde março deste ano.
informações A Redação
Recomendado para você
Jogos de Apostas
Confira os melhores jogos de apostas.Melhores sites de apostas
Confira os melhores sites de apostas brasileiros.Marcelo Cordeiro o contador fala sobre a nova tabela de desconto do imposto de renda
Marcelo Cordeiro, o contador fala sobre a nova tabela de desconto do IR.Portal Autos pronto para anunciar o seu veículo
Faça o seu cadastro e venda os seus veículos no Portal Autos. Confira aqui os veículos que estão à venda em Catalão.Guia Catalão dá mais visibilidade e resultado ao seu negócio
Aumente seus leads e obtenha mais cliente para o seu negócio. O Guia Catalão veio para trazer visibilidade para empresas, marcas e instituições de todos os níveis, pequena, média e grande.8 Motivos para investir em Tráfego Pago
Todo esse patrocinado chega nas redes, realizado por uma Gestão de Tráfego Pago que dá resultados reais para a empresa que coloca como estratégia de venda e também no marketing.
Mais sobre Mundo
- MundoMundo29/04/2024
Bombardeio de Israel mata 22 pessoas em Rafah, no sul da Faixa de Gaza
As forças israelenses realizam ofensivas aéreas contra Rafah desde o início da guerra contra o Hamas, em outubro, e planejam uma invasão por terra da cidade.Postado em 29/04/2024 - MundoMundo25/04/2024
Biden sanciona lei que proíbe TikTok nos Estados Unidos
Bytedance tem 9 meses para vender operação americana antes que downloads sejam proibidos; CEO afirma que aplicativo não vai a 'lugar algum'.Postado em 25/04/2024 - MundoMundo23/04/2024
Mudanças climáticas afetam saúde de 70% dos trabalhadores no mundo
O documento indica que mais de 2,4 bilhões de pessoas, de uma força de trabalho global de 3,4 bilhões estão, provavelmente, expostas ao calor excessivo em algum momento da sua jornada de trabalho.Postado em 23/04/2024 - MundoMundo22/04/2024
Câmara dos EUA aprova lei para banir TikTok se plataforma não cortar laços com a China
Esses esforços têm o apoio bipartidário no Capitólio e o apoio da Casa Branca, o que ajuda a acelerar os esforços para fechar um acordo sobre o TikTok também.Postado em 22/04/2024 - MundoMundo19/04/2024
Israel inicia retaliação ao Irã com ataque a base militar
Israel está sob pressão dos Estados Unidos e da Europa para moderar a resposta ao Irã. Os voos comerciais foram suspensos pelo Irã na noite da quinta-feira, 18, mas retomados na manhã desta sexta.Postado em 19/04/2024