IA será capaz de se reproduzir sem ajuda humana até 2028, diz CEO
Amodei sugere que estamos no nível 2, onde os modelos de linguagem já podem fornecer informações perigosas, como a construção de armas biológicas, por exemplo.
Postado em 19/04/2024Reprodução A RedaçãoO CEO da startup Anthropic, Dario Amodei, lançou um alerta que parece cena de cinema durante uma entrevista, na sexta-feira (12/4), ao jornalista Ezra Klein, do The New York Times, sobre o futuro das inteligências artificiais (IA). Segundo Amodei, entre 2025 e 2028, as IAs poderão alcançar um nível de autonomia que possibilitará sua sobrevivência e reprodução, representando assim um risco significativo para a segurança geopolítica e militar global. Atualmente, a Anthropic define níveis de segurança para IAs, identificados pela sigla ASL.
Amodei sugere que estamos no nível 2, onde os modelos de linguagem já podem fornecer informações perigosas, como a construção de armas biológicas, por exemplo. Contudo, ele ressalta que essas informações ainda são pouco confiáveis e representam um risco relativamente baixo.
Porém, a preocupação aumenta quando se considera o potencial alcançado no nível 3, que poderá ser atingido já no próximo ano. Neste estágio, o risco de uma catástrofe seria consideravelmente maior, com a possibilidade de utilização dessas tecnologias em armas biológicas e cibernéticas.
Além disso, Amodei destaca que o nível 4, ainda especulativo, poderia trazer características como autonomia, o que inclui capacidade independente de reprodução de sistemas, e habilidade de persuasão. Ele estima que modelos com essa classificação poderão surgir entre 2025 e 2028, o que levanta questões sérias sobre a segurança global diante do uso militar dessas tecnologias.
Diante desse cenário, o CEO enfatizou a importância de monitorar de perto o desenvolvimento e a aplicação das IAs, especialmente considerando o potencial de alguns estados em aumentar suas capacidades militares com essa tecnologia. Com investimentos de gigantes como Amazon e Google, a Anthropic lançou seu próprio modelo de linguagem, o Claude - a startup afirma que desenvolve a tecnologia de maneira mais responsável que a OpenAI (os fundadores da Anthropic são dissidentes da dona do ChatGPT).A IA da Anthropic já está em sua terceira versão, desde março deste ano.
informações A Redação
Recomendado para você
Jogos de Apostas
Confira os melhores jogos de apostas.Melhores sites de apostas
Confira os melhores sites de apostas brasileiros.Marcelo Cordeiro o contador fala sobre a nova tabela de desconto do imposto de renda
Marcelo Cordeiro, o contador fala sobre a nova tabela de desconto do IR.Portal Autos pronto para anunciar o seu veículo
Faça o seu cadastro e venda os seus veículos no Portal Autos. Confira aqui os veículos que estão à venda em Catalão.Guia Catalão dá mais visibilidade e resultado ao seu negócio
Aumente seus leads e obtenha mais cliente para o seu negócio. O Guia Catalão veio para trazer visibilidade para empresas, marcas e instituições de todos os níveis, pequena, média e grande.8 Motivos para investir em Tráfego Pago
Todo esse patrocinado chega nas redes, realizado por uma Gestão de Tráfego Pago que dá resultados reais para a empresa que coloca como estratégia de venda e também no marketing.
Mais sobre Mundo
- MundoMundo16/05/2024
Putin e Xi Jinping se reúnem na China e reforçam 'aliança sem limites'
Além de fornecer apoio diplomático, a China tornou-se uma linha vital para a economia russa, à medida que Moscou lida com sanções ocidentais. Xi e Putin compartilham a visão de uma ordem mundial multipolar, na qual países liderados pela China e Rússia podem operar por um conjunto de regras diferentes das estabelecidas pelos EUA e por outras democracias liberais.Postado em 16/05/2024 - GoiasGoias14/05/2024
Caiado participa de fórum empresarial em Nova York
Tradicional fórum promovido pelo Lide - Grupo de Líderes Empresariais -, o evento estimula as relações bilaterais entre os países, principalmente entre o setor produtivo e o diálogo com o poder público.Postado em 14/05/2024 - MundoMundo13/05/2024
Climatologista aponta risco de mais desastres ambientais no mundo
Carlos Nobre destacou ainda as temperaturas extremas que estão ocorrendo, com o registro de 2023 e parte de 2024 como os anos mais quentes da história em um longo período.Postado em 13/05/2024 - MundoMundo10/05/2024
Papa Francisco doa mais de R$ 500 mil para atendimento às vítimas do Rio Grande do Sul
No último domingo, 5, Francisco já havia manifestado sua solidariedade aos afetados pelas fortes chuvas no Sul.Postado em 10/05/2024 - MundoMundo29/04/2024
Bombardeio de Israel mata 22 pessoas em Rafah, no sul da Faixa de Gaza
As forças israelenses realizam ofensivas aéreas contra Rafah desde o início da guerra contra o Hamas, em outubro, e planejam uma invasão por terra da cidade.Postado em 29/04/2024