Corrida pela IA amplia alerta para riscos financeiros e de segurança

Disputa por liderança na inteligência artificial geral eleva a pressão por velocidade, segundo análise publicada pelo Estadão.

O avanço da inteligência artificial geral, conhecida pela sigla AGI, intensifica preocupações sobre segurança e sobre a exposição do sistema financeiro aos investimentos no setor. Segundo análise publicada pelo Estadão, o Conselho de Segurança das Nações Unidas discute os riscos de sistemas de IA que possam escapar ao controle humano.

A corrida também mobiliza investidores, diante da promessa de ganhos de produtividade e da necessidade de aportes bilionários. A análise aponta duas frentes de atenção: o risco financeiro das empresas de IA e os efeitos do uso da tecnologia dentro do próprio sistema financeiro.

Disputa reduz incentivo para frear

Um estudo do National Bureau of Economic Research (NBER), citado pelo Estadão, indica que a busca pela AGI cria um conflito entre rapidez e segurança. Como ser o primeiro a desenvolver a tecnologia pode ter grande valor, os participantes tendem a acelerar seus projetos.

Nesse cenário, quanto mais acirrada é a concorrência, maior se torna a pressão por velocidade e menor o incentivo para que uma empresa desacelere sozinha. A análise afirma que a competição pode continuar mesmo quando os riscos coletivos passam a superar as vantagens esperadas.

Rivalidade entre Estados Unidos e China

A disputa tem dimensão geopolítica, segundo o texto. Para os Estados Unidos, reduzir o ritmo de desenvolvimento envolve a incerteza sobre a continuidade dos avanços chineses; para a China, vale o raciocínio inverso.

Além da tecnologia em si, está em jogo a definição de quais modelos, padrões e ecossistemas tecnológicos serão usados pelo restante do mundo. Isso amplia o custo econômico e estratégico de uma desaceleração isolada, de acordo com a análise.

Alertas sobre controle da tecnologia

O Estadão observa que o debate deixou de se restringir a modelos acadêmicos e passou a integrar decisões de empresas, governos e investidores. O texto menciona alertas de Sam Altman e de outros desenvolvedores sobre riscos que ainda não são plenamente controlados.

A questão central, segundo a análise, é a dificuldade de conciliar o potencial de poder econômico, militar e estratégico da AGI com mecanismos de segurança capazes de acompanhar a velocidade da competição.

Foto de capa: Wikiweeki/Wikimedia Commons (CC BY 4.0)