Cientistas exigem marco regulatório para IA

Pesquisadores, executivos do setor de tecnologia, políticos e vencedores do Prêmio Nobel fizeram um apelo conjunto na segunda-feira para estabelecer um marco regulatório que defina limites ao uso da Inteligência Artificial (IA).

Mais de 200 personalidades, incluindo 10 vencedores do Nobel e cientistas que trabalham em gigantes da IA como Anthropic, Google DeepMind, Microsoft e OpenAI, assinaram uma carta publicada no início da sessão da Assembleia Geral das Nações Unidas em Nova York.

"A IA tem um potencial imenso para permitir o avanço do bem-estar humano, mas sua trajetória atual apresenta perigos sem precedentes", afirma o texto.

As 'linhas vermelhas' da IA seriam proibições internacionais estabelecidas sobre usos considerados muito arriscados em quaisquer circunstâncias, segundo os signatários.

Os exemplos citados incluem confiar em sistemas de IA para comandar arsenais nucleares ou qualquer tipo de sistema autônomo de armas letais. 

Os signatários também propõem limites para o uso da IA na vigilância em massa, pontuação social, ciberataques, entre outros.

A carta pede aos governos que definam limites para a IA até o final do próximo ano, diante do ritmo de avanço da tecnologia, para evitar efeitos devastadores para a humanidade.

Na carta, também exigem uma colaboração entre líderes mundiais para alcançar "acordos internacionais sobre linhas vermelhas para a IA".

"A IA poderia em breve superar com folga as capacidades humanas e aumentar riscos como pandemias, desinformação generalizada, manipulação (...) e violações sistemáticas dos direitos humanos", afirmam.

gc/des/cr/cjc/fp