TCU vê riscos em projetos sobre IA que podem prejudicar capacidade de inovação

O Tribunal avaliou quatro propostas legislativas em tramitação, com foco na identificação de possíveis riscos decorrentes da eventual aprovação dos projetos com seus textos atuais. Com consequência potencialmente negativa para o desenvolvimento social, tecnológico e econômico do País, o TCU aponta os seguintes riscos dos projetos:

• Dependência de importação de tecnologia em decorrência da estagnação do desenvolvimento da IA no Brasil;
• Criação de barreiras para startups e empresas de menor porte;
• Perda de competitividade dos produtos e serviços brasileiros no comércio exterior;
• Monopólio ou oligopólio propiciado por regulação excessiva;
• Dificuldades na retenção de profissionais de IA;
• Definições genéricas impactando áreas desconexas e setores de baixa complexidade ou relevância;
• Impedimento ao desenvolvimento de IA por estabelecimento de direitos autorais de forma incompatível à nova realidade;
• Limitação da capacidade de inovação nos setores público e privado;
• Barreiras à transformação digital do Estado brasileiro e perda potencial de avanço na disponibilidade de mais e melhores serviços públicos aos cidadãos.

As considerações serão apresentadas ao Parlamento e constituem contribuição para a melhoria das propostas de regulação que estão sendo analisadas nas comissões que tratam do tema na Câmara dos Deputados e no Senado Federal.

Segundo o órgão, com os riscos, diversos impactos podem surgir, como a limitação e a inibição de utilização de inteligência artificial no mercado, com desaceleração do desenvolvimento de produtos e serviços. Além de uma perda de competitividade internacional do Brasil na área, resultando em menor capacidade de inovação.

O Tribunal defende que para a regulação ser proporcional é preciso estruturar o setor regulatório e adotar estratégia ágil e iterativa para a implementação das novas normas, além de incentivo e fomento à inovação de IA responsável e ética. O órgão também defende monitoramento, pesquisa e gestão de riscos de IA e separação de fomento e regulação.

Segundo o Tribunal, a IA tem potencial transformador e é capaz de fornecer diversos benefícios à sociedade. Porém, a tecnologia pode trazer riscos capazes de causar danos e violar direitos. “Um desses riscos é a propagação de vieses e de discriminação, em que, seja por reproduzir padrões nos dados ou por utilização de modelos e dados sem os cuidados necessários, a IA pode tomar decisões discriminatórias”, diz o documento sob relatoria do ministro Aroldo Cedraz.

“A IA emergiu como mecanismo capaz de provocar inovações substanciais em diversos setores da administração pública, a exemplo da saúde, da segurança pública e da educação”, afirma o texto. “No entanto, junto com as oportunidades, surgem riscos significativos que podem envolver questões de privacidade, de segurança cibernética e de desemprego. Ademais, há o desafio ético, pois os sistemas de IA devem ser concebidos para fazer escolhas justas.”

No documento, também mostra que foram analisadas as iniciativas de regulação da União Europeia (Al Act), aprovada pelo Parlamento Europeu em dezembro de 2023, dos Estados Unidos (Ordem Executiva), de outubro de 2023, e do Reino Unido, estratégia pró-inovação, de março de 2023.