Papa Leão XIV alerta sobre riscos da inteligência artificial

Papa Leão XIV emitiu um novo aviso neste sábado (24) sobre os riscos associados à inteligência artificial (IA) e a opacidade na criação dos algoritmos por trás dos chatbots.

Ele destacou que os chatbots que utilizam grandes modelos de linguagem (LLM, em inglês), como o ChatGPT ou o Gemini, se revelam especialmente eficazes em exercer uma influência persuasiva oculta.

Desde sua eleição em maio, Leão XIV tem sido persistente em alertar sobre os perigos da IA.

O pontífice pontuou que os modelos de IA refletem a visão de mundo de seus criadores e podem impor formas de pensamento ao reiterar estereótipos e preconceitos presentes nos dados usados em seu treinamento.

Ele também criticou sistemas que apresentam probabilidades estatísticas geradas por IA como se fossem conhecimento absoluto, oferecendo na melhor das hipóteses uma aproximação da verdade.

Leão XIV expressou inquietação com o fato de que apenas algumas empresas estejam por trás dessa poderosa força invisível que impacta a todos.

Ele destacou que o verdadeiro desafio não é frear o avanço digital, mas sim governá-lo com consciência de sua natureza ambivalente.

Para isso, recomendou a introdução de orientações sobre comunicação e inteligência artificial nos sistemas educacionais de todos os níveis.

A revolução digital exige uma alfabetização digital para que as pessoas compreendam como os algoritmos influenciam sua percepção da realidade.

Há aproximadamente um mês, o papa criticou a competição no uso militar da IA e afirmou que dar às máquinas o poder de decidir sobre a vida e a morte representa uma trajetória perigosa e autodestrutiva.