Papa Francisco quer regulação da IA após viralizar com foto de ‘casacão’ na internet

Na quinta-feira, 14, o Papa Francisco pediu um tratado internacional para garantir que a inteligência artificial (IA) seja desenvolvida e usada de forma ética, argumentando que os riscos da tecnologia sem os valores humanos de compaixão, misericórdia, moralidade e perdão são muito grandes.

Em sua mensagem anual para o Dia Mundial da Paz, que a Igreja Católica celebra todo dia 1º de janeiro, Francisco acrescentou sua voz aos crescentes pedidos de regulamentação global e obrigatória da IA. O Vaticano divulgou o texto da mensagem já nesta quinta.

Para Francisco, o apelo é um tanto pessoal: no início deste ano, uma imagem gerada por IA dele vestindo uma jaqueta branca de luxo se tornou viral, mostrando a rapidez com que imagens realistas de deepfake podem se espalhar online.

A mensagem do papa foi divulgada poucos dias depois que os negociadores da União Europeia garantiram a aprovação provisória das primeiras regras abrangentes de IA do mundo, que devem servir como padrão de ouro para os governos que estão considerando sua própria regulamentação.

A inteligência artificial chamou a atenção do mundo no ano passado graças aos avanços impressionantes de sistemas de ponta, como o ChatGPT da OpenAI, que deslumbrou os usuários com a capacidade de produzir textos, fotos e músicas semelhantes aos humanos. Mas a tecnologia também gerou temores sobre os riscos que o rápido desenvolvimento da tecnologia representa para os empregos, a privacidade e a proteção de direitos autorais e até mesmo para a própria vida humana.

Francisco reconheceu a promessa que a IA oferece e elogiou os avanços tecnológicos como uma manifestação da criatividade da inteligência humana, ecoando a mensagem que o Vaticano transmitiu na Assembleia Geral da ONU deste ano, na qual uma série de líderes mundiais levantou a promessa e os perigos da tecnologia.

Mas sua nova mensagem de paz foi além e enfatizou as graves preocupações existenciais que foram levantadas por especialistas em ética e defensores dos direitos humanos sobre a tecnologia que promete transformar a vida cotidiana de maneiras que podem atrapalhar tudo, desde eleições democráticas até a arte.

“A inteligência artificial pode muito bem representar a aposta de maior risco do nosso futuro”, disse o Cardeal Michael Czerny, do escritório de desenvolvimento do Vaticano, que apresentou a mensagem em uma coletiva de imprensa. “Se o resultado for ruim, a humanidade será a culpada.”

O documento insistiu que o desenvolvimento tecnológico e a implantação da IA devem manter as preocupações mais importantes sobre a garantia dos direitos humanos fundamentais, a promoção da paz e a proteção contra a desinformação, a discriminação e a distorção.

Em um nível mais básico, ele alertou sobre as profundas repercussões na humanidade dos sistemas automatizados que classificam ou categorizam os cidadãos. Além das ameaças aos empregos em todo o mundo que podem ser feitos por robôs, Francisco observou que essa tecnologia poderia determinar a confiabilidade de um candidato a uma hipoteca, o direito de um migrante de receber asilo político ou a chance de reincidência de alguém anteriormente condenado por um crime.

“Não se deve permitir que os algoritmos determinem como entendemos os direitos humanos, que deixem de lado os valores humanos essenciais de compaixão, misericórdia e perdão, ou que eliminem a possibilidade de um indivíduo mudar e deixar seu passado para trás”, escreveu ele.

Para Francisco, a questão atinge algumas de suas prioridades como papa: denunciar as injustiças sociais, defender os migrantes e ministrar aos prisioneiros e àqueles que estão à margem da sociedade.

A mensagem do papa não entrou em detalhes sobre um possível tratado vinculativo, a não ser para dizer que ele deve ser negociado em nível global, tanto para promover as melhores práticas quanto para evitar as prejudiciais. Ele disse que não se pode confiar que as empresas de tecnologia sozinhas se regulamentem.

Ele reaproveitou argumentos que já havia usado antes para denunciar as multinacionais que devastaram os recursos nacionais da Terra e empobreceram os povos indígenas que vivem deles.

A liberdade e a coexistência pacífica estão ameaçadas “sempre que os seres humanos cedem à tentação do egoísmo, do interesse próprio, do desejo de lucro e da sede de poder”, escreveu ele.

Barbara Caputo, professora do Centro de Inteligência Artificial da Universidade Politécnica de Turim, observou que já havia convergência em algumas questões e definições éticas fundamentais tanto na regulamentação da UE quanto na ordem executiva revelada pelo presidente dos EUA, Joe Biden, em outubro.

“Isso não é pouca coisa”, disse ela no briefing do Vaticano. “Isso significa que, para quem quiser produzir inteligência artificial, existe uma base regulatória comum.”/AP