–:–:–
Conecte-se conosco

Big techs recorrem a religiões para definir a ética da IA

Diálogos com o Vaticano e líderes globais tentam calibrar algoritmos, mas especialistas alertam para o risco de distorção de tradições.

10 visualizações
Empresas recorrem à religião para ensinar ética à IA

Na corrida acelerada para consolidar ferramentas de inteligência artificial cada vez mais autônomas e influentes, desenvolvedores e grandes companhias de tecnologia enfrentam o dilema de como calibrar o discernimento moral de suas criações. Para tentar programar o que é considerado aceitável ou prejudicial, o setor tem buscado respostas fora do ambiente científico, abrindo canais diretos de diálogo com teólogos, filósofos e líderes espirituais.

A busca por uma bússola moral para os algoritmos

A preocupação pública com os impactos da tecnologia levou executivos a procurar orientações consolidadas ao longo dos séculos. O setor busca fundamentos éticos capazes de aplacar os receios da sociedade quanto ao comportamento de modelos avançados.

“Essas não são perguntas que um laboratório possa responder”, disse Chris Olah, cofundador da Anthropic, no início deste ano, durante a apresentação, no Vaticano, da encíclica do Papa Leão XIV sobre inteligência artificial. “São perguntas com as quais tradições como a sua lidam há milênios.”

Sem adotar um dogma particular, companhias tentam sintetizar uma postura de consenso. “O que eu acho que o ChatGPT deveria fazer é refletir essa média ponderada, ou algo assim, da visão moral da humanidade”, disse Sam Altman, CEO da OpenAI, no ano passado.

Encontros com o Vaticano e comunidades de fé

A aproximação com diferentes correntes espirituais envolve debates profundos. Embora não enumere as tradições consultadas, a Anthropic afirmou, em uma publicação de maio em seu blog, que se reuniu com “acadêmicos, clérigos, filósofos e especialistas em ética de mais de 15 grupos religiosos e interculturais” — grupo que pretende ampliar no futuro.

No início deste ano, Sullivan participou de uma reunião da Anthropic que contou com cristãos de diferentes denominações. Meghan Sullivan, filósofa da religião que lidera uma iniciativa sobre ética e IA na Universidade de Notre Dame, destacou o comprometimento da companhia com a área.

“A cultura dentro da empresa é semelhante à de um bom campus universitário, no sentido de que há um grupo de pessoas muito curiosas intelectualmente”, disse ela. “Essas reuniões são bem nerds — não sei se essa é a melhor maneira de descrever —, no bom sentido.”

Na dinâmica do encontro, os técnicos primeiro apresentavam o funcionamento dos modelos com linguagem acessível, abrindo espaço para ponderações conceituais. “Discutimos todo tipo de questão moral que essa tecnologia levanta — desde ‘Será que os humanos têm alma?’ até ‘Alunos do terceiro ano deveriam ter acesso a um chatbot para ajudar na alfabetização?’”

A iniciativa não é isolada: representantes da Meta, do Google e da Amazon também se reuniram com representantes do Vaticano, enquanto a Microsoft tem ampliado sua atuação junto a comunidades religiosas.

O risco de reduzir crenças milenares a um código de conduta

Críticos e pensadores apontam que a tentativa de extrair apenas preceitos práticos desconsidera a complexidade cultural e política intrínseca à espiritualidade. Há décadas, estudiosos contestam a visão amplamente difundida da religião como um conjunto de regras ou princípios que podem ser separados das maneiras “complicadas, práticas e improvisadas” pelas quais os fiéis vivem sua fé, afirma Webb Keane, antropólogo da Universidade de Michigan.

Para Keane, essa abordagem instrumental corre o risco de beneficiar vertentes específicas. “Existe uma maneira muito convencional de pensar na religião como um livro de regras”, disse ele. “Certamente, isso está muito ligado à religião bíblica e, no fim das contas, às religiões abraâmicas.”

A própria categorização das religiões como blocos fechados e comparáveis é recente. “O homem teve toda a sua história para imaginar divindades e modos de interação com elas. Mas o homem, mais precisamente o homem ocidental, teve apenas os últimos séculos para imaginar a religião”, escreveu Smith em 1982, lembrando o trabalho do influente Jonathan Z. Smith.

Tradições como o budismo e o hinduísmo, por exemplo, não possuíam fronteiras rígidas antes do contato com acadêmicos europeus no século XIX, explica Tomoko Masuzawa, estudiosa da religião e autora de “A Invenção das Religiões Mundiais”. “Todas essas categorias não eram nativas”, acrescenta. Ao adotar esse formato pré-moldado, a tecnologia tenta simplificar a pluralidade humana: “De alguma forma, a religião se torna uma maneira de mapear o mundo”, disse Masuzawa. “É como se o mundo inteiro tivesse aderido a ela.”

Homogeneização cultural e desafios para o futuro da IA

Modelos de linguagem operam a partir de previsões probabilísticas calculadas sobre gigantescas bases de dados, incluindo registros sagrados. O temor de analistas é que a mistura indiscriminada de preceitos anule a identidade de doutrinas que frequentemente se contradizem.

“Este trabalho não busca alinhar nossos modelos à visão de mundo de uma tradição específica. Queremos que Claude se inspire em uma ampla gama de pontos de vista — religiosos, seculares e políticos — com igual profundidade e rigor”, afirmou a Anthropic na publicação. “O que buscamos nessas conversas é uma reflexão cuidadosa e acumulada sobre como o bom caráter realmente se forma.”

Por outro lado, o risco de criar sínteses artificiais permanece no radar dos especialistas. Paolo Carozza, membro do Conselho de Supervisão independente da Meta e especialista jurídico em pensamento social católico e tecnologia, adverte sobre os limites dos sistemas computacionais em absorver aspectos vivos da fé.

“Qualquer tradição viva e sofisticada é capaz, ao longo do tempo, de interagir com outras tradições, absorver novos conhecimentos e evoluir. Mas faz isso de forma orgânica”, disse ele. “O que a IA, acredito, muitas vezes faz — ou pode fazer — não ocorre de forma orgânica. Ela simplesmente mistura tudo, desorganiza tudo e, assim, acaba não dando sentido a nada.”

Notícias da Costa do Sol em primeira mão.

Siga @ofatonoar no Instagram

Com informações do g1.

Mais em Tecnologia

Ver tudo →