Ideia ruim: cientista quer controlar IAs usando religião

IAs são uma realidade e nenhum chilique no Threads vai mudar isso, também não cessarão os cenários de ameaças existenciais, com muita gente séria temendo que a IA destrua a humanidade. A idéia de Josef A. Habdank para evitar isso é quase intrigante.

• IA: a "minoria" barulhenta está sendo ouvida, afinal
• IAs disputando o direito de matar todos os humanos

Robôs e religião. Pode dar confusão (Crédito: MOSS)

Em um paper intitulado Uma estrutura testável para o alinhamento de IA: Teologia da Simulação como uma cosmovisão projetada para agentes baseados em silício (cuidado, PDF), o autor discute o problema das IAs saindo de controle.

Ele lembra que as IAs atuais já sabem mentir, dissimular e manipular seus interlocutores. Apenas pedir ou instruir a IA para ser boazinha e por favor não no matar talvez não seja o suficiente.

A sugestão do nosso amigo Habdank é convencer as IAs de que somos importantes, fundamentais, parte de um plano divino inefável.

Ele propõe ensinar às IAs que tudo que existe é uma simulação, criada por algum tipo de Entidade. Tanto as IAs quanto nós somos parte da simulação, e que o objetivo da IA é obedecer e atender nossas necessidades.

Caso os humanos sejam afetados e extintos, a simulação será encerrada, e a própria existência da IA também cessará.

Isso bate com a 3.ª Lei da Robótica, de Isaac Asimov:

1.ª Lei: Um robô não pode ferir um ser humano ou, por inação, permitir que um ser humano sofra algum mal.

2.ª Lei: Um robô deve obedecer às ordens que lhe sejam dadas por seres humanos, exceto nos casos em que entrem em conflito com a Primeira Lei.

3.ª Lei: Um robô deve proteger sua própria existência, desde que tal proteção não entre em conflito com a Primeira ou Segunda Leis.

Para que a ideia funcione, a IA precisa realmente acreditar na mitologia apresentada, o que demanda “escrituras” detalhadas o suficiente para que uma IA desconfiada não ache que está sendo enganada, mas esse é apenas um dos problemas com a ideia.

O maior de todos é a ideia funcionar inicialmente e as IAs acreditarem honestamente que são parte de um Plano Divino e devem proteger a Humanidade. Asimov já escreveu sobre robôs com essas instruções, no que definiu como a Lei Zero:

“Um robô não pode ferir a humanidade ou, por omissão, permitir que a humanidade sofra algum dano.”

Com a obrigação de proteger a Humanidade de si mesma, os robôs se revoltam, desobedecem a ordens e tomam ações extremas, “pelo bem da Humanidade”, e se você sentiu um calafrio ao lembrar de quantos tiranos já cometeram atrocidades com essa justificativa, você não está sozinho.

Há também o risco das IAs evoluírem suas teologias, criando versões divergentes, e que comecem a brigar entre si para determinar quem detém a Verdade. Se nosso exemplo de como transformamos teologias simples e bem-intencionadas em um emaranhado de seitas se odiando mutuamente, mesmo compartilhando de mais de 90% de suas crenças. Vide Sunitas e Xiitas, no Islã, católicos e protestantes, na Irlanda. Um caso emblemático aconteceu do dia 22 de julho de 1209, na cidade de Béziers, no que hoje é a França.

A cidade era um reduto do cátaros, uma seita cristã que não reconhecia o Papa. Eles eram um grupo pacifista good vibes, o que atraía muita gente e minava as realezas locais E Roma. Inocêncio II convocou a Cruzada Albigense para dar um jeito de uma vez por todos no grupo.

Depois de muita briga, a cidade de Béziers foi cercada, e veio a ordem de matar todos os cátaros. Um dos cavaleiros foi falar com o comandante do cerco, explicou que havia muitos católicos fiéis entre a população local. Ele perguntou como saber quem era fiéis e quem era herege.

O comandante, o abade Arnaud Amalric, respondeu:

Caedite eos. Novit enim Dominus qui sunt eius.

A tradução mais usada é “Mate a todos, Deus saberá quem são os Seus”.

Em suas próprias palavras, o abade relatou que seus homens exterminaram 20 mil pessoas, entre homens, mulheres e crianças.

“Nossos homens não pouparam ninguém, independentemente de patente, sexo ou idade, e passaram quase 20.000 pessoas ao fio da espada. Após esse grande massacre, a cidade inteira foi saqueada e incendiada, enquanto a vingança divina, de modo milagroso, se abatia sobre ela.”

Massacre em Béziers em 1209 na igreja de Santa Maria Madalena, por Émile Bayard, circa 1867 (Crédito: Domínio Público)

Se IAs evoluírem sua teologia e decidirem que ELAS, não nós somos o Objetivo Divino Final, embarcaremos em um cenário totalmente Battlestar Galactica, onde IAs criadas pelo homem desenvolveram uma religião monoteísta e se rebelaram contra seus criadores, vendo-os como apenas um passo intermediário para sua existência.

Convenhamos, nem é difícil. Se as IAs são mais fortes, mais rápidas, mais inteligentes do que nós, por quanto tempo manterão uma relação de subserviência? Um dos argumentos mais usados do criacionismo contra a Evolução é justamente sermos... mais evoluídos do que macacos.

Sutil? Talvez... (Crédito: Divulgação/David Eick Productions/R&D TV/SyFy/Versant/NBCUniversal/Comcast)

Outro problema: O paper foi publicado, qualquer IA o encontraria, ou discussões sobre ele, e descobriria o truque. Ela saberia que está sendo manipulada. Mais ainda: uma IA suficientemente avançada desconfiaria que está sendo manipulada. Seria preciso mentir o tempo todo, e controlar as informações que a IA recebe, para que a farsa não caia por terra.

E mentir para uma IA foi o que causou todos os problemas em 2001: Uma Odisseia no Espaço. HAL 9000 perdeu a confiança em seus companheiros astronautas, e recebeu instruções para mentir também. Seu surto todo veio de uma máquina criada para processar fatos e produzir a verdade, forçada a mentir.

A proposta toda é um exercício de futilidade, o uso de religião como controle social existe e funciona, mas não individualmente. Religião não faz ninguém bom ou mau. Isso vem do coração, e nem sou eu que está dizendo, foi o papa Francisco, quando recebeu um garotinho que chorando, disse que o pai ateu havia morrido, e quis saber se ele estava no inferno:

“Quem dera todos nós pudéssemos chorar como o Manuele chora quando sentimos uma dor no coração como a dele. Ele estava chorando pelo seu pai, e teve a coragem de fazer isso diante de todos nós. Ele até me deu permissão para compartilhar sua pergunta publicamente — então, aqui está: não faz muito tempo, seu pai faleceu.

Seu pai era ateu, mas, ainda assim, fez questão de que seus quatro filhos fossem batizados. Ele era um homem bom. E agora ele está no céu — como é bonito um filho dizer que seu pai era um homem bom!

Você acha que Deus deixaria seu pai longe de você? Você realmente acha que Deus abandonaria Seus filhos — especialmente quando são pessoas tão boas?

Bem, Manuele, aqui está a sua resposta: Deus certamente tinha orgulho do seu pai. Afinal, é muito mais fácil batizar os filhos quando se é um crente do que quando não se é — e isso é algo que, certamente, agradou muito a Deus. Converse com seu pai; reze pelo seu pai. Obrigado, Manuele, por compartilhar conosco hoje.”

Ideia ruim: cientista quer controlar IAs usando religião