A ciência por trás do julgamento de Sybil
Eu imagino que tipo de critério você usa para dividir entre bem e mal.
— Makishima Shougo.
O que aconteceria se, em uma sociedade perfeita, as escolhas de nossas vidas como qual carreira escolher, para qual faculdade ir, ou até que empresa trabalhar, fossem tomadas por uma Inteligência artificial? Isso mesmo, por uma máquina.
O quão confiável ela seria? Como seriam seus julgamentos? Estaríamos presos a eles?
Buscando as respostas desses questionamentos filosóficos, a obra Psycho Pass, de Hikaru Miyoshi apresenta um mundo em que após uma possível 3°Guerra Mundial, os países do mundo isolaram-se e dentre eles um pedaço do Japão tornou-se independente, conseguindo instalar na sua nova sociedade um sistema chamado Sybil System, uma inteligência artificial capaz de realizar julgamentos pelos humanos entendidos como os mais apropriados para o bem deles.
Assim, essa inteligência artificial trouxe prosperidade para aquele novo país graças as boas decisões tomadas no âmbito político e econômico, dispensando, a princípio, a necessidade de pessoas nessas posições de decisões, enquanto que trazia para seus cidadãos uma nova percepção de bem-estar, já que as más decisões eram banidas de suas vidas e a violência era contida graças a invenção do Coeficiente Criminal( um número que indica o seu potencial criminal) , garantindo que criminosos fossem presos ou eliminados antes de cometer crimes.
Mas, o quão confiáveis os julgamentos de Sybil podem ser?
Em primeiro lugar, para falarmos sobre esse assunto, precisamos nos perguntar algo mais simples: O que é julgar? A filosofia desde a época dos gregos dialoga e analisa o ato de julgar, ao longo da história criando o campo da Ética, que entre outros assuntos estuda o julgamento. Sobre isso, Immanuel Kant na obra “Crítica a faculdade de julgar” define a faculdade de julgar como “a faculdade de subsimir o particular sob o universal”. Ao usar a palavra “subsimir” Kant quer dizer admitir, ou seja, julgar seria o ato de trazer algo do universo particular para uma esfera maior.
Em outras palavras, seria como por exemplo, você analisar a ação de uma criança em relação ao resto da turma dela. Agora, sobre analisar, temos que falar sobre Ética. Ética, por sua vez, pode ser entendida como a reflexão de uma ação em relação a sociedade em que vive. Ou seja, se aquela ação está de acordo ou não com certas leis, se é certa, errada, louvável, repugnante, e por aí vai.
Tendo em mente essas duas ideias: A faculdade de julgar e a Ética, podemos discutir a respeito das decisões de Sybil.
Spoiler Alert: Se você não viu Psycho Pass ainda, e pretende ver, recomendo que pause a leitura, veja e depois volte para ler esse texto (a última parte do aviso é bem importante em).
Na obra, é mostrado nos episódios que o sistema na verdade é gerado a partir da união de cérebros (isso mesmo que você leu) de diversos cientistas renomados em diversas áreas. Ou seja, pegaram os cérebros de médicos, economistas, filósofos etc. muito bem renomados na área e através de uma tecnologia secreta conseguiram manter eles vivos, não só isso, conseguiram formar uma única rede neural, de forma que todos os cérebros pensam como um só.
O resultado dessa rede é que forma a Inteligência Artificial conhecida como Sybil System, o que por si só já é bem bizarro.
Agora, vamos pensar que cada cérebro faz um julgamento, independente do outro, cada um deles leva em consideração uma Ética, um conjunto de informações que considera importante como “roubar é errado, matar é impensável” etc. Portanto, cada parte desse sistema tem uma opinião diferente e quanto todas se juntarem formam um consenso.
Esse consenso é totalmente isento de falhas? É um julgamento perfeito? Difícil definir algo assim, pense em você e seus parentes quando falam sobre algum assunto como política ou coisas polêmicas, quão raramente vocês chegam em um consenso? Mesmo que o sistema prometa que a decisão seja a melhor e as más decisões sejam abolidas, se todos os cérebros tiverem uma convecção errônea, provavelmente a decisão tomada por você também será assim.
Em contrapartida o filósofo Sócrates definia que as ideias, ou melhor, os conceitos, podiam chegar mais perto da perfeição através da Dialética. Um método de debate em que uma ideia é refutada por um argumento e a partir desse contraste se tem a síntese, que é a reformulação da ideia original de forma que absorva aquele ponto que foi refutada e se torne algo mais perto da perfeição, sem erros.
Todavia, o mesmo filósofo deixava em aberto se seria possível chegar, de fato, na ideia perfeita, já que seria necessário muito debate com muitas pessoas e um tempo incrível para sair perguntando para todo mundo o que achava sobre aquilo. Mas, se pensarmos na quantidade de cérebros inteligentes que tem em Sybil, seria possível criar essa ideia perfeita através da Dialética?
A resposta para isso é: não. Mesmo que tivéssemos vários cérebros conectados e uma capacidade de processamento imensa, não conseguiríamos criar uma ideia perfeita, a prova disso foi o experimento da Tay, um robô criado pela Microsoft que começou a interagir com as pessoas pelo Twitter, uma inteligência artificial de mais alto calibre, que até poderia ser comparada com a rede Sybil e que em menos de 24 horas chegou a decisão que a melhor opção seria matar todos os humanos para que o mundo fosse um lugar melhor.
Todas as decisões, no fundo, possuem um quê de particularidade de qualquer um, seja ter mais violência, ser mais benevolente. Os pensamentos que compõem o Sybil System com certeza têm suas particularidades e, logo, não seria possível criar uma ideia 100% isenta e ideal como é proposto na obra.
Então, talvez, a depender do seu julgamento, as nossas decisões, quando tomadas por alguém, podem não ser tão confiáveis assim.
Se preferir mais material de leitura, as referências estão logo abaixo 😊
Obrigado pelo tempo, espaço no seu dia a dia e leitura, até o próximo post!
IMMANUEL KANT – Crítica da faculdade de julgar
Link: https://books.google.com.br/books?id=ydg1DwAAQBAJ&printsec=frontcover&dq=julgar&hl=pt-BR&sa=X&ved=0ahUKEwj8m-3zvZPnAhVhxFkKHXCZBmgQ6AEIKTAA#v=onepage&q&f=false
Diferença entre ética e moral – Postagem do professor Francisco Porfirio
Link: https://brasilescola.uol.com.br/filosofia/diferenca-entre-etica-moral.htm
O caso de Tay, o robô que, em menos de 24 horas, decidiu terminar a raça humana
Quer saber mais sobre Psycho Pass, ou melhor, da ciência por trás de Psycho Pass e o julgamento perfeito? Olha esse post!
Tweet
Doctor Anime - Um blog de Ciência sobre animes 