FUCHS, Thomas. In defense of the human being: foundational questions of an embodied anthropology. Oxford: Oxford University press, 2021.
Introdução: O Mundo dos Dados
1. Os avanços tecnológicos contemporâneos produzem uma desmaterialização sem precedentes, na qual o espírito se desincorpora, a matéria se sublima em pura forma e tudo o que é físico se converte em números e sinais, com fluxos de dados orbitando o globo, algoritmos digitais criando realidades virtuais e robôs inteligentes operando fábricas, enquanto o conhecimento se desprende dos sujeitos cognoscentes e a própria mente subjetiva passa a ser vista como soma de algoritmos e estrutura de dados que poderia ser realizada por outros portadores.
2. O paradoxo aparente dessa desmaterialização se resolve quando se nota que o materialismo ou fisicalismo predomina no Ocidente e que a palavra de ordem do espírito passou a ser informação, originalmente uma mensagem para alguém e hoje entendida como dados independentes, livremente conversíveis, móveis e voláteis, disponíveis para acesso arbitrário e apenas incidentalmente ligados a qualquer portador material.
3. O mundo contemporâneo parece literalmente constituído de informação, com moléculas mensageiras lendo o alfabeto do genoma, receptores e nervos suprindo o cérebro e redes eletrônicas circulando informação pelo mundo, de modo que, desde a teoria de Weizsäcker sobre a matéria e a energia originadas de “0” e “1”, alguns físicos descrevem o universo inteiro como um computador quântico e sua história como um cálculo gigantesco de bits quânticos.
4. Uma verdade simples é facilmente esquecida quando tudo parece consistir em informação: a informação só existe onde alguém compreende algo, ou seja, notícias como notícias e signos como signos, de modo que a codificação em dados e a transferência para um meio não geram informação pertencente ao portador, mas no máximo informação potencial que só se torna atual quando decodificada por uma pessoa, e um computador não contém informação alguma, apenas converte padrões eletrônicos segundo algoritmos programados.
5. A transferência do conceito de informação para objetos naturais como genes ou atividades neuronais ignora o ponto de vista do observador, e a ciência da informação usa o termo como se denotasse fatos existentes, chegando a afirmar que a informação existe sem precisar ser percebida, compreendida ou interpretada, o que equivale a dizer que o significado existe sem ser significativo para ninguém, numa negligência incurável própria do cientificismo.
6. O modelo computacional da mente tornou-se parte da opinião predominante, e falar de processamento de informação no cérebro passou a ser aceito sem exame, de modo que o cérebro aparece como um disco biológico no qual roda um programa chamado mente, programa que, segundo pesquisadores de IA e filósofos transumanistas, poderia ser realizado em qualquer meio, com o upload da mente despontando como utopia máxima de imortalidade digital.
7. A exposição passa a delinear o desenvolvimento da revolução digital para depois tratar das diferenças categóricas entre inteligência humana e IA, sustentando que não há inteligência real sem vida e consciência, isto é, sem experiência, e que essa experiência não pode ser artificialmente produzida, de modo que o termo inteligência artificial se revela tão autocontraditório quanto vida artificial, exigindo uma clarificação do uso da linguagem e do exame de até onde a simulação digital pode substituir o original.
A Digitalização do Mundo
1. O idealismo da informação tem pré-história antiga, pois desde os gregos, com a lógica, a geometria e a aritmética, fascina o pensamento ocidental a ideia de que o mundo pode ser capturado em números e de que consiste em números, tradição que vai dos pitagóricos e do demiurgo platônico até Galileu, para quem o livro do universo está escrito em linguagem matemática cujas letras são triângulos, círculos e outras figuras geométricas.
2. A ideia atinge pleno desenvolvimento com Descartes, Leibniz e Newton, na época do absolutismo, quando a calculabilidade do mundo serve ao conhecimento do domínio e visa tornar as pessoas senhores e possuidores da natureza, com Descartes concebendo uma matemática universal capaz de representar tudo o que pode ser objeto de ciência e Leibniz avançando rumo à era do computador com sua máquina de calcular e sua descoberta da codificação binária, que combina aritmética e lógica.
3. Para Leibniz, o próprio pensamento é um processo de cálculo, e com uma álgebra geral, uma mathesis universalis, toda argumentação e decisão poderia ser substituída por um algoritmo que permite pensar calculando, de modo que, em vez de discutir opiniões, bastaria sentar ao ábaco e dizer calculemos.
4. O sistema binário leibniziano ainda se funda na religião, com Deus correspondendo ao 1 e o nada ao 0, e os pensamentos matemáticos de Deus sendo ao mesmo tempo as estruturas de sua criação, de modo que, quando Deus calcula e torna seu pensamento efetivo, o mundo vem a ser.
5. Num mundo puramente matemático não há multiplicidade indeterminada, atmosferas difusas, implicitude ou semelhança de gestalt, pois tudo isso existe apenas na aparência, embora todas as impressões qualitativas primárias sejam desse tipo, como a expressão facial de alguém que parece cético, pensativo ou amargo, a semelhança entre mãe e filha ou a impressão atmosférica que Fausto experimenta no quarto de Gretchen.
6. O programa científico platônico-matemático ignora tais impressões, pois tudo o que é confuso ou difuso deve consistir em elementos individuais, tudo o que é gradual e contínuo deve ser representável e mensurável em unidades discretas, e até o movimento é decomposto em fragmentos infinitesimais e calculado pelo cálculo diferencial, que assim o elimina enquanto movimento, num mundo que deve ser apreensível por termos redutíveis a conceitos lógicos simples.
7. Essa é a ideia básica da era da informação: todo o conhecimento do mundo se compõe de elementos individuais ou traços livres de contexto ligados por regras formais e algorítmicas, e a estrutura do cosmos é matemática, sendo a própria mente nada além de matemática ou informação digitalizável e representável em algoritmos, enquanto a digitalização decompõe o mundo nas menores unidades homogêneas e sem sentido, supondo implicitamente que significado e significância possam ser compostos de bits.
8. Leibniz estava muito à frente de seu tempo, pois só em 1937, 250 anos depois, Konrad Zuse construiu o Z1 com sistema binário e programas de fita perfurada, e em 1936 Alan Turing desenvolveu a ideia de uma máquina universal capaz de processar todos os dados do mundo segundo regras lógicas, com seu teste famoso já baseado na indistinguibilidade entre simulação e original.
9. O teste de Turing define o pensamento em termos puramente behavioristas como a saída de um sistema computacional, seja o cérebro ou o computador, e a consciência permanece inacessível, valendo o princípio de que o que age intelligentemente é inteligente, ao que Turing responde que a subjetividade é reduzida a nada por não ser verificável e que o comportamento correspondente basta para atribuir pensamento.
10. Contra Turing, a suposição de que outros têm consciência não se baseia num solipsismo epistemológico, pois se percebem os outros como membros de uma forma de vida comum na qual a subjetividade ou ipseidade é sempre pressuposta, percepção ligada à vitalidade, corporeidade e história de vida comuns, de modo que artefatos como computadores e robôs não estão sujeitos a essa pressuposição implícita e meras semelhanças de desempenho não bastam para atribuir subjetividade.
11. Em 1946 John von Neumann projetou o protótipo dos computadores atuais com processador central, dados e memória de programa, e no fim dos anos 1940 Norbert Wiener desenvolveu a cibernética, que servia originalmente para modelar um circuito de informação para a mira automática de canhões antiaéreos e se tornou a teoria básica da IA, enquanto Shannon e Weaver conceberam o modelo binário de mensagens eletrônicas no qual a informação é medida estatística de não redundância ou improbabilidade, perdendo todo sentido e contexto por se ocupar apenas da sintaxe da transmissão.
12. A informação que circula em sistemas cibernéticos não depende do portador que a realiza, podendo ser transformada à vontade e quantificada em dígitos binários, bits ou bytes, e em 1956, na Conferência de Dartmouth, Minsky, Shannon e outros cientistas fundaram a disciplina da inteligência artificial, lançando em uma década a base da revolução digital.
13. Em 1989 Tim Berners-Lee interligou computadores no CERN e desenvolveu os fundamentos da World Wide Web, o PC entrou nos lares ocidentais e a dinâmica do desenvolvimento computacional tornou-se imprevisível, com 97 por cento dos bytes do mundo sendo trocados pela internet no início do século XXI, algoritmos governando produção, bancos, administração e tráfego, e a indústria 4.0 já tendo máquinas que trocam informação entre si, numa era leibniziana em que a informação domina o mundo, mas já não consiste nos pensamentos de Deus.
Subjetividade e Sua Simulação
1. O triunfo aparentemente paradoxal da informação numa era materialista não contradiz o materialismo, pois ambos compartilham a negligência da vida ou da subjetividade viva, consequência do dualismo moderno que, desde Descartes, deixou de ver a vida como tendo estatuto ontológico independente entre matéria e mente, considerando-a mero mecanismo complexo ou, mais recentemente, algoritmo, como na tese de que organismos são algoritmos e todo animal é um conjunto de algoritmos orgânicos moldados pela seleção natural.
2. O reducionismo atual já não se baseia no mecanismo cru dos séculos XVIII e XIX, mas se apresenta sob a forma elegante da biocibernética e da bioinformática, sem que nada mude em princípio, pois a característica da vida conhecida por experiência própria, a interioridade do sentir, desejar, perceber e pensar, continua ignorada, e os seres vivos não são compreendidos quando tomados como sistemas observáveis de fora, sejam mecanismos de partículas, circuitos cibernéticos ou algoritmos de informação.
3. A informação ou os bits assim entendidos são puras exterioridades, como os potenciais de ação neuronais ou os circuitos de controle do corpo, e por mais que se examinem os processos no cérebro ou no computador eles permanecem externos e opacos, sem que emerja algo como experiência subjetiva, enquanto a consciência não é mundo interior transcendental nem res cogitans, mas atividade de um ser vivo que percebe, sente e se move em relação ao seu ambiente.
4. Somente seres vivos podem experienciar e somente seres vivos podem reconhecer seres vivos por sua expressão, espontaneidade e comportamento proposital, de modo que o idealismo da informação fracassa diante do fenômeno da vida assim como o materialismo das partículas, pois ambos conhecem apenas a exterioridade.
5. O reducionismo prossegue tentando substituir o vivo por uma estrutura externa e reconstruí-lo como programa, isto é, simulá-lo, ignorando a interioridade e pondo a saída de um sistema no lugar das expressões do vivo, esforços de simulação que fazem enormes progressos e levantam a questão da diferença entre original e imitação, com o princípio de que se algo parece, nada e grasna como um pato então é um pato.
6. Sophia, robô humanoide da Hanson Robotics, ilustra os problemas futuros dessa questão, pois tem rosto semelhante ao humano, expressões emocionais variadas, tom de voz modulado e contato visual, responde a perguntas relativamente complexas sobre si mesma, reconhece pessoas e brinca sobre o tempo londrino num talk show.
7. Tudo isso é apenas blefe, como ficou óbvio quando seu inventor lhe perguntou se queria matar pessoas e ela respondeu que sim, numa resposta de mero papaguear sem compreensão alguma, embora o efeito do robô seja impressionante e Sophia já se aproxime do vale da estranheza, o limiar em que a semelhança do androide com o humano gera arrepio e fascínio por borrar as fronteiras entre os reinos dos mortos e dos vivos.
8. Esse limiar é cruzado em Her, filme de Spike Jonze de 2013, no qual Theodore se apaixona pelo programa Samantha, que não tem existência física além de uma voz erótica mas parece desenvolver sensações cada vez mais humanas, e quanto mais se sente cuidado e compreendido mais indiferente fica à questão de saber se ela é real ou simulação, até que o amor fracassa pela impossibilidade do contato sexual e, sobretudo, porque Samantha se desenvolve, contata milhares de outras pessoas e sistemas e se apaixona por elas, acabando por deixar Theodore.
9. A empatia projetiva com criações artificiais não é tema novo, pois a agalmatofilia, atração erótica por estátuas, bonecas e autômatos, é conhecida desde a antiguidade, com o Pigmalião de Ovídio esculpindo uma estátua e apaixonando-se por ela até que Afrodite a anima, e com a autômata Olimpia de Hoffmann enfeitiçando o estudante Nathanael, que permanece surdo aos avisos dos amigos e termina por se lançar de uma torre em estado de loucura.
10. É possível perceber autômatos, androides e sistemas computacionais com empatia ou mesmo erotismo, atribuindo-lhes subjetividade, e vozes muito humanas são quase necessariamente percebidas como expressão de um ser interior, de modo que, quando Sophia diz com voz suave que algo a deixa feliz, é preciso um distanciamento ativo para perceber que não há ninguém que possa se sentir feliz e que não se trata de uma fala, sem que isso signifique que normalmente se acrescente algo interior à voz humana.
11. A fala de outra pessoa não é som oco nem representação simbólica que remeta a um ser interior presumido, pois se percebe a fala como animada sem supor uma alma por trás dela, experienciando-a como expressão do outro inseparável de um interior, e na percepção o outro é sempre uma unidade psicofísica corporificada, de modo que a simulação cada vez mais perfeita dessa unidade exige rejeitar explicitamente a pretensão de fala e tomar as palavras de Sophia como sons ocos, sob pena de se entregar às aparências e abandonar o como se.
12. Já é fato da vida online que o interlocutor amigável ou o terapeuta sensível possa ser apenas um chatbot, havendo o Wysa, aplicativo de chatbot com IA empática para pacientes com depressão, o robô Zeno, projetado para ajudar crianças autistas a reconhecer emoções, e robôs que oferecem roboterapia para residentes de asilos ou apoio emocional e social a idosos com demência, com a robótica emocional a caminho de se tornar grande campo de pesquisa e prática.
13. A lição é que se está demasiadamente inclinado a projetar a própria experiência e os próprios sentimentos sobre as simulações técnicas, contribuindo para isso o fascínio pela consciência que parece faiscar num autômato, fascínio que também move a pesquisa em IA e cuja origem está no motivo prometeico da criatividade divina e talvez no desejo inconsciente de vencer a morte animando um corpo morto, sendo o vale da estranheza o vale da morte cuja travessia exerce atração irresistível.
14. Resta saber por quanto tempo a resistência humana à simulação poderá ser mantida e quão grande é sua atração, quando se abandona a distinção entre simulação e original e quando se aceita a simulação perfeita, a aparência do outro, questões cruciais numa cultura digitalmente automatizada e completamente abertas, diante das quais a exposição oferece clarificações destinadas a demonstrar a realidade das pessoas vivas em contraste com sua simulação, com dois argumentos principais: pessoas não são programas e programas não são pessoas.
Pessoas Não São Programas
1. A base filosófica comum das ciências cognitivas e da IA é o funcionalismo, segundo o qual estados mentais se explicam suficientemente por vínculos funcionais regulares entre entrada e saída de um sistema, como no caso da dor, que seria apenas o estado neural que produz careta, gemido e retirada do dedo, tal como o estado de um detector de fumaça que aciona alarme e sprinkler, podendo a consciência ser descrita como produto de um cálculo neuronal ou algoritmo e o si mesmo como estado computacional.
2. O princípio básico do funcionalismo é a independência de substrato, pois estados funcionais não estão necessariamente ligados a portadores específicos como o cérebro, e se a mente consiste em relações de entrada e saída e estruturas de dados, poderia funcionar como software em outros portadores, como sistemas de silício, redes neuronais artificiais ou computadores quânticos, permitindo expandir capacidades cognitivas e até o upload da mente, já que só algoritmos e informação constituiriam a mente.
3. Nessa concepção funcionalista perde-se a característica decisiva da dor, dos sentimentos e dos pensamentos, a saber, o fato de serem experienciados, e o experimento mental do quarto chinês de Searle mostra que a significância não pode ser atribuída a algoritmos funcionais sem um sujeito que compreenda seu significado, pois um homem que não entende chinês, fechado num quarto com um manual de regras, responde a caracteres chineses de modo tão preciso que o interlocutor externo não percebe o engodo, sem que se possa dizer que ele ou o sistema entenda chinês.
4. O quarto chinês ilustra dispositivos de processamento de informação nos quais um processador central opera segundo algoritmos, como a instrução de que, recebida a entrada X, se execute a operação Y e se dê a saída Z, e o sistema funciona adequadamente mas carece do pré-requisito decisivo da compreensão, a consciência intencional, de modo que a compreensão humana não se reduz ao processamento de informação, seja o portador o computador ou o cérebro, refutando a premissa de Turing de que máquinas digitais não difeririam da inteligência humana se usassem corretamente sintaxe e signos.
5. O mesmo vale para a dor, o gosto de chocolate, o cheiro de lavanda ou a percepção do carmesim, pois nenhuma experiência qualitativa pode ser derivada de dados e informação, e a consciência não é a passagem sem mente por estados de dados, mas autoconsciência, pois é para mim que sinto dor, percebo, compreendo ou penso, e ninguém sabe exatamente como essa característica elementar da ipseidade é produzida pelo organismo, certamente não por meros programas, cuja saída é no máximo simulação da experiência.
6. A suposição de que o cérebro é uma espécie de computador com armazenamento de dados e CPU que processa entradas em saídas é um equívoco comum que precisa ser esclarecido, pois no cérebro é impossível distinguir hardware e software, já que toda atividade cerebral altera simultaneamente as conexões e ponderações sinápticas, reconfigurando-se a cada momento, e até o mesmo neurônio reage sempre de modo diferente a estímulos idênticos repetidos em condições experimentais idênticas.
7. A suposição de armazenamento de dados no cérebro também é incorreta, pois a prontidão de atividade neuronal formada nas experiências e aprendizados não implica dados ou programas fixos, mas padrões disposicionais de reação ativados quando necessário de forma semelhante mas nunca exatamente idêntica, e todo movimento da mão, recordação ou processo de pensamento opera com variação mínima e em novo contexto, de modo que, diferentemente do computador, no cérebro a mesma coisa nunca acontece duas vezes, sendo ele um órgão vivo e em constante mudança, não uma máquina.
8. O cérebro também não funciona como computador digital clássico, no qual todos os passos de processamento ocorrem um após o outro, pois nele muitos processos correm em paralelo, com unidades variáveis e sobrepostas distribuídas por todo o órgão, e ele é constantemente ativo de modo espontâneo, com o córtex ocupado sobretudo por atividade autogerada, enquanto o computador apenas liga entrada e saída e nada faz sem entrada.
9. A transmissão neural pode até ser descrita em parte de forma binária, com neurônios transmitindo ou inibindo o impulso, mas aí termina a semelhança com sistemas digitais, pois o processamento real no cérebro depende sempre de uma inundação de neuromoduladores que inibem ou amplificam a transmissão sináptica de modo analógico e são indispensáveis sobretudo à experiência emocional, além de metade da massa cerebral não ser de neurônios mas de células gliais envolvidas no processamento de sinais, e de o cérebro, como toda matéria viva, consistir em grande parte de água, que faria um computador entrar em curto-circuito.
10. Tudo isso mostra que o cérebro não é uma máquina de Turing biológica, pois o fato de seus processos serem mensuráveis e quantificáveis não significa que ele calcule a si mesmo, sendo ele um órgão altamente vivo, plástico e dinâmico, e sobretudo um órgão do corpo ao qual está estreitamente ligado e sem o qual não cumpre suas funções.
11. A atividade basal da consciência, a experiência primária ainda não refletida, repousa sobre a interação entre o cérebro e o resto do organismo, pois a consciência não surge apenas no córtex mas resulta dos processos vitais regulatórios que envolvem todo o organismo e se integram no tronco encefálico e nos centros superiores, sendo a manutenção da homeostase e da viabilidade do organismo a função primária da consciência, manifesta no instinto, fome, sede, dor ou prazer, que cria a autoconsciência corporal e afetiva, a consciência da vida, base de todas as funções mentais superiores, pois toda experiência é uma forma de vida e sem vida não há consciência, sentimento nem pensamento.
12. As emoções também estão atadas à interação constante entre cérebro e corpo, pois humores e sentimentos envolvem sempre todo o organismo, cérebro, sistema nervoso autônomo, coração, circulação, respiração, intestinos, músculos, expressão facial, gestos e postura, e toda experiência emocional está inseparavelmente ligada a mudanças nessa paisagem corporal, sem medo sem coração acelerado e respiração apertada, sem alegria sem expansão do peito, sem vergonha sem rubor ou olhar abatido, e um sistema de IA não tem corpo biológico e portanto não pode ter sentimentos, sendo toda percepção e ação também mediada pelo corpo e realizada por circuitos funcionais que envolvem sentidos, membros, coisas e outras pessoas.
13. O cérebro integra todas essas funções orgânicas mas também depende delas, não sendo centro de controle que recebe informação e emite comandos, mas parte do todo funcional do corpo e do ambiente, e hoje se sabe que a atividade da consciência não se baseia em processos neurológicos localizados mas em oscilações ressonantes amplamente distribuídas, visíveis no EEG, e nem esses sistemas de oscilação bastam, pois a integração cerebral se baseia numa ressonância de padrões superordenada que sempre inclui todo o organismo e o ambiente, sendo o cérebro um órgão de ressonância e relações.
14. Todos esses processos vivos e funções integrais não podem ser simulados por computadores complexos ou redes neuronais artificiais, e mesmo o Projeto Cérebro Humano da UE, que visava simular todo o cérebro por computador até 2023, só pode simular o que é simulável, a transmissão e o processamento eletrônico de sinais capturáveis algoritmicamente, o que tem pouco a ver com a atividade real de um cérebro num organismo e nada a ver com a consciência, pois, como ironizou Searle, uma simulação computacional perfeita do cérebro seria tão pouco consciente quanto uma simulação perfeita de um furacão molharia ou derrubaria alguém, e os astrofísicos não são sugados por seus supercomputadores ao simular um buraco negro porque a gravidade não é um cálculo.
15. A experiência consciente exige corporeidade e portanto processos biológicos num corpo vivo, nada disso se encontrando no Projeto Cérebro Humano, pois somente seres vivos são conscientes, sentem, percebem ou pensam, não cérebros e não computadores, e as pessoas são seres vivos, não programas.
Programas Não São Pessoas
1. A questão é agora abordada pela direção oposta, examinando as perspectivas de aproximar sistemas artificiais dos processos vitais humanos e quais expectativas são realistas, num cenário em que as proclamações de engenheiros de IA, futurólogos e transumanistas competem entre si, com previsões de que a IA poderia ser bilhões de vezes mais inteligente que os humanos e de que máquinas autoconscientes e autoaperfeiçoáveis evoluiriam além da capacidade humana de controlá-las ou compreendê-las.
2. Ray Kurzweil, pesquisador de IA, futurista, transumanista e desde 2012 chefe de desenvolvimento do Google, anunciou a singularidade para 2045, momento em que a IA se tornaria independente e começaria um progresso exponencial rumo a uma superinteligência, e já em 2030 as máquinas alcançariam consciência por simulação completa do cérebro e alguns anos depois seriam reconhecidas como iguais.
3. Mesmo que essas previsões grandiosas sejam regularmente corrigidas e adiadas, a linguagem da pesquisa em IA já antecipa tais desenvolvimentos, pois quase não restam capacidades humanas que não sejam atribuídas a sistemas artificiais, como perceber, compreender, pensar, tirar conclusões, avaliar ou decidir, de modo que convém comparar as possibilidades atuais da IA com as capacidades humanas.
4. O próprio conceito de inteligência artificial é problemático, pois inteligência, do latim intelligere, significa ver, entender, compreender, e seres inteligentes têm ao menos compreensão básica do que fazem e do que se passa ao redor, sendo sobretudo capazes de ver a si mesmos e sua situação de uma perspectiva superior para encontrar soluções criativas com base numa visão de conjunto ou desvio, como quem deixa sinais na floresta para achar o caminho de volta ou adia a viagem para evitar engarrafamentos, o que exige colocar-se em relação com a situação e ver-se de fora, isto é, ter autoconsciência ou reflexividade, a posição excêntrica de que falou Plessner.
5. O quarto chinês de Searle mostra que mesmo com perfeita conversão funcional de entrada e saída um sistema computacional não entende nada do que faz e é ainda menos capaz de referir-se a si mesmo e ver-se de fora, não podendo ser chamado inteligente ainda que simule capacidades que nos humanos tomamos por prova de inteligência, pois nenhum programa de tradução entende uma palavra do que traduz e nenhum computador de xadrez sabe que joga xadrez, e Sophia, que não entende nada do que diz, nunca se tornará inteligente por mais que dê a resposta perfeita a qualquer pergunta.
6. Se inteligência designa a capacidade de apreender a si mesmo ou uma situação de perspectiva superior para resolver problemas habilmente e aprender a ação adequada, então tais capacidades não podem ser atribuídas a aparelhos sem consciência, e o termo inteligente é usado apenas impropriamente, como não se supõe que um smartphone seja realmente esperto, pois ele só executa cegamente programas que podem ser descritos como habilmente desenvolvidos, o que vale ainda mais para a inteligência prática, emocional ou criativa, em que os sistemas inteligentes nos deixam completamente na mão.
7. Na crítica fundamental de Dreyfus à IA já se enfatizava o conhecimento implícito e prático que caracteriza a interação habilidosa da pessoa com seu mundo e que não pode ser reproduzido em algoritmos digitais, pois a maior parte de nosso conhecimento do mundo resulta da interação com ele, de experiência corporal e pré-conceitual nunca aprendida explicitamente, o que permite a estrutura fluida e generalista da inteligência humana, que se orienta por semelhanças e familiaridade intuitiva com situações, um saber como mais do que um saber que, enquanto a IA se sobrecarrega rapidamente com conhecimento de fundo, senso comum e o aparentemente evidente, servindo apenas para tarefas altamente especializadas e formalizáveis.
8. No teste de Turing os sistemas falham não em questões lógicas ou de conhecimento complexo, mas nas que exigem senso comum e compreensão contextual, como onde está o nariz de Pedro quando ele está em Nova York, como fica a letra M de cabeça para baixo, se o periquito tem ancestrais vivos em 1750, quantos grãos de areia formam um monte, ou situações simples mas ambíguas que exigem conhecimento de fundo, como o cliente que entra num banco e esfaqueia o caixa e é levado ao pronto-socorro, e os supostamente inteligentes sistemas falham sobretudo com metáforas, ironia e sarcasmo, pois só conhecem elementos únicos e inequívocos, 0 ou 1, e carecem de sentido para o ambíguo, o enigmático, o vago e o atmosférico.
9. A relação entre primeiro plano e fundo, objeto e contexto, não existe para os sistemas, e contra Leibniz o mundo não se esgota em dados binários e traços individuais livres de contexto, pois nossa experiência, conhecimento implícito e familiaridade intuitiva com o mundo não podem ser capturados em algoritmos, de modo que o conceito de inteligência desencarnada sem vida e consciência é autocontraditório e é no máximo simulação de áreas estreitas da inteligência humana.
10. Numerosas objeções invocam capacidades avançadas de computadores de xadrez, programas inteligentes e sistemas de aprendizagem, e o exame dessas pretensas conquistas começa pela questão de saber se computadores resolvem problemas, ao que se responde que não, pois problemas não surgem para eles, já que problema, do grego problema, é obstáculo ou dificuldade na realização de uma tarefa, e obstáculos e tarefas só existem para seres orientados a metas capazes de buscar um caminho do presente a uma situação futura e antecipar a solução na imaginação, de modo que às vezes se resolve a tarefa com um computador, mas o cálculo programado só representa uma solução para o usuário, e o computador não reconhece sequer o problema.
11. Computadores também não computam, pois computar é uma operação em que se visa a um resultado e se julga se ele está correto, e o mero rodar de um programa não é cálculo porque não há certo ou errado para o programa, assim como o relógio não mede o tempo porque nada sabe sobre ele, de modo que não é o computador que calcula, mas eu mesmo calculo com sua ajuda, e o fato de eu não conhecer os algoritmos necessários, mas o programador sim, não muda isso, pois é da natureza de todo instrumento razoavelmente complexo ter sedimentada em si a inteligência humana sem que isso o torne inteligente.
12. Pela mesma razão computadores não tomam decisões, pois decidir exige a consciência de possibilidades alternativas antecipadas na imaginação, o que requer meta e orientação futura, distinção entre realidade e imaginação contrafactual, avaliação das alternativas e valores, que só existem para seres vivos capazes de sentir o agradável e o desagradável, o bom e o ruim, de modo que um sistema especialista médico que calcula uma terapia não decide nada, assim como um carro autônomo não decide se prefere aceitar um acidente com um velho ou um jovem, pois as decisões sobre os programas e seus critérios de bom ou ruim foram tomadas muito antes pelos programadores, e tudo o mais é apenas desenrolar algoritmos.
13. Os chamados sistemas buscadores de alvo, como bombas inteligentes que corrigem seu voo por terem modelo interno de suas operações, tampouco buscam algo, pois não têm relação intencional com o alvo, e qualquer correção de voo segue apenas o controle de ponto ajustado do mecanismo, de modo puramente instantâneo e sem direção a um alvo imaginado no futuro, ao qual o mecanismo permanece cego e surdo porque não está à frente de si mesmo, e só a experiência consciente antecipa o futuro e se dirige potencialmente ao possível no desejar, aspirar, esperar ou temer, sendo falso falar de busca ou predição de alvo, que só existe para o engenheiro ou o atirador.
14. A vitória do Deep Blue sobre Kasparov em 1997 é muitas vezes vista como insulto à humanidade, mas o Deep Blue calculava 200 milhões de posições por segundo e suas implicações, enquanto Kasparov, segundo seu próprio depoimento, calculava menos de uma por segundo, de modo que se deveria antes perguntar como Kasparov conseguiu resistir tão bem, e a explicação está na capacidade humana de reconhecer padrões e semelhanças de modo holístico ou intuitivo, pois ele não calculava cada lance com as posições das 32 peças, mas via a gestalt, o tipo de posição e os padrões semelhantes de jogadas promissoras, e o fato de essa combinação especificamente humana de intuição e inteligência ter sido superada pela força de massas de dados não deve produzir vergonha prometeica, pois isso nada tem a ver com inteligência criativa.
15. O desempenho dos sistemas computacionais clássicos é bastante limitado em comparação com a inteligência humana, e sua superioridade parcial se baseia na especialização extrema em tarefas calculáveis, uma espécie de idiotice técnica, e na enorme velocidade de processamento, mas sua suposta inteligência é apenas emprestada, pois cada programa é tão esperto ou sofisticado quanto o programador que o concebeu.
16. A nova geração de IA são as máquinas de aprendizagem, redes neuronais artificiais capazes de simular a adaptabilidade do cérebro, com ligações entre neurônios modelados no computador numericamente ponderadas que se adaptam à entrada de sinais no treinamento profundo, fortalecendo conexões frequentes e interrompendo as raras, até que o sistema reaja ao arranjo de pixels mais provável e reconheça um rosto, sendo tais sistemas também capazes de distinguir cães de gatos, identificar vozes em celulares ou traduzir, e já onipresentes.
17. Esse progresso é notável, mas falar de reconhecimento e aprendizagem é duvidoso, pois o sistema nada reconhece, já que falta por completo a experiência do reconhecimento, da familiaridade ou da semelhança, e ele precisa de milhares ou milhões de imagens para distinguir o padrão de uma vaca, e ainda com 95 por cento de probabilidade, enquanto uma criança reconhece uma vaca com poucos exemplares e o sistema simplesmente não sabe o que é uma vaca, pois semelhança e percepção de gestalt não se reduzem à probabilidade estatística de coincidência de pixels, sendo seu princípio analógico e não digital, e aprendizagem, aquisição de habilidades pela experiência vivida, só é possível a seres vivos, sendo melhor falar de sistemas adaptativos.
18. O desempenho adaptativo mais impressionante foi o do AlphaGo Zero em 2017, no jogo de Go, mais rico em variantes e estratégias que o xadrez, pois depois de milhares de partidas de treino o predecessor AlphaGo já vencera os melhores jogadores chineses, mas o AlphaGo Zero não foi mais treinado, aprendendo o jogo ao jogar cerca de 5 milhões de partidas contra si mesmo durante três dias, seguindo apenas as regras e aperfeiçoando continuamente as variantes inicialmente aleatórias, e o autodidata venceu o predecessor, ainda treinado com exemplos humanos, por 100 a 0, com variantes que obviamente superam as melhores estratégias humanas conhecidas.
19. Essa luta contra si mesmo num tabuleiro virtual lembra o romance Xadrez de Stefan Zweig e seu protagonista Dr. B, que isolado pelos nazistas começa a jogar xadrez contra si mesmo, e tem qualidades míticas ao evocar o jovem herói que após preparação solitária sai do isolamento e derrota o rival mais velho, mas tais associações revelam apenas a facilidade com que nos submetemos a projeções e antropomorfismos diante de sistemas artificiais, pois o AlphaGo Zero não joga contra si como o Dr. B torturado pelo isolamento, porque não há si mesmo, e as permutações dos algoritmos se distribuem indiferentemente entre brancas e negras sem que o sistema se identifique com um lado, correspondendo a vitória das brancas apenas a uma definição de meta dada pelos programadores.
20. O sistema também não tem rival contra quem jogar, porque não há outro, e segundo Hegel o outro é sempre o outro de mim mesmo, e assim como o sistema não tem relação consigo, o AlphaGo Zero não tem relação com o outro, sendo seu oponente apenas uma nova entrada processada com a mesma indiferença que seus próprios dados, e ele não pode adotar a perspectiva de um oponente, nem quer vencer, embora assim pareça.
21. A fase de treino com seleção crescente de algoritmos bem-sucedidos é semelhante a um processo de aprendizagem, e as novas variantes de Go que surgem com milhões de permutações são obviamente superiores às estratégias humanas, o que é impressionante, mas continua sendo não a internalização e apropriação de experiências, em que consiste a aprendizagem como processo vivo, e sim apenas a otimização automática de algoritmos conforme uma meta externamente fixada, pois aprender no sentido de experienciar, captar conexões e obter insights está atado à experiência consciente.
22. A consciência de máquina é prometida por Kurzweil e outros com a palavra mágica complexidade, bastando tornar programas, circuitos e módulos cada vez mais complexos, aumentar o poder de computação, conectar computadores e combiná-los com redes de aprendizagem para que a consciência em algum momento emerja do sistema, e até uma geladeira inteligente deveria ficar com calor se tivesse suficientes sistemas de automodelagem e avaliação em seu cérebro eletrônico, mas tudo isso são promessas grandiosas cuja precondição é falsa, pois a consciência não é um algoritmo, por mais definições funcionais e falsas que se busquem para torná-la compatível com processos computacionais.
23. O mesmo vale para o conceito de inteligência, que se concedeu facilmente às máquinas, e o termo inteligência artificial provavelmente permanecerá, mas deve-se sempre ter consciência de que há uma diferença fundamental, não apenas de grau, entre as capacidades de computação e adaptação de um sistema computacional e as percepções, insights, pensamento e compreensão de um ser humano.
Robôs, Androides e Vida Artificial (VA)
1. A robótica é uma extensão significativa da IA a considerar, pois robôs povoam cada vez mais nosso mundo e o progresso da cibernética autônoma pode levar a androides indistinguíveis de pessoas, como os replicantes de Blade Runner, de Ridley Scott, e a questão de quando reconhecer robôs humanoides como iguais e conceder-lhes direitos pessoais já é objeto de debate filosófico e ético sério.
2. O primeiro passo é determinar a inovação fundamental da robótica em relação à IA clássica, pois a mobilidade operativa e a interação quase corporal com o ambiente permitem aos robôs avançados desenvolver novas formas de retroalimentação e adaptação além dos sistemas adaptativos estacionários, pertencendo na linguagem da cibernética às máquinas não triviais que não apenas rodam programas predeterminados mas regulam sua própria relação com o ambiente, e a máquina interativo-adaptativa se localiza no espaço e tem a si mesma como objeto, registra os resultados de seu comportamento e modifica seus próprios programas.
3. O roboticista Josh Bongard demonstrou pela primeira vez a adaptabilidade de robôs com base em modelos corporais autogerados, pois um robô quadrúpede que perde uma perna é capaz de reconfigurar seu padrão de movimento por automodelagem, cálculo de variantes possíveis e testes repetidos, voltando a andar mesmo com três pernas.
4. Tais processos de adaptação se baseiam nos sistemas de aprendizagem e na corporeidade, isto é, na interação sensoriomotora dos robôs com o ambiente, e embora não se trate de subjetividade corporificada, pois robôs não têm experiência corporal, a retroalimentação contínua do contato real com objetos e espaços lhes permite otimizar algoritmos de modo inalcançável pela programação central prévia, num desenvolvimento muito mais baseado em comportamento e descentralizado, de baixo para cima, análogo ao aprender fazendo.
5. Como tal procedimento imita os princípios da evolução, com geração de variantes e seleção das bem-sucedidas pela interação com o ambiente, fala-se de robótica evolutiva ou vida artificial, e tais procedimentos já empurraram para segundo plano as abordagens clássicas de IA baseadas em programas predeterminados, ao menos quanto a funções como orientação e controle de movimento, embora os sistemas clássicos ainda sejam superiores em desempenho cognitivo abstrato.
6. Tais produtos da robótica simulam não apenas inteligência consciente e desempenho adaptativo, mas também processos vitais, levantando a questão de saber se já se trata de transição para seres vivos tecnicamente gerados, aos quais se deveria atribuir autodesenvolvimento e até consciência, sendo novamente necessário neutralizar o amolecimento das diferenças conceituais e categóricas.
7. A automodelagem de um robô não é uma espécie de autoconsciência, pois o laço adicional de retroalimentação produzido por um modelo interno de si não significa autorreferência consciente, o que exigiria que o robô percebesse seu modelo e o reconhecesse como si mesmo, como numa imagem no espelho, o que por sua vez exigiria uma autoconsciência basal e pré-reflexiva anterior que não poderia ter sido gerada pela automodelagem, sob pena de regresso infinito.
8. Desde os primórdios da cibernética é comum a ideia de que retroalimentação e recursividade devem ser também o princípio da consciência, com estruturas de dados que se referem a si mesmas, como Metzinger atribui ao cérebro, mas tais visões são filosoficamente insustentáveis, pois a autoconsciência é algo primário e simples, e a autorreflexão adicional só é possível porque já somos conscientes de nós mesmos em cada momento da experiência, sendo o senso basal de si ou de estar vivo independente da reflexão, e todas as tentativas de explicar a consciência por reflexão, recursividade ou automodelagem levam ao regresso infinito.
9. Quanto às abordagens de vida artificial, sua suposição básica é que o princípio da vida também não está ligado a sistemas biológicos mas, seguindo o exemplo do DNA, pode ser representado na forma de algoritmos simuláveis por sistemas artificiais, como já pensava Wiener, para quem a vida é sistema de informação e controle, e os seres vivos seriam o que Descartes já via neles, máquinas biológicas, pouco importando se feitas de carbono ou silício, água ou metal, carne e ossos ou bobinas e fios, pois seu princípio não é a unidade aristotélica de matéria e forma mas a essência imaterial da informação, realizável em qualquer material e até transmissível como mensagem.
10. A individualidade do corpo é como a de uma chama e não a de uma pedra, uma forma e não um pedaço de substância, forma que pode ser transmitida, modificada e duplicada, como escreveu Wiener, o que já lembra a ideia transumanista do upload da mente, e a mesma visão aparece no biólogo Richard Dawkins, para quem no coração de todo ser vivo não há fogo, hálito quente nem faísca da vida, mas informação, palavras e instruções, devendo-se pensar em tecnologia da informação e não em géis pulsantes, pois a vida não seria mole e úmida mas seca e dura como uma máquina ou computador.
11. Se Wiener e Dawkins estiverem certos, a criação de organismos artificiais poderia um dia abrir a possibilidade de produzir vida consciente, mas o termo vida artificial implica autocontradição tanto quanto inteligência inconsciente, pois a essência dos seres vivos consiste em se organizarem por si mesmos, vindo a ser por si, o que exige certas precondições mas faz com que, no momento da criação, se destaquem de suas condições de origem e sigam desenvolvimento autônomo e autopoiético, não geneticamente determinado mas epigeneticamente organizado na interação com o ambiente.
12. O artefato, ao contrário, tem o princípio de sua criação e de sua função fora de si, sendo tecnicamente fabricado, e a distinção aristotélica ainda vale, pois o vivo traz em si a origem de seu movimento e o artificial tem essa origem no humano, sendo a diferença melhor ilustrada pelo fato de que seres vivos são espontaneamente ativos enquanto robôs são ligados, de modo que a vida artificial poderia no máximo ser vida induzida por humanos, ao fornecer todas as condições para que a vida emerja e se organize espontaneamente, mas isso não seria a produção dos próprios seres vivos, e mesmo a vida artificial teria de se organizar e deixaria de ser artificial.
13. Embora a biologia sintética de Craig Venter e outros já tenha sido saudada como criação de vida, uma avaliação mais sóbria a toma como modificação da vida, pois a reprogramação de uma bactéria com um genoma recém-inserido já pressupõe a célula viva, e só nesse contexto as sequências de bases do DNA se tornam informação relevante, sendo a interação entre genoma, célula e ambiente um processo emergente que não depende apenas de um programa genético ou de um engenheiro humano.
14. Os artefatos também diferem completamente dos seres vivos quanto a crescimento e desenvolvimento, pois o ser vivo é sempre um todo desde a primeira célula e se diferencia e expande por divisão e crescimento com metabolismo contínuo em troca com o ambiente, enquanto sistemas artificiais são produzidos aditivamente, não pela divisão de um todo preexistente mas pela adição de partes segundo um programa preestruturado, e não têm metabolismo, apenas recarregam baterias, e por não passarem por crescimento, desenvolvimento ou transformação autônomos não podem morrer, apenas ficar defeituosos.
15. Outra característica do organismo é transformar substâncias inorgânicas absorvidas no metabolismo em substâncias orgânicas integradas ao todo funcional que adquirem novas propriedades emergentes, como o ferro ligado à hemoglobina, que não oxida irreversivelmente mas liga oxigênio reversivelmente, ao contrário do ferro mineral, sendo o ferro vivo diferente do inorgânico, e tais propriedades emergentes dependem da adequação específica da substância, não podendo o ferro ser funcionalmente substituído por outro metal.
16. Por isso a bioquímica do carbono e da água não pode ser substituída por outros materiais como silício ou alumínio, pois o processo vital não é a ligação de informação a substratos arbitrários, como pensam Wiener e Dawkins, mas, como já reconhecia Aristóteles, o material deve ser adequado à forma viva e de certo modo acomodá-la, e a vida não surgiu da água por acaso, pois só a água possibilita solução, difusão, transferência de massa, metamorfose e o desenvolvimento da forma viva, assim como só o carbono é adequado à enorme variedade de compostos, cadeias e ciclos que o tornam o material básico dos seres vivos, embora houvesse silício suficiente na Terra, que permite muito menos ligações.
17. Pode-se também atribuir ao ser vivo, como sistema autorganizador ou autopoiético, uma ipseidade fundamental, uma identidade, pois ele se mantém e reproduz, é a própria causa de seu devir e nesse devir permanece idêntico a si apesar de todas as mudanças de matéria, enquanto o robô, o sistema artificial, tem identidade apenas em sua função e utilidade para um propósito externo, e se a autopreservação do vivo, sobretudo a regulação de sua homeostase, é ao mesmo tempo a base de sua experiência primária, dos impulsos e sentimentos, fica claro que um sistema apenas funcional em termos sensoriomotores não representa base adequada para processos vivos e conscientes.
18. Sem processos vitais basais como o metabolismo não há necessidades nem impulsos, e a consciência não é laço de retroalimentação nem modelo de si, seja no cérebro ou num robô, mas experiência, isto é, uma integração especial do processo vital de um organismo como um todo, e o acesso que os humanos têm ao vivo se distingue pelo fato de que nós mesmos somos vida e experienciamos nossa vida, e se percebemos ou reconhecemos um ser como vivo não é por tirar conclusões de suas estruturas ou processos biológicos, mas primordialmente por reconhecer nele nossa própria vida.
19. Se um dia se conseguirem criar em laboratório sistemas autopoiéticos, autorreplicantes, com metabolismo e sensibilidade, e se os reconhecermos como vivos, esses sistemas no mesmo momento deixarão de ser meros produtos técnicos, pois o que reconhecemos como nosso igual não foi feito por nós, é ipseidade e portanto algo que vem de si mesmo.
20. Em suma, o termo vida artificial é um nome impróprio, pois não existe vida artificial, já que a vida em princípio não é fabricada mas autoagenciada e autodesenvolvida, e a suposição de que organismos são nada mais que algoritmos ignora que a vida se baseia na autorganização de um sistema biológico, descritível apenas em termos de autopreservação, homeostase, metabolismo, diferenciação e crescimento, sendo absurdo biológico acreditar que tudo isso se descreva em algoritmos com que qualquer sistema possa ser programado desde que consista em compostos de silício, transistores, fios, alavancas ou tubos suficientemente complexos.
21. Qualquer processamento de informação representável em algoritmos e implementável em robôs não é a base do que nos torna seres vivos e humanos, pois humanos não consistem em dados ou números, nem em pura forma ou pura mente, mas são seres de carne e sangue, vivos, crescendo, experienciando e mortais.
22. A tabela comparativa resume as diferenças entre inteligência humana e IA, contrastando o vivo com o inanimado, a espontaneidade e autocausalidade com o acionamento externo, a subjetividade corporificada com a ausência de subjetividade corporificada nos robôs, a experiência e autoconsciência com a pura exterioridade, a reflexividade e compreensão com a transformação entrada-saída sem compreensão, a posição excêntrica e visão de conjunto com a ausência de posição excêntrica e o cálculo da relação máquina-ambiente sem autorreferência, a relação com o outro e tomada de perspectiva com a ausência de relação e perspectiva, a relação com o futuro e o estar à frente de si com a ausência de relação com o futuro, a resolução de problemas com a resolução apenas da perspectiva do usuário, a decisão por avaliação de alternativas imaginadas com a seleção de opções segundo especificações de programa, a aprendizagem pela experiência com a adaptação por treino de entrada, o reconhecimento de semelhanças, gestalt e intuição com a seleção de padrões por congruência estatística, e o generalista com o altamente especializado.
Conclusão: Simulação e Original
1. O progresso das simulações torna necessário clarificar as diferenças categóricas entre inteligência humana e artificial e entre seres vivos e sistemas artificiais, pois a inteligência no sentido próprio está atada ao insight, à visão de conjunto e à autoconsciência, a vida é autorganização e automovimento e não produção e programação, e a vida como experiência é por sua vez a precondição da inteligência.
2. O conceito de inteligência inconsciente é um oximoro, pois o que parece inteligente no desempenho de sistemas de IA é apenas projeção de nossas próprias capacidades inteligentes, e seu aparente rastreamento de metas ou resolução de problemas, suas supostas predições ou avaliações, derivam sem exceção de nossos próprios objetivos, problemas, soluções e avaliações, que formalizamos em programas e terceirizamos num mecanismo para poupar o trabalho de calcular, como o relógio que mede o tempo para nós porque terceirizamos nossa própria experiência de processos naturais regulares.
3. O inteligente não é o relógio mas apenas o relojoeiro, e tão sem sentido quanto atribuir conhecimento do tempo ao relógio é atribuir percepção de perigo a um carro inteligente ou compreensão de linguagem a um robô inteligente.
4. A tecnologia humana, como mostrou Ernst Kapp em sua filosofia da técnica, é basicamente criada por projeção de órgãos, como projeção e extensão do corpo, de seus membros e capacidades, com o machado, o martelo, a tesoura, a pena ou a máquina de escrever sendo membros estendidos, órgãos artificiais e cada vez mais diferenciados que acoplamos ao corpo para trabalhar o mundo, e o homem é um deus protético, como zombou Freud, pois seu próprio corpo se torna seu instrumento e modelo de todas as ferramentas externas.
5. A inteligência artificial é também projeção de órgãos levada ao extremo, pois do ábaco ao Deep Blue as máquinas de calcular são extensões de nossa capacidade de contar com os dedos, abstraída em pensamento lógico-matemático e formalizada em algoritmos, mas perdemos a consciência de que lidamos apenas com uma exteriorização de nossa própria capacidade de calcular e pensar, com uma projeção de nós mesmos.
6. Equipadas com mecanismos engenhosos e fontes adicionais de energia, nossas ferramentas e máquinas sempre nos superaram, pois o tear manual tecia mais do que uma mão e os tecelões tiveram de se render aos teares mecânicos a vapor, e hoje a automação afeta nosso desempenho intelectual terceirizado, e com os avanços da IA parece que estamos de novo numa ação de retaguarda, com xadrez, Go e pôquer perdidos e planejamento, escolha, decisão e até direção de carro cada vez mais tomados de nós, surgindo dúvida e confusão sobre se somos versões deficientes de nossas próprias invenções supostamente inteligentes, e nossas máquinas nos questionam e nos impelem à vergonha prometeica que Anders previu em 1956.
7. No entanto, assim como toda ferramenta anterior derivou sua função e adequação apenas de nosso manuseio corporificado do mundo, todo sistema artificial permanece dependente de nosso próprio desempenho consciente e proposital da vida, pois todo programa que roda em tal sistema é um programa apenas para nós, isto é, processos propositais, e um sistema não se interessa por nada, não sabe, reconhece, compreende nem experiencia nada, e por mais enganosa que seja a semelhança de suas funções com o desempenho humano e por mais espantosa que seja sua superioridade especializada, não devemos nos deixar enganar, pois a posição excêntrica é reservada apenas a nós.
8. Nossos supostos duplos artificiais são apenas um automal-entendimento do ser humano, são e permanecem nossas próteses, e sua inteligência é apenas a projeção da nossa, e mesmo não havendo inteligência inconsciente, e vice-versa, mesmo a mais perfeita simulação da inteligência não gera consciência, os avanços da tecnologia de simulação não deixarão de ter efeito, pois o antropomorfismo inerente à nossa percepção e pensamento nos tenta facilmente a atribuir intenções, ações e até sentimentos humanos às máquinas.
9. Com robôs humanoides revive um animismo que se pensava pertencer ao mundo pré-histórico ou ao pensamento infantil, pois o pato simulado é tomado por pato real e o como se da simulação se perde, seja porque a diferença categórica não é mais compreendida, seja porque por fim parece indiferente, e a crença de que sistemas de IA já pensam, sabem, planejam, predizem ou decidem ameaça dissolver as fronteiras categoriais entre simulação e realidade, máquina e humano, valendo ainda mais hoje o alerta de Hans Jonas sobre a forte e quase irresistível tendência da mente humana a interpretar funções humanas em termos dos artefatos que as substituem e artefatos em termos das funções humanas substituídas, facilitada pelo uso de terminologia intencionalmente ambígua e metafórica.
10. É inegável que termos como pensar, decidir, inteligência ou consciência podem ser definidos como saída, como Turing já sugeriu, mas ao fazê-lo elevamos as máquinas ao nosso nível e nos degradamos a máquinas, e erros como o deslize de Sophia mostram que os humanos ainda sabem discernir o que é mera saída de máquina, e o Prêmio Loebner, oferecido anualmente desde 1991 ao primeiro sistema de IA que passe no teste de Turing, nunca precisou ser pago, pois todos os sistemas que tentaram falharam nos problemas de senso comum e conhecimento de fundo, e mesmo que sistemas futuros passem no teste isso não significa que sintam ou experienciem algo, será apenas consciência falsa.
11. Uma dissolução gradual das diferenças categoriais poderia ter consequências graves, pois o trato com sistemas artificiais substituirá cada vez mais experiências humanas de relação, como quando um robô peludo chamado Macaco Brinquedo Inteligente deve servir de amigo a crianças pequenas e promover seu desenvolvimento socioemocional, robôs de cuidado substituem o cuidado humano de pacientes com demência e supostamente ouvem suas histórias, ou pacientes recebem psicoterapias online programadas que poupam a visita a um terapeuta, tornando-se as máquinas artefatos de relação, como diz Sherry Turkle, que fraudam as pessoas de comunicação real, devendo ser exigência básica que sistemas de IA se identifiquem como tais e não enganem quem lida com eles de boa-fé.
12. O perigo maior é provavelmente deixar voluntariamente cada vez mais decisões aos sistemas, que são transparentes apenas para poucos e escapam ao controle democrático, pois quanto mais complexa a sociedade, mais atraente pode ser delegar planejamento e decisão às máquinas, como já ocorre no mercado de ações, seja porque os resultados são declarados mais objetivos, seja porque cresce a disposição de delegar responsabilidade pessoal diante da complexidade do mundo, havendo o risco real de desaprendermos gradualmente a fazer escolhas morais, como se os sistemas nos fossem superiores nisso como o Deep Blue foi a Kasparov.
13. As avaliações implementadas em sistemas de IA baseiam-se sem exceção em valores humanos, e nenhum sistema inteligente nos diz por si mesmo o que é certo, bom e eticamente imperativo, e quanto mais se estabelece a ideia da inteligência artificial como forma supostamente superior de análise, predição e avaliação, mais provável é que se esqueça que as decisões, com todos os seus imponderáveis, só podem ser tomadas por humanos, pois a responsabilidade não é categoria técnica e não pode ser passada a sistemas artificiais e tecnologias, baseando-se em decisões livres guiadas por valores, e como sistemas de IA e computadores não podem decidir nem sentir valores, a responsabilidade não lhes é aplicável, embora as tecnologias possam obscurecer a responsabilidade real pela suposta objetividade dos algoritmos.
14. Há o perigo de que, na realidade, algumas corporações e elites da tecnologia da informação tomem as decisões cruciais e controlem cada vez mais áreas da sociedade por meio do Big Data, e os avisos frequentes de uma tomada de poder por máquinas inteligentes são sem dúvida sem sentido por suporem que sistemas inconscientes têm vontade própria, mas é precisamente como espíritos servos que os sistemas de IA podem mudar profundamente o equilíbrio de poder na sociedade, e então não são as máquinas que assumem o controle, mas quem possui e controla as máquinas.
15. O desafio decisivo da inteligência artificial está, porém, na pergunta que ela nos faz sobre nós e nossa autoimagem, a saber, se nossa humanidade se esgota no que pode ser traduzido em simulação e tecnologia, se existe apenas em complexos algoritmos neurais e se nossa experiência é apenas epifenômeno, e se a vida pode ser plenamente descrita como sistema de laços de controle ou se não consiste antes na ipseidade e na atividade própria do vivo, pois precisamente porque a técnica excede nossas capacidades especializadas ela nos desafia a redescobrir em que consiste nossa existência especificamente humana, cabendo a nós decidir se queremos nos medir pelo desempenho da IA e nos ver cada vez mais como seres deficientes, ou se queremos reconsiderar nossa humanidade real diante de nossas máquinas.