O desenvolvimento da inteligência artificial levanta uma questão de grande importância prática e ética: as máquinas podem adquirir consciência? Para responder a essa pergunta, precisamos primeiro entender o que queremos dizer com “consciência”.
Esse termo implica a consciência do que está acontecendo ao nosso redor, em nosso organismo ou de nossas ações, o que nos permite comportar-nos de maneira flexível e controlada. O comportamento consciente pode ser distinguido por duas características, ou recursos:
- A primeira característica (R1) refere-se à disponibilidade global de informações. Embora algumas partes do cérebro sejam altamente especializadas (áreas visuais, motoras e de memória), um requisito da consciência é que as informações estejam disponíveis globalmente. Ou seja, se vemos algo, podemos dizer qual é a cor, a forma, o som ou como ela é percebida.
- A segunda característica (R2) permite o automonitoramento desse processamento. Ele avalia se a resposta foi certa ou errada, o que nos permite corrigir essa resposta imediatamente ou em situações futuras. Isso é conhecido como “metacognição”.
- Vamos, por exemplo, preparar uma omelete de batata. Nessa receita, precisamos selecionar os ingredientes, pegá-los e usá-los no momento certo (primeira característica). Durante a preparação, temos de provar o alimento em etapas intermediárias para avaliar o sabor a fim de adaptar essas características às preferências do momento. Se, por exemplo, quisermos reduzir a quantidade de sal, usaremos menos sal, mas controlaremos para que o resultado final seja satisfatório (segunda característica).
- Ambas as características são consideradas pré-requisitos para a consciência. Se um deles estiver faltando, o processamento será inconsciente. Poderíamos colocar sal sem perceber, pois é algo que fazemos automaticamente. Esse processamento é eficiente, não consome atenção nem recursos de memória, mas é limitado. Não podemos avaliar se adicionamos a quantidade certa e, às vezes, isso até nos faz duvidar se o adicionamos ou não.
- Uma das grandes limitações do processamento inconsciente é que “não estamos cientes do que não estamos cientes”. Ou seja, não podemos estimar como é o nosso processamento inconsciente nem avaliá-lo.
Como avaliamos a consciência?
- A primeira característica (disponibilidade global) foi observada em seres vivos sem linguagem. Desde os primeiros meses de vida, os bebês humanos são capazes de compreender regrase responder a estímulos que não seguem uma sequência previamente estabelecida. Animais como corvos e primatas podem responder (se treinados) com respostas do tipo sim ou não a estímulos que são muito difíceis de detectar.
- A segunda característica (metacognição) refere-se à nossa capacidade de autoavaliação do processamento. Quando percebemos ou respondemos conscientemente, podemos estimar a probabilidade de que nossa percepção ou resposta esteja correta. Isso pode ser avaliado em animais medindo-se o quanto persistem na escolha inicial (persistiremos mais quanto mais certos estivermos) ou permitindo a opção de não responder (em situações de menor certeza, escolheremos com mais frequência essa opção de não responder).
Máquinas podem ter essas características?
- Alguns pesquisadores propõemque ambas as características poderiam ser implementadas em máquinas, de modo que elas agiriam como se estivessem conscientes.
- Imagine que agora é um robô que precisa preparar a omelete de batata. Se ele pudesse medir a pressão arterial do comensal, essa informação poderia ser disponibilizada para todo o sistema (primeira característica) para cozinhar com menos sal se a pressão arterial estiver alta. Ao mesmo tempo, se a pressão arterial estiver excessivamente alta, esse sistema poderá enviar um alarme para o telefone da pessoa para que ela marque uma consulta médica (primeira característica).
- Além de tornar as informações acessíveis, seria interessante que o robô avaliasse seu próprio comportamento (por exemplo, se a adição de cebola à omelete resultou em um sabor agradável) e se atualizasse continuamente (segundo recurso).
- De acordo com este posicionamento, a consciência poderia ser reduzida a um conjunto de cálculos que poderiam ser implementados em máquinas.
- O que essa abordagem não leva em conta é que, nos organismos biológicos, a consciência surge não apenas da interação do cérebro com o ambiente, mas também da interação do cérebro com o próprio organismo.
- A fome, por exemplo, gera uma série de reações fisiológicas que o cérebro interpreta como uma sensação, emoção ou sentimento. Essas interpretações são uma parte essencial da consciência dos seres vivos, que se desenvolveram ao longo de milhões de anos de evolução e permitem a sobrevivência.
- Diante do perigo, o coração bate mais rápido, o que nos ajuda a escapar da situação, mas também gera medo. Estudos recentes descobriram que o batimento cardíaco é mais lento quando é percebido conscientemente do que quando não é percebido conscientemente. Isso indica que estar consciente envolve não apenas o monitoramento do ambiente, mas também o monitoramento dos próprios sinais que nosso corpo envia para melhor se adaptar, aprender e adaptar nosso comportamento às demandas variáveis do ambiente.
- Essas interações entre o cérebro e o organismo são essenciais para gerarmos experiências subjetivas em primeira pessoa (“Eu vi”). Compreender a consciência nos seres humanos envolve entender não apenas como respondemos ao ambiente, mas também como as informações do sistema nervoso central (cérebro) e periférico (organismo) são integradas para criar a experiência subjetiva da percepção.
Consciência ainda muito distante
- As evidências científicas atuais mostram que, para que a consciência ocorra, é necessário um sistema capaz de processar informações selecionando parte delas para torná-las disponíveis globalmente (primeiro recurso) e que avalie, aprenda e retifique com base na experiência (segundo recurso).
- Os cálculos realizados atualmente pelas máquinas não atendem a essas características e, além disso, carecem de uma mente e de um organismo vivo capaz de construir representações sensoriais tanto do ambiente quanto do estado interno de seu próprio organismo (o hardware, no caso das máquinas).
- Essa falta de monitoramento interno entre o cérebro e o organismo limita a possibilidade de as máquinas desenvolverem a consciência como a concebemos atualmente. Entretanto, a ciência deve permanecer atenta ao rápido progresso da tecnologia, monitorando seus avanços e antecipando os dilemas éticos que possam surgir.
Por, redação Olheinfo.
Este artigo foi originalmente publicado em espanhol, por The Conversation.
