0

Porque é que um mundo povoado por robôs seremos convidados indesejados?

Os Comentários no "Il Sole 24 Ore" - Mind the Economy, a série de artigos de Vittorio Pelligra, publicados no jornal "Il Sole 24 ore"

por Vittorio Pelligra

publicado no jornal "Sole 24 ore" em 06/10/2019

É mais fácil um robô interagir com um outro robô do que com um ser humano. Para um artificial trader (operador comercial artificial) a troca de ações e títulos em um mercado povoado por outros trader artificiais é mais simples que operar em um mercado povoado por operadores de carne e osso. Para um carro autônomo é mais fácil circular em estradas percorrida por carros semelhantes, do que naquelas onde circulam carros com direção humana. 

Uma simples constatação que nos faz intuir, no entanto, quais incentivos operam e operarão cada vez mais, em um futuro próximo, nos campos da robótica social e da vida sintética em geral. Quais pressões e direções determinam esses incentivos e, em consequência, quais as tendências na evolução desses mercados? Criar ambientes que minimizam a intervenção humana e possivelmente até a sua presença. Em um mundo onde o espaço de ação das máquinas "inteligentes" está crescendo, nós, humanos, seremos cada vez mais convidados indesejados.               

Robô ama robô 

Vamos começar com a premissa. Por que robô ama robô, e algoritmos outros algoritmos? Porque o mundo povoado por máquinas complicadíssimas se torna, paradoxalmente, um mundo muito simples para elas. Em 1936, o grande economista John Maynard Keynes publicou a "Teoria Geral", um livro revolucionário cuja influência sobre o posterior pensamento econômico dificilmente poderia ser sobrestimado. No capítulo 12, para ilustrar o funcionamento dos mercados financeiros, Keynes apresentou o exemplo do “concurso de beleza”: imaginem um concurso em concurso. Toda semana vêm publicada fotos de jovens em um jornal nacional. Essas jovens são votadas pelos leitores de acordo com a sua beleza. Vencerá aquela mais votada, assim como aqueles leitores que adivinharam qual seria a mais votada. A essa altura, para poder vencer, não será tão necessário escolher a jovem mais bonita, mas aquela que todos os outros participantes consideram como a mais bonita, levando em consideração que a avaliação da parte de cada participante, será influenciada a partir do que eles pensam que todos os outros pensarão. 

Eis que o critério objetivo da beleza da jovem sai do jogo para dar espaço à especulação em cima das outras especulações. Atualmente, uma versão moderna do concurso de beleza está sendo usada pelos economistas comportamentais para estudar e medir a profundidade do pensamento estratégico. Imagine que você participará de um concurso de beleza, no qual é preciso escolher um número de 0 a 100, sabendo que o vencedor será aquele, dentre todos os participantes, que terá escolhido o número mais próximo dos dois terços da média de todos os números escolhidos. Qual você escolheria? A teoria dos jogos nos sugere uma maneira eficaz para resolver este dilema. 

Funciona através de passos interativos. Primeiro passo: o que aconteceria se todos os participantes, exceto você, escolhessem o número mais alto possível, ou seja, 100? A média dos números seria 100 e, para poder ganhar, você teria que escolher os dois terços de 100, ou seja, cerca de 66,66. Isso significa que nenhum número acima de 66,66 poderá ser o número vencedor e, portanto, nenhum jogador, racionalmente, o escolherá.  Segundo passo: dado que o maior número razoavelmente selecionável, agora é 66,66, qual seria o número vencedor se todos escolhessem o número mais alto dentre aqueles racionalmente selecionáveis? O 44,44, claro; os dois terços dos 66,66. Por conseguinte, ninguém jamais escolheria um número maior que esse, porque nenhum número acima de 44,44 poderia, obviamente, ser o número vencedor. 

Racional chama racional

Repetindo esse raciocínio de "eliminação sucessiva de estratégias estritamente dominadas", a solução é alcançada: o  número vencedor é zero. Todos os jogadores racionais o escolherão e todos vencerão, mesmo que, para isso, tenham que ser constrangidos a dividir o prêmio. Ficou claro? A solução baseia-se em três condições: os participantes são racionais; com certeza nenhum jogador racional escolherá um número perdedor; todos sabem que todos são racionais. Essa última condição, é particularmente muito interessante. É aquela que define a dita "consciência comum da racionalidade" (common knowledge of rationality) e requer que, para resolver uma situação estratégica, não é apenas necessário que todos sejam racionais, mas também que todos saibam que os outros são racionais e assim por diante, até ao infinito. 

Esse complicado requisito informativo, na realidade, serve para simplificar a situação. Porque, se eu sei que você é racional, então terei uma capacidade maior de prever o seu comportamento, do quanto não seria capaz se confrontado com uma ação completamente errada. Mas assim como o seu comportamento racional depende do meu comportamento, para que o número vencedor seja determinado pela escolha de todos os outros jogadores, para compreender e antecipar a sua escolha racional, eu devo aceitar que você está se comportando de acordo com o meu comportamento racional. E assim por diante. Somente se a racionalidade é de conhecimento comum, então a situação terá uma saída previsível. 

Mas, o que realmente acontece? Quando esse jogo é feito para ser jogado em um laboratório por sujeitos estimulados pelo dinheiro e colocados em condições de anonimato, aquilo que tipicamente se observa é que a distribuição dos números escolhidos apresenta um pico em torno de 30, e que, a maior parte das escolhas se aglomeram em torno do número 20. (Nagek, R., 1995. Unraveling in Guessing Games: An Experimental Study”. American Economic Review. 85 (5): 1313–1326).

Que tipo de raciocínio está na base desse resultado? A maior parte dos participantes, longe de reconhecer que os outros são racionais, pensam, na verdade, que os seus adversários escolherão de maneira totalmente aleatória, determinando, assim, uma média equivalente a 50. Para vencer nessa situação, portanto, muitos escolhem os dois terços de 50, logo 33,33. Os mais metódicos antecipam essa escolha e dão um salto estratégico adicional, escolhendo os dois terços de 33,33, isto é, 22,2. Eis a explicação dos dois picos. Existem, portanto, aqueles que escolhem de maneira aleatória (nível-0), depois os que tentam vencer esses (nível-1) e depois os que tentam vencer também esses (nível-2).

Raramente conseguimos ir além do nível 2 ou 3 do pensamento estratégico, mas, de qualquer forma, nunca nos comportamos como nos exige a teoria do equilíbrio, ou seja, executando um número infinito desses passos. É interessante notar que um jogador racional que assumisse estar lidando com outros jogadores racionais, embora esteja cercado por jogadores não racionais, nunca será capaz de vencer. Eis porque os jogadores racionais são estimulados a comportar-se de maneira não-racional. Eis porque, voltando aos mercados financeiros de Keynes, também um trader racional, muitas vezes é induzido a comportar-se de maneira não-racional. E ainda, eis porque é tão difícil evitar as bolhas especulativas. Essa é a chamada “teoria do mais tolo”: sempre existe alguém menos esperto (racional) do que você, para quem se pode vender um título, uma casa, um bolbo de tulipas, sobrevalorizado. Em suma, uma grande confusão. Bolhas especulativas, quedas repentinas, riquezas que surgem do nada e que, assim como surgem, desaparecem. Existem muito mais cisnes negros no mundo do quanto estamos dispostos a admitir.               

Uma possível saída desse estado onde nos encontramos, nos mercados financeiros, assim como em muitos outros âmbitos da vida social, é a que prevê a introdução de doses maciças de racionalidade no sistema, através da substituição de agentes humanos, não precisamente racionais, como vimos, por agentes artificiais, super racionais e, nesse sentido, mais confiáveis. Assim como os trader artificiais podem atenuar a imprevisibilidade das escolhas nos mercados financeiros e reduzir, desse modo, a sua volatilidade e o grau de incerteza, o mesmo pode ocorrer com os carros com direção autônoma. Se a maior dificuldade, no momento, com esse tipo de direção, é torná-la capaz de prever os movimentos intrinsecamente imprevisíveis dos outros motoristas humanos, para colocá-la na condição de reagir da melhor maneira e no menor tempo possível, é concebível eliminar a raiz dessa dificuldade, através de uma repentina substituição dos carros com direção humana por aqueles com direção autônoma.

O conhecimento comum da racionalidade se tornaria então, proporcional ao número de carros robôs em circulação ao mesmo tempo, uma suposição realista que poderia sustentar facilmente as escolhas racionais baseadas nas previsões das outras escolhas racionais e, dessa maneira, alcançar uma coordenação eficiente, e um nível de segurança mais do que aceitável. De um lado, portanto, pode-se tentar desenvolver uma tecnologia complicadíssíma e cada vez mais sujeita a um risco irredutível, ou pode-se eliminar aqueles irritantes, indisciplinados e imprevisíveis motoristas humanos.          

Os replicantes de Philip Dick

Mercados mais eficientes, estradas mais seguras, quem sabe a que outros “destinos magníficos e progressivos” a gradual substituição do ser humano pelo autônomo nos levará ao futuro próximo . A propósito, eu, todas as manhãs, tomo café preparado por uma cafeteira que liga sozinha na hora programada, portanto a automação, que vai da cafeteira ao carro que estaciona sozinho, do assistente vocal que liga para os meus amigos enquanto estou dirigindo, até às sugestões para a compra de um livro que alimenta a minha bibliofilia compulsivo, satisfaz-me, e muito. Mas aqui o problema não é a automação, mas sim a interação. A verdadeira dificuldade não está ligada à criação das máquinas capazes de fazer muitas coisas e ainda, melhor do que quando as fazemos. O verdadeiro problema é como estas máquinas são programadas para interagir conosco. 

Existem muitas estradas abertas no momento. Tem quem diga que o único resultado que seremos capaz de alcançar, será a capacidade da imitação do ser humano, pelas máquinas, tão sofisticadas que aproveitarão também a nossa acentuada tendência de antropomorfizar o inanimado, para que pareçam mais reais do que verdadeiras. Outros chegam a prever a possibilidade de simular uma certa forma de conscientização, através da criação de máquinas capazes de "auto-narrar", sedo essa a perspectiva da chamada "robótica interna", que imagina máquinas semelhantes aos substitutos de Philip K. Dick que, para aparentarem confiáveis aos humanos, devem antes de tudo aparentarem confiáveis a si mesmo e, por isso, abastecidas com memórias artificiais. De qualquer forma, é interessante perceber que o desafio de  hoje, joga não tanto com a capacidade única do agente artificial, mas, sobre plano da relação entre este e o ambiente, particularmente, entre o agente artificial e o agente humano.

A principal dificuldade relacionada a esse aspecto é que, até que tenhamos desenvolvido um profundo conhecimento da dinâmica inter-humana, da consciência relacional, da dimensão empática e do espaço compartilhado no qual age a nossa intersubjetividade, não seremos aptos a programar máquinas capazes de simular ou recriar essas dinâmicas, ou seja, a própria dinâmica da qual uma interação homem-máquina eficaz é nutrida. Então, atenção aos atalhos. Diante de tais e tantas dificuldades, a tentação ao atalho está sempre à espreita. Menos humanos, mais máquinas. Menos humanos nos lugares que contam e mais máquinas que fazem as coisas com e para eles. Recentemente tive a sorte de conhecer dois personagens, muito diferentes um do outro, mas que ao mesmo tempo me abriram uma nova perspectiva a respeito. De um lado o filósofo Paul Dumouchel que, com Luisa Damiano, escreveram: “O problema não é tanto se devemos deixar que os agentes autonômos decidam sozinhos (...) O problema é que, porque esses agentes autônomos são, de fato, clones cognitivos, concentram nas mãos de poucos - aqueles que os fabricam e aqueles que os comandam - o privilégio de determinar as escolhas que estruturam e orientam a nossa existência" (Vivere coi Robot. Saggio sull'empatia artificiale. Raffaello Cortina, 2019).

Algum tempo depois de Dumouchel, tive a oportunidade de conhecer Federico Faggin, o inventor do microchip e do touch screen (tela sensível/ecrã táctil), que hoje é um severo crítico do expansionismo social, dos grandes nomes do Vale do Silício (Silicon Valley) que também conhece bem e para cujo o sucesso contribuiu significativamente. Faggin escreve em sua autobiografia publicada recentemente: "As estruturas materiais criadas pelo homem para representarem informações abstratas, não podem representar informações vivas, que são expressas através de símbolos vivos e dos significados coerentemente inseparáveis e controlados por um "eu" dotado de livre arbítrio. Não há nada de errado em fazer isso, desde que você não acredite que essas estruturas tenham consciência (...) Se pensarmos que somos apenas máquinas como os nossos computadores, nos acostumaremos a expressar principalmente símbolos abstratos, que pertencem a um mundo mental falso e cada vez mais desconectado da realidade impregnada de significados do nosso conhecimento. Nesse caso, a tecnologia se tornaria um ídolo que nos escraviza - e, conclui Faggin - o perigo é que os seres humanos substituam os relacionamentos reais e profundos pelas relações virtuais e superficiais, tornando-se cada vez mais semelhantes aos robôs inconscientes que farão cada vez mais parte do nosso futuro" (Silicio. Da invenção dos microprocessadores à nova ciência do conhecimento, Mondadori, 2019).

Se por trás disso tudo existe um implícito projeto dos grandes homens da inteligência artificial americana e chinesa, ou se é apenas uma paixão nietzschiana, tão ingênua quanto profunda, por uma tecnologia maravilhosa, no momento é difícil dizer. O certo é que uma perspectiva tão relevante sobre a interação profunda com máquinas cada vez mais sofisticadas, que no final, se trata do nosso próprio lugar como seres humanos nesse mundo, deve ser sempre mais objeto de debate público, em todos os níveis, desde as escolas até aos parlamentos, tanto nas praças virtuais como naquelas reais, porque os interesses em jogo são muito importantes e as possíveis consequências, para cada um de nós, históricas.

Image

vá para O ARQUIVO

Lìngua: PORTUGUÊS

Filtrar por Categorias

Siga-nos:

10-06-2021

Editoriais – Os valores resgatados das multinacionais para vacinas, famintos e empobrecidos por...

A economia do dar

A economia do dar

Chiara Lubich

«Ao contrário da economia consumista, baseada numa cultura do ter, a economia de comunhão é economia da partilha...

Leia mais...

As tirinhas de Formy!

As tirinhas de Formy!

Conheces a mascote do site Edc?

O dado das empresas

O dado das empresas

A nova revolução para a pequena empresa.
Dobre! Jogue! Leia! Viva! Compartilhe! Experimente!

O dado das empresas agora também em português!

quem está online?

Temos 477 visitantes e Nenhum membro online

© 2008 - 2019 Economia di Comunione (EdC) - Movimento dei Focolari
creative commons Questo/a opera è pubblicato sotto una Licenza Creative Commons . Progetto grafico: Marco Riccardi - edc@marcoriccardi.it

Please publish modules in offcanvas position.

Este site utiliza cookies, também de terceiros, para oferecer maiores vantagens de navegação. Fechando este banner você concorda com as nossas condições para o uso dos cookies.