"O que sonham os androides", por Angela Mitropoulos

PICICA: "O que as máquinas pensam de ter de trabalhar o tempo todo?"

O que sonham os androides

Por Angela Mitropoulos, no S0metim3s | Trad. UniNômade
—

—
O que as máquinas pensam de ter de trabalhar o tempo todo? Pascal, o matemático do século 17, inventou a roleta enquanto tentava construir uma máquina de moto contínuo, reza a história. Se é verdade ou não, continua sendo uma história profundamente apócrifa. A figura do cientista cujos experimentos esbarram em invenções acidentais é tão comum na história da ciência quanto a especulação sobre a possibilidade de um moto contínuo. Para ser mais específica, um dos obstáculos mais duradouros à criação de robôs dotados de inteligência artificial — isto é, máquinas capazes de interações complexas, aprendizado e adaptabilidade — tem sido a ausência na física de formulação efetiva de um tempo irreversível. Formulações matemáticas tem sido na maior parte das vezes de um tempo reversível — pode ir pra frente assim como pra trás — porque elas não são realmente formulações sobre o tempo, mas sim cálculos sobre a dança da matéria no espaço. É muito parecido com roleta: uma bola branca girando ao redor de uma roda dividida em casas pretas e vermelhas, numeradas de 1 a 36.

De fato, a física não captou nenhum conceito discernível de tempo antes da mecânica se tornar motorizada, energética. Isto, talvez, seja a vingança do não-tão-servil ciborgue espreitando nas sombras da citação termodinâmica de Marx, de que a luta de classe é o motor da história. Antes da industrialização em larga escala e o hipotético motor de calor de Carnot no século 19, a física estava majoritariamente satisfeita em compreender o tempo através do movimento, forças gravitacionais, massa, aceleração, inércia. Ainda assim, simultaneamente perturbada pelo problema da entropia e a busca por automação e robótica, os físicos começaram a aproximar-se do conceito de um tempo irreversível, ao elaborar as distribuições estatísticas de trajetórias desconhecidas. A máquina de Boltzmann é a instância mais notável de uma rede geradora, estocástica; mas permanece na teoria, em vez de realizar o salto prático em direção a máquinas adaptativas e complexas. Fica na teoria porque, na tentativa de ser produzida, a máquina se depara com problemas de saturação sem restrição. Elas quebram por causa de excesso de “barulho”, dados demais. Formulações algorítmicas em ciência da computação têm providenciado uma complexidade crescente na forma de operações sintáticas. Ainda assim, o conceito de tempo em física permanece, na melhor das hipóteses, uma ideia de um fenômeno derivado, emergente ou relativo. A formulação mais complexa que os físicos atingiram até agora foi que matéria e tempo estão enredados. E assim, na história mais recente da física, chegamos às teorias da mecânica quântica, bem distantes das condições equilibradas das estruturas dissipantes, e assim por diante; isto é, o reconhecimento pronunciado da incerteza fundante (princípio de Heisenberg), a agitação das moléculas, a volatilidade.

O ponto desta excursão breve na história da física é sublinhar a inexistência de uma medida uniforme do tempo, e assinalar uma ironia sugestiva. A implicação do que foi dito acima não é simplesmente que físicos tenham sido encorajados por considerações práticas a capturar processos estocásticos em formulações matemáticas, embora com restrições paramétricas ou alguma versão de renormalização, que interrompam dessa maneira os processos randômicos genuínos. Não apenas eles admitiram a indeterminação fundante do tempo em seus cálculos, bem como aceitaram que os tempos em que vivemos não são eternos nem universalizáveis. Mais sugestivamente, talvez, eles propuseram que a condição técnica para a criação de máquinas adaptáveis, complexas, que possam aprender e resolver problemas difíceis não é o moto contínuo, mas, em vez disso, paradoxalmente, o sono REM, ou seja: sonhar. Como Foulks [1] e outros dizem, “a melhor forma de equilibrar as necessidades energéticas do robô e assegurar a sobrevivência é usar o descanso noturno para reorganizar os pedaços de dados adquiridos durante o aprendizado diurno, e jogar fora os dados menos úteis”. O sono é, noutras palavras, induzido de maneira a evitar a saturação pelo ruído, problema encontrado pela máquina Boltzmann. Também colocou como solução eficiente ao problema de escala: “os mesmos circuitos podem ser usados tanto para o aprendizado diurno e o esquecimento norturno e, assim, custos são menores”. Muito disto está pressuposto nas hipóteses neuropsicológicas sobre o papel do sono na memória, em lembrar e esquecer. O desenvolvimento de aproximações algorítmicas das células do cérebro humano durante o sono REM é uma consequência do desenvolvimento institucional de plataformas transdisciplinares envolvendo neurofisiologia e ciência da computação, assim como é resultado da invenção de instrumentos que mapeiam e medem o cérebro, que precipitou uma obsessão com o cérebro, como lugar de explicação e experimentação. Antes disso, o mapeamento do genoma humano similarmente elevou a genética ao centro das atenções. Séculos atrás, o foco era o coração. Nesse sentido, nada do que foi falado leva à ideia de renovação da fé na ciência ou tecnologia. Longe disso.

Significativo aqui é a extensão que a busca por máquinas inteligentes tem, devido a falhas práticas que têm acossado outras abordagens, crescentemente envolvido experimentos com máquinas capazes de dormir e sonhar. Físicos como Pascal e Prigogine estão interessados porque, ao privilegiar o experimental e, portanto, o prático, foram obrigados a derivar determinismos da incerteza fundante. A teoria do caos, como discutido por Prigogine e Stengers, está inclinada a discernir a ordem que surge da desordem, embora uma que esteja longe do equilíbrio e que seja emergente. Nos “Pensamentos”, Pascal tinha sustentado que não é certo que tudo seja incerto, ao contrastar o impacto afetivo da continuidade relativa do tempo (acordado) com aquilo que não era afetado, ao tratar da descontinuidade incansável dos sonhos (“todos sonhos são diferentes”). Existe, no entanto, certa recorrência nos sonhos. Mas, ainda mais importante, e contra Pascal e Prigogine, — o tempo irreversível, a trajetória da “seta do tempo” permanece incerta, indeterminada, incalculável no caso singular.

O que levanta a questão subjacente sobre sistemas em vez de máquinas específicas. O modo com que os limites ou parâmetros são estabelecidos contra essa incerteza, assim como são feitas as conjecturas sobre máquinas inteligentes, em sistemas de controle ou empresas corporativas, acontece por meio do problema da alocação de risco. Em experimentos sobre o desenvolvimento de máquinas inteligentes, incluindo aquela conduzida por Foulk et al, mencionada acima, os custos permanecem internos às hipóteses e formulações. Em todos esses experimentos, as máquinas são assumidas como propriedade da empresa, e todos os custos suportados por seus proprietários. A tentativa de minimizar custos se traduz no desenvolvimento de máquinas que podem dormir. Por contraste, os sistemas de responsabilidade de empresas estão orientados em direção à externalização dos custos negativos (“externalidades negativas”). Colocado de maneira simples, a incerteza é deslocada — os trabalhadores assumem os custos de sua própria saúde, riscos ruins como degradação ambiental são colocados de fora da responsabilidade da empresa, o impacto de lucro privado é socializado, e assim por diante. Isto é, a ausência de qualquer medida uniforme do tempo é, na prática, suplantada pela generalização do sistema de medida que tem, em seu centro, um mecanismo que aloca risco e incerteza para fora. Este é o contrato. O apelo às máquinas, ou à automação, desde a perspectiva das empresas e patrões, tem sido há tempos atrelado à inabilidade de as máquinas e robôs assinarem e negociar contratos. A definição do trabalho sem qualquer associação com as máquinas, ou o humano desde a máquina, tem sido parte importante da história do movimento do trabalho. E ainda assim, pode ser que na falha persistente da expectativa em tornar-se uma máquina inteligente capaz de trabalhar continuamente, cada vez mais acompanhada pelo estímulo plausível da emoção, que subsista uma falha fatal do sistema.  Esta seria uma estratégia do devir-máquina — da desafetação ou “virar robô” (como Arlie Hochschild nota na tática de comissários de bordo sobrecarregados), como discutido noutro lugar [2].

No campo florescente do sono e da pesquisa de desempenho, o desenvolvimento de tecnologias biométricas que permitam quantificar o cansaço de motoristas de caminhão, entre outras coisas, ressalta os limites do deslocamento contratual com as estratégias de gestão do risco, da parte das empresas. É também lembrete que o fator acidental permanece um aspecto da irreversibilidade do tempo. É o fator acidental que leva inovações em sistemas de gestão e controle do risco, mas todas essas inovações falham porque a trajetória do singular irreversível — o clinamen de Lucrécio — vai sempre eludir a previsão e a prevenção. Então, o que as máquinas pensam de ter de trabalhar o tempo todo? O termo crucial desta questão não é, como pode primeiro ter parecido, “máquina”, “pensar” ou “trabalho”. É a inconstância e inconsistência do “tempo” que condiciona todos esses conceitos. O sistema tende em direção à falha — isto é, no máximo ao pseudo-equilíbrio — precisamente porque não existe maneira uniforme ou efetiva de medir o tempo irreversível.

—
 
[1] J.D. Foulks et al. Do robots need sleep? Clinical Neurophysiology, 34:2. 2004. pp. 59-70.

[2] Angela Mitropoulos, Uncanny Robots and affective labour. In Oikonomia. Cultural Studies Review. 13:1. 2012, pp. 167.

Fonte: Universidade Nômade Brasil