Em seu livro mais recente, “The AI Mirror” (O espelho da IA), do ano passado, a filósofa americana Shannon Vallor sustenta que o perigo oferecido pela inteligência artificial é muito diferente do que se costuma imaginar.
O “risco existencial” para nossa espécie não viria da progressiva substituição de gente por máquinas, geradora de desemprego e, no limite, de nossa extinção. O perigo estaria em nós mesmos, em nosso enamoramento pela imagem que a IA reflete, como o de Narciso em seu lago.
Especialista em ética da tecnologia, a autora acredita que, se não abrirmos o olho, veremos “os poderes e virtudes mais vigorosos da espécie –nossa capacidade de pensamento criativo, ambição moral, imaginação política e, acima de tudo, sabedoria– serem afogados no espelho da IA”.
Afogados porque rendidos, entregues de graça ou em troca de miçangas coloridas. Terceirizados, por narcisismo e preguiça, a algoritmos que se baseiam no que decidimos no passado para decidir em nosso nome no futuro.
Decidir tudo: escolher gente para vagas de emprego, prender gente com base em reconhecimento facial, dosar fluxos de socorro humanitário para populações flageladas, resumir um grosso relatório em meia página.
Mas qual seria o problema disso tudo, ferramentas que podem ser tão úteis na solução de problemas? Segundo a autora, o risco é nada menos que a estagnação da espécie.
Junto com o poder de decidir, estamos abrindo mão do domínio dos próprios meios para a tomada de decisões: escrever, fazer contas, projetar, raciocinar, escolher. Chafurdamos cada vez mais no pântano de nosso próprio vômito de referências recombinadas.
Todas as tecnologias, argumenta Vallor, sempre desafiaram moralmente os seres humanos, levando-os a conceber novos valores e formas de viver em sociedade. A seta sempre apontou para o futuro –até agora.
“Precisamos abraçar, renovar e aprofundar esse aprendizado moral”, prega a autora, “porque a IA representa uma forte tentação de esquecê-lo, aceitando em seu lugar um reflexo pálido e estático daquilo que um dia soubemos a nosso respeito”.
Para agravar o problema, esse risco de autoencarceramento no passado ocorre num momento crítico, quando mais precisamos de imaginação e engenho para lidar com um futuro que, na melhor das hipóteses, será de desafios imensos.
“Estamos diante de crises planetárias e civilizacionais que a humanidade nunca enfrentou antes”, escreve Vallor. “Você planejaria sua escalada de uma montanha perigosa e desconhecida olhando pelo espelho, para aquilo que ficou para trás?”
Eu posso garantir que não. Como também não embarcaria na modinha dos últimos dias, tão forte que sobrecarregou o sistema do ChatGPT, de se ver retratado no traço artesanal do Studio Ghibli.
É que gosto demais dos longas de animação deles para que a trivialização algorítmica de um trabalho artístico maior —feita sem o pagamento de direitos autorais e reeditada pelo público até a náusea, em troca de meio teco de endorfina– me pareça, sob o disfarce da diversão inocente, menos que uma estupidez e um crime.
LINK PRESENTE: Gostou deste texto? Assinante pode liberar sete acessos gratuitos de qualquer link por dia. Basta clicar no F azul abaixo.
