Em agosto, recebi surpreendente convite do laboratório brasileiro da IBM Research para participar de painel no seu Colloquium 2017, abordando os impactos culturais da inteligência artificial (IA) em nosso país. Sempre me interessei por inteligência artificial, mas de forma totalmente diletante. Tive menos que dois meses para preparar minha fala. Foi uma correria. Mesmo assim, nem precisava me esforçar para encontrar material de pesquisa pois, quase que diariamente, o assunto estava nas manchetes de jornais e capas de revistas. Deixo aqui anotações que fui colecionando durante o aprendizado mais que intensivo. Como o convite era maluco (por que eu?), achei exigia uma intervenção maluca. Chegando lá – diante de seleta plateia de centenas de cientistas e engenheiros – amarelei. Fui bem comedido. Mas, aqui no blog, posso exagerar na maluquice irresponsável (ou talvez responsável demais, dependendo do ponto de vista):
No dia primeiro de setembro, Vladimir Putin proferiu uma “aula aberta” via satélite para abrir o ano letivo russo. Da lição científica presidencial, a frase mais retuitada foi a seguinte: “quem se tornar o líder nessa área [IA], dominará o mundo”. Parecia recado para seus coleguinhas, também viciados em testosterona, Donald Trump e Kim Jong-un. Como se dissesse, bancando o mais inteligente: “vocês perdem tempo brincando com mísseis, a batalha mais importante acontece em outro campo e usa outras armas…” Porém, o que mais me chamou a atenção foi algo pouco comentado nos artigos que repercutiram os ensinamentos do professor Putin: o objetivo principal da produção de conhecimento por uma nação não é algo vago como “contribuir para o aumento dos índices de felicidade geral” ou o “combate contra a injustiça” ou a “descoberta da verdade”, mas sim “dominar o mundo”. Eis o bê-a-bá do imperialismo.
Melhor deixar de lado esse tipo de especulação. Afinal, como descobrir o que realmente se passa na inteligência de Putin? Como se certificar se seus discursos não sejam apenas pistas falsas, escondendo seus verdadeiros planos de dominação global? Até porque, se há realmente uma corrida armamentista no campo da IA, a Rússia – ao que tudo indica… – não parece ocupar postos próximos aos primeiros colocados. EUA, China e talvez Índia estariam correndo na frente, quase isolados dos demais países. O resto é o resto.
E o Brasil estaria no resto do resto. O que isso significa? Está tudo – para ser – dominado por IAs que não pensam em português, que vão nos impor – sem escapatória – seus vieses culturais, suas maneiras bem específicas de classificar ou enxergar ou manipular a realidade, o mundo ao redor? Penso na IA do Google que colocou pessoas negras sob a tag “gorila”, provavelmente por, no seu processo de aprendizado, só ter lidado com seres humanos brancos. Os brasileiros seremos invisíveis, meros ruídos incompreensíveis (ou insignificantes, ou desclassificados), fantasmas nas máquinas da nova ciber-ordem? A quem interessará o investimento em machine learning para tornar detectáveis nossas diferenças?
Fiquei assustado com o cenário apocalítico, mas descrito com frieza ou objetividade comercial espantosas, que aparece no artigo que Kai-fu Lee, poderoso investidor “venture” chinês (ex-diretor do Google na China), publicou este ano no New York Times. Em resumo: a corrida é entre EUA e China. A IA vai acabar com a maioria dos postos de trabalho. A única saída será alguma espécie de renda universal, com impostos sobre as empresas vencedoras. Maior problema: o que fazer com os países que não terão empresas vencedoras? Não haverá alternativa (a pregação da crença neoliberal do artigo resposta de colunista da Forbes não me deixou menos preocupado): teremos que virar colônias dos vencedores, como mercado do consumo, aceitando os quadrados ou bolhas nos quais os algoritmos de Washington ou Beijing nos colocaram.
Mais assustador ainda foi descobrir recente edição especial sobre IA da revista Science e tomar conhecimento do trabalho do Centro de Psicologia Positiva da Universidade da Pensilvânia (comandado pelo psicólogo superstar Martin Seligman) com algoritmos para identificar sinais de depressão e outros problemas bem humanos nas redes sociais. Tudo bem intencionado. Um dos projetos se chama Bem-estar Mundial. Não quero ser ranzinza e alertar apenas para os problemas éticos óbvios, que todos os “papers” assinados pelos pesquisadores dessa instituição fazem questão de identificar com alertas: nossa saúde mental vai ser agora diagnosticada sem nossa autorização? Esse é somente uma característica de nossa realidade big brother/data cada vez mais sofisticada. Questão mais sutil: que diagnóstico será esse? Sabemos que culturas diferentes classificam estados mentais de maneiras distintas. Depressão em distantes bairros de uma mesma cidade pode não significar a mesma coisa. Vamos aceitar os laudos de algoritmos, mesmo com vieses “positivos”, feitos na Pensilvânia?
Sei que não sou a primeira pessoa me preocupar com esses aspectos da dominação global da IA. Há importantes debates e instituições nos EUA que tentam encontrar saídas para vários desses impasses. Cito a FATML.org, que cuida de “fairness, accountability and transparency” (prefiro não traduzir, pois são conceitos – até eles – que funcionam melhor em inglês) em processos de machine learning. Ou a diversity.ai, que lida com “inclusion, balance, neutrality”. Muitas empresas, como a Autodesk, criam departamentos para combater várias espécies de vieses. Tudo bem, tentam fazer sua parte. Mas qual a nossa parte? Seremos apenas espectadores, mendigando por algumas migalhas de atenção para nossas especificidades culturais, ou queremos ter voz ativa na invenção da nova política global? Nem espero tanta atividade: uma pequena intervenção realmente original nesta conversa já me deixaria menos desanimado.
*****
Tudo bem, muito o que se fala atualmente sobre IA é hype. Mas o hype geralmente cria as tais “janelas de oportunidade” que podem ser aproveitadas por quem está de fora do debate principal, usando a confusão blá-blá-blá geral para dar pitaco na conversa para a qual não fomos chamados. Na minha opinião o Brasil perdeu a oportunidade da internet. Não inventamos um aplicativo original para o uso da Grande Rede, como o Skype criado por estonianos, suecos e dinamarqueses (mas talvez seja o único exemplo de algo que realmente se internacionalizou – junto ao Waze? – vindo de fora dos EUA… e que acabou sendo comprado pela Microsoft). Nem criamos versões locais de ferramentas globais capazes de em seguida terem impacto no resto do mundo, como os chineses conseguiram com o Alibaba ou o Baidu. Os brasileiros se contentaram basicamente com o papel de consumidores vorazes das novidades, campeões ou vice-campeões em uso de redes sociais, publicação de vídeos, números de mensagens instantâneas trocadas… Nosso comportamento foi cada vez mais adquirindo o padrão de servidão voluntária diante de grandes corporações como Facebook. Trocamos a liberdade do código aberto (ou da noção de que a informação quer ser livre) por condomínios fechados administrados por empresas cada vez mais espertas no uso e na venda de nossos dados privados. Desconfio que quando falam em desenvolvimento nacional, grande parte dos brasileiros (inclusive dos economistas brasileiros) está pensando apenas na compra de camisetas da Abercrombie via Amazon. E todos ficam felizes com os mesmos uniformes aparentemente cosmopolitas, ou descaradamente submissos.
Meu consolo: pode existir algo criativamente predatório nessa tendência apenas consumista. Muitos estudos e artigos (por exemplo este aqui) sobre os trabalhos em vias de desaparecer por causa da IA profetizam que as juventudes das periferias pobres serão as parcelas da população mais prejudicadas quando operários ou pessoal administrativo forem substituídos por computadores. Habilidades mais sofisticadas, ou menos “algoritmizáveis”, como a comunicação, seriam monopolizadas por gente mais rica, estudantes de MBAs caros. Olhando para o que aconteceu no Brasil, sinto alívio em descobrir furos interessantes nessa tese. Novos comunicadores das periferias parecem ser os mais bem sucedidos criadores de conteúdo online no país.
Pense no Whindersson, que apareceu recentemente no topo da lista dos maiores influenciadores do Brasil, acima de apresentadores e atores da “mídia tradicional”. Ele foi criado em Bom Jesus, interior do Piauí, e hoje lota estádios de todas as capitais brasileiras com seu show solo de comédia stand-up. Observe atentamente a plateia da gravação de seu DVD em Salvador: em sua maioria parece ser formada por gente que não costuma frequentar teatro, uma novidade no show business brasileiro. Está ali para ouvir um monólogo que mistura observações de cultura tradicional nordestina com cultura pop de jogos eletrônicos e mangás japoneses, um mash-up de referências que são sempre pensadas, em ambientes acadêmicos, como mundos sem conexão.
Outro exemplo importante: Kondzilla é hoje um dos principais empresários de música e audiovisual no país. Seu canal no YouTube tem mais de 20 milhões de assinantes. O conjunto de vídeos ali publicados já acumulou mais de 7 bilhões de visualizações. Nenhuma outra empresa da mídia brasileira tem o mesmo tipo de sucesso online, construído na marra, inventando estratégias de viralização originais. Kondzilla tinha apenas 18 anos quando, com o dinheiro do seguro recebido após o falecimento de sua mãe, comprou sua primeira câmera de vídeo e começou a publicar clipes de MCs do funk santista e paulistano na internet. Vários outros fenômenos das periferias das grandes cidades brasileiras, do tecnobrega paraense ao sertanejo do Centro-Oeste, tiveram trajetórias semelhantes, abrindo caminhos em nova realidade diante da qual grandes gravadoras fracassaram.
Mas claro: tudo isso acontece utilizando plataformas de novas grandes corporações, em nuvens que não habitam céus brasileiros. Continuamos totalmente dependentes de tecnologia estrangeira para estabelecer links entre produtores e público.
*****
Também considero tímidas as tentativas de reflexão crítica sobre essa situação por parte das ciências sociais brasileiras. Há esforços isolados, aqui e ali. Pouca continuidade entre as tentativas, que surgem e desaparecem ao sabor de mudanças das políticas científicas e institucionais.
Em 1995, fui convocado por Tadao Takahashi, então diretor da RNP (a instituição que criou a – e ainda cuida da – espinha dorsal da internet brasileira, na época com sede carioca numa sala de fundos do IMPA), para organizar seminário “sobre aspectos sócio-culturais da internet no Brasil”. Chamei meus colegas antropólogos Eduardo Viveiros de Castro e Jayme Aranha Filho para me ajudar na tarefa. Eram tempos bem “ingênuos”: não havia ainda internet comercial no país. Para quem não era de universidade e governo, a única porta de entrada para a rede era uma ONG, o Ibase. A RNP imaginava que haveria tempo para planejar qual seria a melhor maneira da abertura comercial. O seminário aconteceu nos dias 28 e 29 de agosto daquele ano, no auditório do LNCC. Pouco tempo depois, o ministro Sérgio Motta autorizava a criação de provedores, que gerou um boom (a internet era o único futuro para tudo) que não deu muito em nada.
Se não fosse o esforço pessoal do Jayme Aranha Filho provavelmente o material do seminário estaria perdido. Os anais podem ser lidos neste link e retratam tentativa de estabelecimento de diálogo entre cientistas sociais e “das exatas” que não teve sequência realmente consistente e profunda, mas que agora em tempos de IA deveria ser considerado prioritário.
*****
Sou antropólogo. Os antropólogos são seres estranhos, escolheram trabalhar não com big data, mas com small data: nosso método principal de pesquisa é o “trabalho de campo”, imersão por período longo de tempo na vida cotidiana de um grupo pequeno de pessoas, mesmo quando estudamos em grandes cidades, com suas culturas complexas e heterogêneas. O contato face a face é a ferramenta principal para nossas melhores descobertas. Obviamente um olhar big data pode nos ajudar em várias tarefas (até porque podemos pensar a cultura como a primeira inteligência artificial) – um dos aspectos mais fecundos da reflexão antropológica vem de seu pendor comparativo, quando estabelecemos conexões entre costumes de muitas culturas diferentes (fico imaginando se a IA ajudaria Lévi-Strauss na investigação sobre seus mitemas). Porém, é preciso desconfiar de gente que tenta nos vender a ideia de que tudo agora será resolvido com machine learning.
Aprendi a cultivar essa desconfiança com um sociólogo, para muitos o maior sociólogo americano vivo. Tive a enorme sorte, a partir da apresentação de Gilberto Velho, de ter Howard S. Becker como orientador no ano que passei com bolsa sanduíche na Northwestern University, entre os créditos e a defesa de tese do meu doutorado. Howie, como exige ser chamado pelos estudantes, se tornou um de meus principais interlocutores para conversas nas quais o tema principal era tecnologia, pois sempre esteve atento aos avanços de várias áreas ciberculturais, como comprova o texto pioneiro que escreveu sobre o hipertexto (e sua amizade com Michael Joyce) ou o outro sobre novas mídias e a web.
Quando cheguei na Northwestern, fiz, com Howie e o saudoso Dwight Conquergood, um curso sobre performance e ciências sociais. Não era teoria: em todas as aulas tínhamos que fazer performances artísticas baseadas em textos de sociologia e antropologia. Mas ele insistiu que eu me inscrevesse também no curso do professor Charles Ragin, que envolvia estatística pesada (hoje o trabalho de Ragin é bem conhecido pelo uso inovador que faz dos “fuzzy sets“, que também têm aplicações bem curiosas no campo da IA). Portanto, não pensei duas vezes antes de mandar para o Howie, em 2008, um dos primeiros artigos que li sobre pesquisas big data nas ciências sociais.
Eu tinha ficado empolgado com a abertura de novas possibilidades para nosso trabalho. Achei que meu orientador americano, hipster de 80 anos, vibraria também. A primeira mensagem de volta, sempre recebida com rapidez impressionante, foi uma ducha de água gelada. Howie dizia que não tínhamos conjuntos de dados massivos sobre as coisas que realmente nos interessam pesquisar. O exemplo que me deu era sobre o livro que estava escrevendo na época, em parceria com Robert Faulkner, que agora já foi publicado como “Do you know…?“, sobre como músicos que nunca antes trabalharam juntos decidem repertórios para tocar na noite ou em festas. Não há banco de dados com todas as música tocadas nessas ocasiões. Não interessa a ninguém e seria muito caro criar esses bancos de dados.
Insisti, maravilhado com a riqueza dos outros bancos de dados que estariam sendo formados a partir da interação de milhões de pessoas nas redes sociais então nascentes. Cito a resposta quase completa (pedi autorização, era apenas um email pessoal) para não ser infiel a nenhuma sutileza do argumento (palavras para mim fundamentais não apenas para cientistas sociais, mas para qualquer uso de big data):
I’m always a little (more than a little, really) suspicious when someone tells me about a way to find out all the things that fieldworkers are really interested without having to do all the work that it usually requires. In this case, everyone (not just you!) is telling me that I don’t have to do anything, the internet and social networking sites and so forth are more or less automatically accumulating mountains of information about all the things I’m interested in and it’s there for the taking. There’s usually a catch in all this, which is that there’s data about some things and not about others, and it’s only human to say to yourself, “Well, I might as well look at what’s available and see what we can do with that,” instead of saying, “Here’s what I’d like to know about, does this material tell me about that or not?”
To take what’s on my mind right now, which is the repertoire, the songs musicians play when they get on the bandstand, let’s even imagine that some site would accumulate information about all the music that anyone, anywhere, anytime is playing and has played, and who played it and in what kind of setting, etc. What would still be missing is the interchange among the players that led to them playing just those songs, and that’s the part that we’re convinced is crucial. The rest is interesting, nice and even helpful to know. But what tells the story decisively is what they talk about as they negotiate things.
Claro, há sempre a possibilidade – digamos que não temos mais custos de armazenamento – de gravar em vídeo 3D ou traquitana semelhante todas as negociações. Mas – e aqui eu Hermano acrescento – isso seria como o mapa de Borges, que fica inútil por ser do tamanho do território, ser uma cópia exata do território que queríamos representar. Teríamos que enviar antropólogos para fazer trabalho de campo nessa “second life” (antes que vire cartografia despedaçada, apodrecendo no “deserto do real”). Ou ensinar uma IA a ter olhar antropológico e mesmo os anthropological blues de Roberto da Matta. É isso realmente o que queremos? Podemos criar também IAs antropólogas brasileiras?
*****
Há uma maneira brasileira de pensar? Conseguiríamos aqui construir uma inteligência artificial realmente outra, alienígena para padrões dominantes, ou fora do projeto Putin de dominação mundial? O Brasil não acabou? Por que insisto nessa ideia de que o Brasil tem algo de original para propor para o mundo? A realidade recente toda não me contradiz?
Sou insistente, repetitivo, não consigo sair desse loop… Quando Cláudio Pinhanez me convidou para o colóquio da IBM brinquei com ele: temos que inventar uma inteligência artificial antropófaga, ou tropicalista. Lembrei os aforismos do Manifesto de Oswald: “nunca fomos catequisados, fizemos foi o carnaval”. E o carnaval é sim uma outra forma de inteligência, bem artificial. Mais um aforismo, este mais adequado ao tema em questão: “nunca admitimos o nascimento da lógica entre nós”. Há inteligência artificial ilógica? Outra lembrança: admitimos sim, entre nós, o nascimento da lógica paraconsistente de Newton da Costa, e que poderia nos guiar no caminho para uma IA brasileira ambígua, não entre o sim e o não, mas acreditando piamente no sim e no não, tudo ao mesmo tempo agora, uma outra lógica talvez também chinesa (lembremos que – como Gilberto Freyre sonhava – o Brasil é a China Tropical).Uma IA que talvez nos ensine a lidar com a mistura não apenas como entropia, e sim como um sinal de que nada é puro. Pensar a bagunça, na bagunça – isso não deveria ser considerado tarefa impossível para seres inteligentes.
Outro caminho: fazer a IA virar escritora fan fiction de Guimarães Rosa (via também Eduardo Viveiros de Castro) se metamorfoseando em IA onça, não humana. Gosto da ideia de Close AIs e Far AIs. Quanto mais longe a gente conseguir ir, melhor, mais surpresas. Ir além de Wittgenstein: se um leão falar, vamos dar um jeito de entender o que ele diz. Remixagem xamânica de “formas de vida”, algumas naturais (mas nem todas humanas), outras artificiais. Navegando contra a (in)sensatez de John Searle, seguindo trilha multinaturalista: pensamento é um só, corpo e perceptos/afectos são múltiplos. Ou não. Vamos descobrir. Ou não tão longe: que tal uma IA que fale as quase 200 línguas indígenas ainda vivas no Brasil? Sei que as IAs ainda engatinham no português. Mas por que se contentar com pouco?
*****
Durante o período em que fazia pesquisa em busca do que falar no colóquio da IBM, ouvi – como faço religiosamente – vários episódios do podcast do meu amigo Erik Davis. Foi assim que descobri o pensamento de Ken Goldberg. Não parei mais de devorar, como uma onça, suas ideias, que saio por aí replicando memeticamente. O texto que escreveu para o Wall Street Journal é um bom resumo. Gosto especialmente – eu empenhado deleuziano – de sua ordem para esquecermos a Singularidade e pensarmos a multiplicidade. Não um algoritmo único no final da História. mas um enxame de sistemas cognitivos, baseados em uma matilha de modelos diferentes, junto com humanos e outras formas de vida, não guerreando pela dominação total/mundial, mas estabelecendo múltiplas formas de colaboração entre si.
Assim, guiado por Ken Goldberg, cheguei ao conceito (já patenteado!) de random forest, ou florestas randômicas (explicação simples neste podcast). Tudo por aí me atraí, e tento juntar com o que acho interessante quando penso em IAs brasileiras: não um monólito 2001, copiado igual em todo o universo, mas um conjunto fuzzy de fragmentos muito diversos, cada um com sua experiência, e a soma das experiências produzindo um carnaval, ou carnavais. Mandei o artigo do Ken Goldberg para o Eduardo Viveiros de Castro. Ele me respondeu, sintético e preciso: “Sobretudo temos de colocar a floresta literal nesta multiplicidade… Fazer o salto, da Amazon à Amazônia…”
*****
Minhas melhores descobertas de livros não acontecem com o uso dos algoritmos da Amazon. Foi numa estante de livraria tradicional que encontrei “La France contre les robots” de Georges Bernanos. Contém textos escritos por volta de 1945, quando estava exilado no Brasil, cuidando de uma fazenda em Barbacena. Fiquei fascinado, imaginando Bernanos no seu cavalo, indo todo dia da fazenda para um café na cidade, onde escrevia em francês seus sermões desancando os imbecis. Digo isso como introdução pitoresca para citar um trecho que agora, com a IA, faz novo sentido: “O perigo não está nas máquinas, senão deveríamos realizar o sonho absurdo de destruí-las pela força, à maneira dos iconoclastas que, espatifando as imagens, pensavam aniquilar também as crenças. O perigo não está na multiplicação das máquinas, mas no número incessantemente crescente de homens habituados, desde sua infância, a desejar apenas aquilo que as máquinas podem dar.”
Lembrei-me então de outro europeu aqui exilado, o português Agostinho da Silva, em suas entrevistas publicadas no livro “Vida conversável”, que é um dos meus favoritos, sempre na cabeceira. Não era contra as máquinas. Achava que deveríamos prestar homenagens ao parque industrial que pode contribuir para a “libertação do homem”, se bem utilizado. Acreditava que a economia global já produz o suficiente para um regime de renda universal, onde só trabalharia quem quiser e gostar daquele trabalho específico. Mas o professor Agostinho da Silva escreveu o seguinte: “Nunca ninguém enamorado do imprevisível conseguiu construir uma máquina.”
Então com essa mistura improvável de Georges Bernanos com Agostinho da Silva ficam aqui minhas sugestões para um projeto realmente original de IA brasileira: vamos imaginar outros desejos, múltiplos? E outras máquinas que nos presenteiem com o imprevisível? Máquinas que produzam as transformações desejadas por Gilberto Gil em “Cibernética“, canção dos anos 1970:
Onde lia-se alfândega leia-se pândega
Onde lia-se lei leia-se lá-lá-lá
Hermano Vianna 