Por Paola Cantarini
- Poderia começar nos falando sua área principal de atuação, comentando seu trabalho atual relacionado à IA?
LS: Há muitos anos e cada vez mais, minha área de atuação é inter e transdisciplinar, mas com especialização nas áreas de ciências humanas e humanidades. Transito pelas artes, inclusive música (minha primeira formação), literatura (meu doutorado), filosofia e metodologia das ciências (minha livre-docência), semiótica, concebida como lógica e filosofia (minha grande especialidade), filosofia da qual não pude escapar, em especial dos filósofos pós-estruturalistas, psicanálise por paixão, educação por vocação, meio ambiente que começou com um projeto de pesquisa que me familiarizou com a Amazônia (de 2002 a 2010), pesquisa agora retomada no contexto do Antropoceno, e também a inteligência artificial (IA) do ponto de vista do humano, na qual estou me aprofundando cada vez mais.
Meu interesse pela IA vem de muito mais longe do que o sucesso que essa área de pesquisa e aplicação ganhou de umas duas décadas para cá. Acompanho, desde 1990, os desenvolvimentos das ciência cognitivas de que a IA sempre fez parte a partir de meados dos anos 1950. Antes desse hype da IA, concentrei meus interesses nos fenômenos da cognição, inclusive com pesquisas sobre Semiótica Cognitiva. A partir de 2000, minha curiosidade intelectual voltou-se também para as tecnologias, em especial para as interfaces do humano e máquina que hoje atingiram o ponto de complexidade inquietante dos diálogos entre humanos e IA generativa. (IAG)
O ChatGPT que é o mais comentado e usado dentre outros, com sua capacidade responsiva, na mesma linguagem que falamos, atinge um nível disruptivo perturbador, especialmente porque, sem nenhuma possibilidade de disfarce, as pessoas estão usando esse sistema, em variadas áreas de atuação, de uma forma ou de outra e muitas vezes de modo perverso como se vê hoje nas deep fakes que tornaram as fake news brinquedos de crianças, sem querer minimizar os danos das mais diversas espécies que estas também causam.
- Na Bienal de arquitetura de Veneza deste ano (2023) o tema do pavilhão brasileiro é a Terra e a ancestralidade, ou seja, a decolonização e o Brasil (“De-colonizando o cânone”, pavilhão “Terra”, do Brasil, na Bienal de Veneza). Seria possível fugir de tal lógica colonialista, também presente nas áreas de IA/dados e como superar a questão do “colonialismo mental”, já que muitas das críticas ao colonialismo partem do Norte e não do Sul?
LS: O decolonial está na crista da onda no Sul Global. Muita confusão está rondando o tema, porque, como acontece com outros temas, quando entram no domínio de uma moda intelectual, fala-se muito dele, sem o conhecimento cuidadoso que é necessário. Ademais, um tema como esse tende rapidamente a receber interpretações puramente ideológicas de autodefesa e memo de ressentimento. Tenho buscado me inteirar do assunto antes de me pronunciar sobre ele. Mas como sua pergunta me incita, enuncio aqui algumas ideias que correspondem ao estado em que meu conhecimento se encontra hoje, portanto, incompleto e falível. O decolonial é uma teoria reivindicatória e essa reivindicação é nossa, ela se aquece especialmente debaixo do Equador. Afinal, somos nós, aqueles que foram colonizados, muitas vezes de modo cruel, mas que guardam memórias de ancestralidades semióticas, não-verbais, corpóreas, sonoras, capazes de traduzir visões da realidade, alguns chamam de epistemologias, que o Norte Global não tem. Eles têm as heranças dos grandes filósofos, de magníficos músicos, da ciência que se desenvolveu e hoje alcança níveis de altíssima complexidade. Mas é esse mesmo solo que viu crescer o capitalismo cuja perversidade agora atinge o nível neoliberal esmagador porque abre abismos de separação entre uma minoria que fica cada vez mais minoritária e rica e uma maioria que luta até chegar a um ponto em que não existe sequer a opção da luta impossibilitada pela crueza da fome. Esse é o mundo em que vivemos.
Sou adepta da antropofagia de Oswald de Andrade, que a Tropicália traduziu tão bem, e não por acaso foi perseguida pelos trogloditas amedrontados com o poder da criação. Se soubermos aplicar o pensamento antropofágico, convertido em ações com potência criativa, não existirá a chance daquilo que você chama de “colonialismo mental”. Ao contrário, é preciso aprender a devorar, no sentido tradutório, o que é bom, porque eficaz na superação de problemas, venha de onde vier, de Bangladesh ou de Zurich, do Canadá ou da China. Nossas culturas latino-americanas são híbridas, heteróclitas, estamos no coração da diversidade. Nossas sensibilidades são porosas, capazes de expansões e de misturas. O Norte Global sempre viveu no cultivo da razão e da noção racional da emancipação. Quem leu a crítica de Nietzsche sabe disso. E Nietzsche nasceu e cresceu no Norte Global. Por isso, julgo equivocada a ideia agressiva do epistemicídio. Não vejo qualquer positividade no abandono das escrituras dos grandes pensadores e da ciência que nos curou da pandemia. Também somos constituídos pelos mundos que criaram. Do que precisamos nos livrar é das dicotomias, dos ninhos e ninhadas de dicotomias que o Ocidente foi tão fértil em criar. Portanto, é preciso cuidado quando se pensa estar defendendo o Sul Global em antagonismo contra o Norte Global. Nesse caso o feitiço cai contra o feiticeiro, pois não há defesa que se sustente quando se faz uso dos mesmos vícios dicotômicos de linguagem e de suas inevitáveis consequências, na crença ilusória de sua superação.
- Quais os principais desafios atualmente com o avanço da IA, em especial com a IA generativa, considerando a polêmica com o ChatGPT e a “moratória” solicitada em carta/manifesto assinada por Elon Musk e outros expoentes?
LS: Quando se fala sobre IA, é preciso estar inteirado de seu estado da arte. A IA é um campo de pesquisa em evolução acelerada, a ponto de desenvolvedores de ponta, agora dissidentes, estarem temerosos de um futuro que, de acordo com seus prognósticos, levaria à extinção da humanidade, já que a pesquisa poderá chegar à IAGeral, ou seja, quando a IA estiver em competição com a inteligência humana e, mais ainda, poderá superar a humana. Quanto à moratória, embora tenha servido como sinal de alerta, ela não apontava para possíveis resoluções, que, de resto, estamos longe de alcançar. O que uma interrupção de alguns meses poderia trazer como consequência efetivamente eficaz? Por outro lado, não confio em alguns dos nomes que assinaram essa moratória. São bilionários munidos da arrogância de que têm os destinos do humano em suas mãos, o que infelizmente, tem um fundo de verdade, já que são eles que estão no controle das big techs proprietárias daquilo que se tornou a corrida de ouro do nosso tempo: os dados devidamente monitorados pelos algoritmos que são treinados na direção da acumulação do capital.
Não menos importante é que a evolução da IA bateu agora em nossa cara, inclusive, dos leigos, com a ascensão da IA generativa (IAG). Não há como compreender o divisor de águas que a IAG significa se ficarmos apenas nas marolas das notícias de jornal. Se nossa vocação é a de exercer a reflexão crítica, temos que colocar a cabeça e as mãos na massa da pesquisa. A IAG abre um novo patamar no desenvolvimento da IA. Antes de sua explosão há apenas um ano e pouco, as aplicações da IA classificatória e preditiva eram úteis para as corporações, instituições e as mais diversas áreas de atividades humanas, em especial os sistemas bancários ou a medicina, por exemplo. A IAG, por sua vez, caiu diretamente no colo dos usuários. Gratuita ou barata e de uso extremamente facilitado, não é casual que tenha obtido uma adesão incomparável. Essa adesão tem funcionado como munição não só para o aperfeiçoamento, mas também para o aparecimento ininterrupto de novidades como é o caso recente da IAG de vídeos, o Sosa. Com isso, crescem a cada dia novos desafios que tornam mais complexos desafios anteriores para os quais não encontramos caminhos de solução.
- Fala-se da relação íntima entre “e-cultura e e-democracia”, bem como que a IA por ser uma das mais disruptivas das tecnologias estaria a re-ontologizar nosso mundo, criando até mesmo novas subjetividades (Floridi). Na denominada “economia do clique” e do “mercado de atenção” são apontados por diversos autores os riscos à democracia pela disseminação de “fake news”, além de outros impactos causados pela IA na cultura e na criatividade humana, com a criação de uma “esfera cibernética”, envolvendo a criação de novas subjetividades diagonais e transversais na cybercultura. Segundo a pesquisa elaborada por ABRAJI/ITSRIO há, contudo, diversas ferramentas e medidas no combate às Fake News, como ser cético com as manchetes, investigar a fonte, conferir datas e verificar as evidencias. Qual o papel, no seu entender, no tocante à cidadania e educação digital para fazer frente a tais desafios e problemáticas? Quais outras medidas você apontaria como essenciais no combate à faze News e à desinformação?
LS: A relação entre e-cultura e e-democracia, que entendo como a cultura mediada por computador ou cibercultura e as consequências que isso traz para a democracia, não deve ser entendida como um apêndice de uma cultura e democracia que possam existir fora do universo digital. A digitalização foi penetrando pouco a pouco na vida humana até o ponto de se tornar inseparável dela. Desde 2016, com a vitória de Trump, seguida por outras eleições em outros países do mundo, inclusive no Brasil, não é mais segredo para ninguém a interferência das redes sociais no andamento dos processos políticos. A questão da ontologia é bem mais complexa e exigiria um alongamento que não caberia aqui. Quanto à questão das subjetividades, elas, sem dúvida, vêm passando por transformações já antes das redes sociais, quando a participação na Web não passava de chats que inauguraram aquilo que se tornaria lugar-comum, ou seja, desdobramentos identitários nas vidas paralelas que, com muita leviandade, as pessoas performatizam nas redes sociais, forjando uma existência imaginária, deslocada da realidade cotidiana. O funcionamento das redes propicia e convida a isso. De fato, entrar na Web significa submeter-se à sua própria lógica, quer dizer, a lógica dos cliques e da nova economia da atenção. Diante da saturação de ofertas informacionais, a atenção do usuário é disputada, pois o mercado das redes funciona de acordo com a estratégia de captura do tempo do olhar que se traduz em atenção. Tanto é assim que, por meio dos algoritmos, tendo em vista o valor que a atenção desempenha nesse mercado, a informação já vem micro direcionada, ou seja, hiperpersonlizada, uma maneira de captura que funciona como uma armadilha da qual o usuário dificilmente escapa.
As fake news, por seu lado, também funcionam dentro de uma lógica que lhes é específica. A informação perversamente voltada para enganar o próximo sempre houve. A diferença é que, na cultura do computador, essa tendência demasiadamente humana mudou de escala, pois as redes são um campo aberto para a disseminação. Nunca é demais chamar atenção para os efeitos perniciosos que a proliferação de fake news traz para a vida cidadã e para a democracia cuja saúde depende de cidadãos bem-informados e, com isso, capazes de escolhas coerentes. Em função disso, são as empresas jornalísticas que tomaram a si a responsabilidade da filtragem dos enganos nos seus serviços de checagem. Há outras iniciativas que engrossam as fileiras da luta contra esse fenômeno que se converteu em uma verdadeira batalha e que, à diferença de outros tipos de batalha, não parece ter um começo, meio e fim, mas tem o caráter de um fluxo que não dá mostras de cessar.
- Segundo alguns autores a maneira mais fácil e eficaz de combater a desinformação com o uso da inteligência artificial é desmantelar redes de robôs responsáveis pela disseminação de notícias falsas e conteúdo malicioso – um processo sujeito a uma maior automação (Filho, Marrafon, Medón, 2022). Segundo outros, por se tratar de um fenômeno multifacetado, envolveria uma abordagem mais holística e uma múltipla dimensão de abordagens, técnica, jurídica, cultural e econômica, e, sobretudo, destacando-se o papel da educação digital e de qualidade. Poderia comentar sobre tal questão e problemática?
LS: As redes de robôs agindo em prol de interesses maléficos representam o paroxismo da perversão coletiva. De fato, a IA, diferentemente do que pensam alguns, não apresenta apenas externalidades negativas. Estas são sempre mais enfatizadas porque os benefícios falam por si e não precisam ser alardeados, enquanto a negatividade implica uma militância que lhe faça frente. Mas estamos longe de encontrar fórmulas mágicas para a diversidade de meios que a banalidade do mal encontra para se manifestar e proliferar neste mundo regido por fluxos difíceis de estancar. O que você chama de holístico, enumerando as áreas que devem entrar em cena, corresponde à necessária interdisciplinaridade que a IA reclama em todas as suas fases, tanto de desenvolvimento, a ética embarcada, quanto dos modos como é utilizada. Tenho agora em minha frente, vindo na timeline do Facebook (Meta) uma tabela de aconselhamentos, dirigidos a cada usuário, para caminhos de proteção contra as fake news. Sem dúvida, já existe um verdadeiro manancial de propostas desse tipo. Mas, para que sejam efetivas, é preciso impregnar-se delas e colocá-las em uso.
Agora com a IAG, já que ela está sendo utilizada de modo expansivo, a questão da educação torna-se primordial, a educação com alvo na ética. Creio já ter publicado que a IAG veio para colocar a ética humana à prova. Estamos vivendo uma condição em que pensar eticamente não basta, mas como dita a própria ética, precisamos colocar princípios éticos em ação, mesmo que seja para servir de exemplo. É em função disso que estamos publicando, no próximo número da Revista Teccogs, fruto de um trabalho coletivo, um manual ético da IAG para a formação de professores de ensino superior. É impressionante verificar a inércia das nossas universidades para enfrentar esse problema. O jornalismo, que é outro campo em que tarefas de escrita são abundantes, já acordou e o Estados de São Paulo publicou uma espécie de guia para seus profissionais. Mesmo que esteja longe de estar completo, nem por isso, podemos ficar na dormência. Os dilemas são tantos que nos atordoam. Precisamos de ajudas voltadas para o comportamento coletivo.
- Em seu livro “Há como deter a invasão do ChatGPT?” é destacada a problemática de um maior potencial de “fake News” e que “em termos pragmaticistas seus discursos parecem humanos, demasiadamente humanos e passam a agir como se fossem humanos, além de uma produção discursiva “tudo ready-made” e que à maneira de um “fast food” mental degenera o pragmatismo e sua exigência de mediação lenta e dificultosa de uma ponderação flexiva”, apontando-se ainda para a falta de senso comum, trazendo seríssimas questões de ética e da premente necessidade “ponderada” de regulamentação. Fala-se muito na área da IA de um “trade-off” entre inovação e regulação, e na busca de tal equilíbrio, da proporcionalidade, portanto, para não se obstar a inovação e a competitividade internacional. De outro lado, ao pensamos em países do Sul Global como o Brasil com maiores fragilidades institucionais, democráticas e de proteção adequada aos direitos fundamentais de parcelas vulneráveis da população, como poderíamos pensar em tal “proporcionalidade” da parte regulatória? Um exemplo paradigmático é o genocídio dos “rohingya”, uma minoria étnica, islamista, que vive na região da Rakhine, em Mianmar e se encaixam no conceito de “apátridas”, porque, nos termos da legislação vigente, não conseguem provar que são nativos de Mianmar. O discurso de ódio produzido utilizando-se a rede social do Facebook demonstrou a maior fragilidade neste caso do que em outros locais; outro exemplo foi o discurso de ódio no Brasil após a derrota de Bolsonaro com invasão do STF e do Congresso Nacional, ocasionando danos a bens e pessoas. Não haveria então que se pensar em uma legislação mais protetiva em países do Sul Global diante de tais exemplos paradigmáticos?
LS: Tenho acompanhado com muita curiosidade a questão da regulamentação da IA não apenas no Brasil quanto internacional. Mas, como não sou jurista, apoio-me naqueles que são especialistas com os quais busco me informar e sanar minhas dúvidas. Oriento teses de doutorado exatamente sobre o tema. Os orientandos assiduamente remetem enxurradas de textos sobre o tema. Tenho arquivos para consultas, mas evidentemente nesse tema falo como leiga que procura ser bem-informada. O que posso dizer é que a questão é tão necessária quanto complexa, uma combinação para a qual não há resoluções rápidas, pois a pressa é sempre inimiga da perfeição. Claro que a perfeição é um ideal impossível. Costumo dizer que, se os deuses fossem mortais, eles conheceriam o que é a luta pela perfeição. De todo modo, as legislações estão caminhando pouco a pouco, o que é uma contradição quando se sabe que a IA está se desenvolvendo a passos de gigantes, enquanto a regulamentação caminha a passos humanos. Acredito muito, além da legislação, no desenvolvimento da IA corretora, ou seja, aplicativos da IA que sejam capazes de colocar a IA a serviço da correção de problemas. Vou citar apenas um caso. O quanto a IA poderá ser utilizada como auxílio na outra luta que hoje se apresenta, a do Antropoceno e da sustentabilidade, a verdadeira, e não a promocional mercadológica.
Também creio que deve haver uma legislação geral, de base, e legislações geopolíticas. Por exemplo, problemas que afetam o Norte Global não são os mesmos que afetam o Sul. Ademais, diante da IAG, tenho defendido que é preciso desenvolver regras e guias situacionais. Por exemplo, o que citei acima sobre guias para jornalistas e para o mundo acadêmico.
O discurso do ódio atinge dimensões psíquicas e cognitivas mais de nível micro. Claro que são incrementados pelas bolhas algorítmicas que alimentam visões de mundo extraviadas, distorcidas, extremistas que são incorporadas para servir a interesses escusos, na maior parte das vezes em situações políticas nas quais a voz que vem do povo, seja ela qual for, tem força. Mas o ódio pode ir tão longe a ponto de levar a pulsão de morte ao seu extremo. Que o mal seja banal não significa que não seja destrutivo. Encontrar formas de banimento do mal é tarefa das mais difíceis, pois o mal tem o poder de impregnar almas. O ser humano é uma criatura bizarra e, por isso, viver é muito perigoso, como dizia Riobaldo com sabedoria.