OS POSITIVOS

recapitulamos episódio

Ainda a BD IA, agora no contencioso de Hugo Almeida 4 dez 2023 ao tecno-optimismo de Ilan Manouach traduzido por Pedro Moura 11 nov 2023: a construção cultural & social, direitos de labor e indústria negativa, assunção implícita de aceleracionismo, historicismo prescritivo, yadda. O mashup é nosso porque textos longos fazem dói-dói a muitos:

os modelos de IA são máquinas do zeitgeist: ferramentas de diagnóstico que nos oferecem como output os padrões do nosso momento cultural

Em que medida é que estamos a lidar com uma ferramenta democrática? [...] porque está na verdade condicionada pelos limites do dataset e dos algoritmos, tal como estes são definidos pelas empresas de IA.

O texto de Manouach passa por cima das assimetrias de poder entre plataformas e utilizadores, e de como Silicon Valley se estabeleceu como uma das forças políticas determinantes do séc. XXI, através da extracção e processamento desenfreados de dados.
in "Para quê escrever uma resposta ao artigo de Ilan Manouach se a resposta se pode escrever a si mesma?" 4 dez 2023

Em linha com a nossa objeção original roçam-se os perspetivas do futuro estado da arte onde esta alterna de BD IA a "DB AI",

...uma concepção conveniente para grandes conglomerados de media, que poderão um dia, em consonância com as suas normas cada vez mais inflexíveis, reduzir a banda desenhada aos padrões médios do dataset.
in "Para quê escrever uma resposta ao artigo de Ilan Manouach se a resposta se pode escrever a si mesma?" 4 dez 2023

como desenvolvemos aqui. Mas leiam o HA na totalidade no sítio original ou cópia integral no vosso antro do costume. Porque hey —

Já dançámos esta dança antes, quando a internet se vulgarizou e prometeu uma utopia anarquista de comunicação e partilha sem limites. Acho que não preciso de recapitular o episódio.
in "Para quê escrever uma resposta ao artigo de Ilan Manouach se a resposta se pode escrever a si mesma?" 4 dez 2023

— alguma utopia invulgar resiste ainda e sempre na internet.

source

Para quê escrever uma resposta ao artigo de Ilan Manouach se a resposta se pode escrever a si mesma? 4 dez 2023

por Hugo Almeida

Dia 11 de Novembro, o Bandas Desenhadas publicou um artigo do artista de banda desenhada e investigador Ilan Manouach, traduzido por Pedro Moura. Nele, Manouach desmistifica a ideia de que os modelos de inteligência artificial, tal como existem, poderiam substituir a intervenção humana no processo criativo; afinal, a mecanização sempre fez parte das práticas da banda desenhada. Parafraseando o artigo, a produção de banda desenhada estabeleceu-se, desde as origens do meio, como uma relação ciborgue entre autores de BD e máquinas. No entanto, no balanço de um apoio entusiástico a estas tecnologias emergentes, acaba por descaracterizar a resistência que se sente à aplicação generalizada de IAs, passando ao lado das consequências disruptivas destas tecnologias. Estas têm e terão impactos que merecem ser endereçados, tanto nas condições laborais dos trabalhadores da indústria da banda desenhada, como também, numa perspectiva mais alargada, no ambiente social e político no qual os media visuais são actores cruciais. Talvez o contexto original de publicação explique porque é que o artigo é tão dirigido para questões sobre a legitimidade da IA como ferramenta artística. De qualquer forma, o artigo suscita questões filosóficas pertinentes sobre a ontologia e prática de banda desenhada, face à automatização da produção de texto e imagem.

Resumidamente, o artigo defende as ferramentas de IA daqueles que consideram a arte produzida com recurso à tecnologia como fraudulenta, com base em essencialismos românticos de quem vê a arte como a exteriorização de verdades intrínsecas ao artista, ou como último bastião da distinção entre o humano e o não-humano. Apesar de inicialmente providenciar um panorama matizado da relação entre banda desenhada e automatização, Manouach acaba por responder aos opositores da IA com determinismo tecnológico. Diz o autor que a automatização por modelos generativos é apenas um desenvolvimento consequente da história da banda desenhada, tal como esta foi definida pela incorporação de processos de produção industrial e reprodução mecânica. Contestar este desenvolvimento é, portanto, absurdo ou hipócrita, dado que compromete a lógica de máxima eficiência intrínseca ao meio. A conclusão (inevitável? Desejável? Esperada?) deste processo é, então, a automatização crescente do processo de criação, conforme os modelos de IA parecem prometer.

Eu parto do princípio, tal como Manouach parece partir no início do artigo, que a banda desenhada, tal como a tecnologia, tem, no mínimo, uma componente de construção social; não são apenas as características do meio a qualquer momento que determinam o seu desenvolvimento. Os seus actores tomam decisões sobre o que a banda desenhada é ou pode ser: os trabalhadores artísticos, as editoras e, cada vez mais, os grandes conglomerados de media que, na fúria de colonizar todo o imaginário popular, tomam posse de editoras de BD como incubadoras de propriedades intelectuais, que podem ser posteriormente exploradas de forma lucrativa através de estratégias transmedia. Confesso que, para mim, é difícil imaginar que a automatização, levada às suas últimas consequências num contexto industrial, não implique, no máximo, a remoção do artista da linha de montagem, ou, no mínimo, a desvalorização financeira do seu trabalho. A IA não é apenas uma tecnologia: é também, no contexto da nossa sociedade, um aparelho retórico conveniente para o desmantelamento dos direitos laborais. Para os artistas que, como Manouach, operam fora da indústria e, portanto, da lógica de produção de mais-valia, a automatização representa apenas mais uma ferramenta num leque de opções para a exploração conceptual e artística do meio. Portanto, não é como se a IA fosse o fim da arte. Essa não é a questão e ainda não é desta que nos livramos dos artistas de banda desenhada. Mas ao desconsiderar os possíveis impactos negativos dos modelos generativos na indústria, Manouach parece assumir implicitamente o aceleracionismo basal que satiriza com o título do artigo, “Para quê contratar artistas de banda desenhada se a banda desenhada se pode desenhar a si mesma?”, que o autor, ao mesmo tempo, deixa claro não ser um resumo da sua opinião e experiência, mas sim uma caricatura das reacções epidérmicas dos detratores da IA.

Essa caricatura é útil para percebermos a função retórica que a inteligência artificial tem tido na nossa relação com tecnologias digitais, sujeitos como estamos a directivas algorítmicas cada vez mais opacas. Mais uma vez, em nenhum momento Manouach se compromete com a visão distópica do título, e até a contradiz; mas ao representar a crítica como se fosse monolítica, livra-se de ter que confrontar os problemas levantados por processos de automatização digital. O que é que quer dizer “a banda desenhada desenhar-se a si mesma?” Corremos o risco de fixar o conceito historicamente contingente de banda desenhada a formas de produção e difusão específicas? Ao mesmo tempo que defende um historicismo prescritivo—ou seja, levar a mecanização às suas últimas consequências é apenas respeitar o desenvolvimento da banda desenhada como arte reprodutível—, o autor propõe também no título, sarcasticamente, que se reveja o conceito de banda desenhada com base na sua condição contemporânea, nomeadamente, a digitalização de toda a banda desenhada em bases de dados que alimentam os modelos de IA. É isso que quer dizer “a banda desenhada desenhar-se a si mesma”: assumir que a autonomização do processo de produção também autonomiza o próprio conceito de banda desenhada. É como se agora fosse um organismo capaz de se reproduzir a si próprio. Estamos perante a reificação da banda desenhada, que passa a ser, graças à sua forma específica como dataset sujeito a digestão algorítmica, uma “coisa no mundo” que precede a forma que lhe damos como autores a qualquer momento. A caricatura que o artigo desconsidera logo à cabeça não é, na verdade, assim tão descabida, se considerarmos que é uma concepção conveniente para grandes conglomerados de media, que poderão um dia, em consonância com as suas normas cada vez mais inflexíveis, reduzir a banda desenhada aos padrões médios do dataset e, ao mesmo tempo, divorciar-se de quaisquer responsabilidades sobre o que publicam, porque, enfim, foi a banda desenhada que se desenhou a si mesma.

Há 20 anos, o teórico de media digitais Lev Manovich já se deparara com este desenvolvimento: quando traduzimos processos como “cortar” e “colar” para a forma de código, para que passem a ser funções automáticas no Word ou no Blender, estes deixam de ser conceitos apenas observáveis pelos seus resultados. Agora têm uma existência no mundo, que precede a sua utilização. Da mesma forma, os modelos de IA poderão incorporar uma ideia “sintática” de banda desenhada, em código, que precede a sua execução. O efeito poderá ser mais retórico do que prático; afinal, ninguém é impedido de fazer banda desenhada como bem entende. No entanto, teríamos o modelo generativo a remastigar o passado e presente da BD até só restarem os padrões que constituem esta banda desenhada reificada. Podemos actualizar o que Marx escreveu n’O 18 de Brumário: “A tradição de todas as gerações mortas oprime como um pesadelo os algoritmos”. Há muitos finais felizes possíveis para esta história, principalmente para quem a banda desenhada é um modelo maleável de experimentação artística. Podemos imaginar uma ruptura com o cânone da banda desenhada, provocado pelo enriquecimento exponencial do dataset pelos outputs do próprio modelo generativo. O feedback sucessivo das idiossincrasias da inteligência artificial geraria uma cultura de banda desenhada virada para o algoritmo, um “olhar” não-humano que mudaria para sempre o que a banda desenhada pode ser. Em vez disso, aquilo que temos efectivamente observado com o desenvolvimento dos modelos text-to-image é uma domesticação do algoritmo para consumo comercial. Mesmo que a IA não seja humana, os seus outputs devem corresponder, em vez de frustrar, as expectativas de audiências humanas. Este é de tal modo o caso que Boris Groys, num artigo recente para a e-flux, sugere que os modelos de IA são “máquinas do zeitgeist”: ferramentas de diagnóstico que nos oferecem como output os padrões do nosso momento cultural.

É por isto que me parece extraordinária a alegação de Manouach de que os modelos de IA tornaram possível uma “democratização intensificada e impetuosa”. Em que medida é que estamos a lidar com uma ferramenta democrática? Automatizar o processo de produção de imagens é inerentemente democrático porque agora é tudo muito mais rápido? Porque já não precisamos de artistas como intermediários entre a arte e a audiência? Porque a audiência é a artista, podendo produzir arte personalizada para si mesma? E se essa expressão, como sugeri no parágrafo anterior, não for “livre”, porque está na verdade condicionada pelos limites do dataset e dos algoritmos, tal como estes são definidos pelas empresas de IA? As agendas de interesses privados não precisam de coincidir com ideais democráticos. É possível imaginar que a asserção de Manouach seja justificada não só pela sua experiência como artista que tem acesso e pode definir o dataset e as particularidades do modelo, mas também pela ligação inegável entre a democracia e o acesso à informação. Os modelos de IA, pela forma como disponibilizam informação previamente existente, sem marcas claras de autoria, representam mais um desafio à manutenção da propriedade intelectual como estrutura geral que controla, e portanto limita, o acesso à informação. Nesse sentido, estamos potencialmente perante uma ferramenta que nos obrigará a reformular toda a nossa relação com a cultura. Finalmente: uma sopa que todos podemos comer. Eu mantenho-me céptico. Já dançámos esta dança antes, quando a internet se vulgarizou e prometeu uma utopia anarquista de comunicação e partilha sem limites. Acho que não preciso de recapitular o episódio. O texto de Manouach passa por cima das assimetrias de poder entre plataformas e utilizadores, e de como Silicon Valley se estabeleceu como uma das forças políticas determinantes do séc. XXI, através da extracção e processamento desenfreados de dados. McKenzie Wark sugere, aliás, que já não vivemos no capitalismo, mas sim no vectoralismo: onde quem detém o poder já não é quem detém o dinheiro, mas sim a informação.

Mas há ainda um aspecto estrutural do funcionamento dos modelos de IA, tal como eles têm sido disponibilizados comercialmente, que contradiz a ideia de que há algo fundamentalmente democrático na produção automatizada de imagens. Ao contrário de ferramentas convencionais de produção e edição digitais, que se popularizaram por permitirem ao utilizador manipular todos os elementos da imagem até ao nível do vector ou do pixel, os modelos de IA funcionam num regime de “caixa negra” a que o operador humano não tem acesso. Depois de submetermos uma prompt, não temos maneira de intervir na produção da imagem, modular as suas componentes individuais, alterar formas, formatos, cores, etc. A agência do operador humano resume-se a uma sugestão em texto. Será razoável apelidar de democrática uma ferramenta que “faz a papa toda”, mas que não nos permite intervir nos elementos particulares da imagem, ou sequer deixar-nos perceber que racionais ou processos levaram a um output particular? É difícil mantermos uma perspectiva crítica sobre um processo a que não temos acesso. A opacidade passa a fazer parte da relação conceptual que temos com a produção de imagens e textos. Enquanto umas possibilidades se abrem, outras fecham-se.

O meu argumento não é que os modelos de IA sejam, por princípio, anti-democráticos, ou que representam o fim da História porque nos mostram um universo em que só podemos replicar e remisturar, para todo o sempre, as imagens do passado (mesmo que essa figura seja sedutora, porque já a conhecemos do pós-modernismo). A utilização de ferramentas desta categoria num contexto de produção artística implicará necessariamente a sua integração, totalmente legítima, num processo de produção mais complexo, que incluirá outras ferramentas, digitais ou analógicas, e mesmo a adaptação dos modelos de IA para fins específicos. Hão-de sempre existir desvios à norma e utilizações não-canónicas destes modelos que podem contribuir para a expressão de novos caminhos para a banda desenhada, como o trabalho de Manouach exemplifica. O que é contencioso é o tecno-optimismo do artigo de Manouach, sustentado por uma crítica aos menores denominadores comuns que têm caracterizado a discussão sobre arte e IA.