Entrevista com Daniel Innerarity. A inteligência artificial sonha em redefinir as artes: entre a criatividade e a simples repetição.

Trump anunciou um investimento de US$ 92 bilhões em inteligência artificial (IA) em data centers na Pensilvânia . Mark Zuckerberg, da Meta , planeja investir "centenas de bilhões de dólares" em infraestrutura de inteligência artificial (IA). Qual é seu objetivo declarado? Construir uma "superinteligência". Há alguns anos, afirma-se que a Meta ficou para trás em IA generativa , dominada pela OpenAI desde o lançamento do ChatGPT e pelo Google . Todos eles têm uma coisa em comum: aspiram criar uma IA dita "geral" ou "superinteligência", com habilidades cognitivas superiores às dos humanos, capaz de fazer descobertas científicas e inventar tecnologias por conta própria. Vivemos uma revolução. E isso definitivamente impacta o campo cultural e seus espaços.

O primeiro passo para se aprofundar nesse território infinito e invisível é saber como escrever um prompt . O que é? É a instrução, pergunta ou solicitação dada a um sistema de IA para obter uma resposta específica. Quando precisa, completa e criativa, produz melhores resultados na tela. Aliás, universidades particulares ao redor do mundo já oferecem cursos curtos de dois meses sobre "Como Escrever um Bom Prompt". O tecno-otimista que ensina isso encontrou um novo emprego.

Daniel Innerarity é um filósofo espanhol e titular da Cátedra de Inteligência Artificial e Democracia no Instituto Europeu de Florença , onde dirige o Instituto para a Governança Democrática . Ele acaba de publicar Uma Teoria Crítica da Inteligência Artificial (Galaxia Gutenberg) e explica, entre outras coisas, se a IA pode se tornar inteligente: “A inteligência artificial, como é conhecida, só é inteligente se aplicarmos a palavra inteligência de forma inadequada. Ela tem aspectos muito semelhantes às atividades que nós, humanos, realizamos, alguns até melhores que os nossos, como a capacidade de calcular, de manipular dados, etc. Essas são algumas das propriedades fundamentais que nós, humanos, temos”, observa ele com sua voz poderosa da Espanha.

– Muitos celebram o fato de ser possível não reconhecer se uma pintura foi feita por um humano ou por uma IA. Que implicações essa posição tem para este e outros campos culturais?

–Todas as artes em geral, especialmente a música e a pintura, estão experimentando um desenvolvimento espetacular graças aos processos de IA e, acima de tudo, está se tornando mais viável para muitas pessoas criar música, compor e pintar de maneiras inimagináveis. No entanto, a IA tem limites. É bem possível que a dificuldade não seja tanto criar pinturas como as de Van Gogh , ou expandir as sinfonias de Beethoven e as sonatas de Bach , mas inventar um novo Bach, Beethoven ou Van Gogh. A originalidade desses gênios não se deve à IA. Outra coisa é que, uma vez que esses gênios existiram, conhecemos suas obras e suas fantásticas estratégias artísticas. A IA pode aumentar o número de suas obras; isso é um problema? Não, se podemos inventar um novo gênio com essas características é outra questão.

–O que resta do ensaio seminal de Walter Benjamin, "A Obra de Arte na Era de sua Reprodutibilidade Técnica"? Alguém se pergunta sobre a aura?

– Graças à IA e à facilidade com que ela compõe, pinta, personaliza e modifica obras de arte ao nosso gosto, ficou claro que a ideia de criatividade é menos exclusiva e está ao alcance de mais pessoas do que antes. Hoje, qualquer pessoa com um celular se tornou fotógrafo. Isso significa que algum de nós estará no mesmo nível dos grandes fotógrafos da história? Provavelmente não, mas podemos criar coisas de certo valor sem que precisem ser exclusivas ou especialmente acessíveis apenas a alguns poucos selecionados.

– Em que se transformou a ideia de criatividade? Arte da IA é arte ou repetição?

– Arte gerada por IA é aquela que captura muito bem os padrões encontrados em uma pintura de Van Gogh ou em uma sonata de Bach e os combina de uma forma um tanto original. Esses padrões já existiam e, em última análise, sua criatividade é uma espécie de abordagem combinatória, não tanto uma originalidade particularmente intensa.

– Cada vez mais pessoas estão perguntando absolutamente tudo sobre o ChatGPT, pesquisando cada vez menos no Google e gastando menos tempo nas redes sociais. Tudo está centralizado em torno do Chat, e já existem viciados confirmados. O que você acha dessa situação?

– Modelos de inteligência generativa e linguagem estão substituindo e sofisticando a tecnologia de busca simples que representa o que está se tornando obsoleto. O chat tem maior agência, maior intervenção do que um mecanismo de busca tradicional. É preciso reconhecer que os mecanismos de busca tradicionais também tinham um elemento de pré-design que configurava buscas possíveis; ou seja, não eram buscas aleatórias, mas sim buscas guiadas por designers. Mas esses novos chatbots estabelecem um tipo de interação mais intensa com humanos, e acredito que isso levou o Google a também incorporar processos de IA em suas buscas.

– Há quem argumente que a “linguagem inautêntica” que emerge de máquinas, robôs e IA está destruindo línguas como o espanhol. Qual a sua opinião sobre isso?

–Acho que a analogia com o que acontece com aqueles de nós que não temos o inglês como língua materna, mas o usamos em nossa comunicação, em nosso ensino e em conversas científicas, pode ser útil. Usamos um inglês padrão com pouca riqueza, com poucas nuances. Algo que, por exemplo, também é perceptível quando se usa um tradutor. Eles são extremamente eficazes, e sua abordagem é quase incontestável quando se trata de linguagem simples e com pouco significado. Falta-lhes a riqueza das línguas maternas quando se quer explorar nuances, ironia, duplo sentido e alusões implícitas, e isso já levou o inglês usado na comunicação científica — que se adquire lendo periódicos científicos de qualquer tipo — a ser um inglês particularmente pobre.

Aqui, um equilíbrio terá de ser alcançado. Acho muito importante que um nível não anule o outro. Deve haver uma linguagem universal de comunicação, mas também devemos proteger a diversidade linguística porque, em sua essência, trata-se de proteger a diversidade e as visões de mundo da capacidade humana de nuance, de uma linguagem rica em significado que nos aproxima de um campo muito específico dos seres humanos: ambiguidade, ironia, imprecisão, duplo sentido e o implícito — algo que um tradutor de IA tem dificuldade em compreender.

– Onde isso deixa a natureza? A IA conseguirá interagir com ela para protegê-la? Ou o fará para extrair mais lucro dela?

– A IA tem uma relação problemática com a natureza. Estamos descrevendo-a como uma tecnologia inócua do ponto de vista de seu impacto ambiental, quando na realidade ela é menos parecida com uma nuvem do que se diz e mais matéria, metais raros, humanos trabalhando em condições adversas, produção de lixo e consumo extremamente alto de energia. É uma das principais questões que precisam ser investigadas: como seria possível uma IA que consumisse menos dados e, portanto, menos recursos naturais? Ao mesmo tempo, é verdade que a IA pode nos ajudar a economizar processos. O mais banal deles é a comunicação online, que, por exemplo, nos pouparia muitas viagens poluentes, além de medir os impactos ambientais das coisas que fazemos.

– Você argumenta que o ChatGPT é extremamente poderoso quando se trata de processar uma grande quantidade de dados preexistentes, mas não quando se trata de fazer recomendações sobre novos fenômenos para os quais não há informações. Chegará um momento em que a IA não terá mais falta de informações?

– A IA generativa pode aumentar significativamente os dados e informações disponíveis que nos oferece, mas tem um limite porque não há dados sobre o futuro . Não é capaz, e não será capaz porque não pode antecipar de uma forma que não esteja em continuidade com dados passados, nem comportamentos, nem cenários que são por sua própria natureza imprevisíveis. A limitação da IA generativa não é o passado ou o presente, mas o futuro. Também nos custa, humanos, porque somos muito repetitivos e rotineiros, mas como disse Hannah Arendt, a capacidade de dar origem a coisas novas, ao imprevisível, embora se verifique apenas algumas vezes na história das sociedades e das pessoas, é uma propriedade da qual não podemos prescindir.

– Parece haver uma ideia circulando de que, com uma boa IA, tudo é possível, até mesmo ter um amigo, como sugeriu Mark Zuckerberg. Um assistente de IA pode se tornar o melhor amigo de um humano?

– A IA é um excelente substituto para a amizade humana . Ela pode atingir níveis insuspeitos de proximidade, apoio e até mesmo pseudoconversação. Mas o que os humanos realmente buscam nas outras pessoas, e apreciam, é sua imprevisibilidade, sua liberdade, sua capacidade de contradizer nossas opiniões ou inclinações pessoais. Um relacionamento com um robô tem muitas vantagens sobre uma pessoa: ele está sempre disponível, podemos modular o tipo de respostas que queremos, tornando-as mais acomodatícias ou mais contraditórias, e assim por diante. O fascínio pelos relacionamentos com outros humanos tem muito a ver com nossa incapacidade de dominá-los. E essa incapacidade nos conecta com o estranho, com o diferente, com o livre-arbítrio, e é algo que nunca pode ser substituído por uma máquina, que pode ser muito gratificante, mas não tem as infinitas nuances e complexidade que nosso relacionamento com outra pessoa tem. Outra coisa é que muitos humanos podem querer uma companhia que seja acolhedora, simples, imediata e, claro, se buscamos apenas isso, é melhor recorrermos a uma máquina do que a uma pessoa que possa nos contradizer, mas acredito que no fundo de nossos corações e afeições, não queremos lidar com pessoas que concordam conosco, mas sim com aquelas que exercem algum tipo de complementaridade, fascínio ou mistério sobre nós.

–Como a IA se encaixa na democracia e nas políticas atuais? A IA me dará as respostas políticas que desejo?

– A IA apresenta dois tipos de problemas para a democracia. O sistema democrático é uma organização de coexistência que pressupõe um tipo de conversação e um tipo de decisão. Conversação e decisão são os dois pilares que sustentam o edifício democrático. Ambos foram profundamente perturbados pelo surgimento da IA. Por um lado, a conversação, como resultado das mídias sociais, tornou-se horizontalizada, mais democrática, mas também caótica. Em contraste com a comunicação vertical, onde as autoridades são mais ou menos seguras, mas ao mesmo tempo implicam uma estrutura de verticalidade antidemocrática, a conversação no novo cenário comunicativo das redes é mais democrática e caótica ao mesmo tempo .

O segundo aspecto problemático é a tomada de decisões. Não podemos lidar com a complexidade do mundo contemporâneo sem sistemas automatizados, sem algoritmizar muitas de nossas decisões. A grande questão é até que ponto certos problemas, ou certos aspectos dos problemas que enfrentamos, requerem tratamento humano ou químico. E a distinção, parece-me, tem a ver com o fato de que os humanos são melhores do que as máquinas na tomada de decisões quando há poucos dados, um ambiente de incerteza e ambiguidade, e as máquinas, ao contrário, tomam decisões melhores do que nós quando há dados abundantes, as situações são inequívocas e não há incerteza, mas sim soluções binárias. Delinear esses problemas é a questão fundamental que nos ocupará nos próximos anos.

–O campo da IA é infinito?

– Estamos em um momento de grande entusiasmo , de enorme crescimento exponencial da IA, e isso faz com que o campo de coisas que ela pode fazer por nós, ou em nosso lugar, pareça infinito. A história da IA combina momentos de primavera e momentos de inverno. Quando há momentos de primavera, as expectativas aumentam, mas os medos também, e o momento atual é um desses momentos. Quando atingirmos um patamar, quando a inteligência generativa e os grandes modelos de linguagem atingirem certos limites, certamente consideraremos levar mais em conta suas limitações e, portanto, nossas expectativas e medos também serão mais limitados.

– Queremos que a IA seja usada em saúde, educação e habitação, mas será que existe realmente vontade de escrever prompts que abordem isso? Há milhões de perguntas triviais sendo feitas no chat, ignorando o consumo de energia que essas solicitações geram.

– A IA está nos introduzindo em um campo irrefletido e, em certo sentido, somos sonâmbulos digitais; usamos ferramentas sem refletir suficientemente sobre seu impacto, limitações, vantagens e regulamentação. Eu diria que um dos principais desafios é introduzir, nos vários estágios do ciclo de vida da IA, humanos que reflitam, que façam perguntas, e não simplesmente sonâmbulos respondendo a impulsos dos quais não se consideram os criadores.

–O que acontecerá com a nossa capacidade de tomada de decisão? Ela já é afetada pelo uso da IA?

– Nossa capacidade de tomada de decisão já foi bastante afetada pela automação. Sem entrar no caso da IA, os humanos estão cada vez mais usando coisas que nos livram de ter que tomar certas decisões, e não é ruim que paremos de decidir sobre coisas banais ou cotidianas; certamente é benéfico para nós nos concentrarmos em outros tipos de decisões. A questão é que devemos projetar máquinas de forma que reservemos certas dimensões para os humanos, porque a tomada de decisão é algo específico dos humanos . Talvez mais perturbador seja pensarmos que decidimos quando, na realidade, outra pessoa decidiu por nós.

Isso não é exclusivo do campo da IA; também ocorre no reino analógico, onde frequentemente tomamos decisões, por exemplo, sobre consumo, pensando que elas são soberanas, e na verdade existe um sistema que nos induziu a decidir de uma forma e não de outra. Isso é exacerbado no caso da IA, porque as decisões que ela toma são mais sofisticadas, mas devemos ser muito vigilantes, tanto individual quanto coletivamente, na regulamentação, etc., para que possamos dizer que as decisões que tomamos graças à IA são, em última análise, nossas decisões ou que, indiretamente, nós os temos como autores. Da mesma forma, podemos dizer que as decisões que nossos governantes legítimos tomam não são decisões que tomamos individualmente, mas que nossos governantes autorizados, legitimados em nosso nome, agem. São decisões que podemos compartilhar e que nos vinculam.

Ele é professor de Filosofia Política, pesquisador "Ikerbasco" na Universidade do País Basco , diretor do Instituto de Governança Democrática e professor no Instituto Europeu de Florença , onde ocupa a cátedra de Inteligência Artificial e Democracia . Foi professor visitante em universidades como a Sorbonne, a London School of Economics, a Universidade de Georgetown e o Instituto Max Planck em Heidelberg. É autor de Politics in Times of Outrage (2015), Democracy in Europe (2017), Politics for the Perplexed (2018), Understanding Democracy (2018), A Theory of Complex Democracy (2020), Pandemocracy: A Philosophy of the Coronavirus Crisis (2020), The Society of Ignorance (2022) e Democratic Freedom (2023), entre outros.