Sobre intencionalidade no mundo inundado em IA

Eu realmente gosto de escrever essa newsletter e em meu blog. Não é necessariamente uma atividade prazeirosa, mas é uma forma de expressão que me traz satisfação emocional e profissional. Sim, é meu trabalho, entre outras coisas, eu escrevo para ganhar a vida.

Mas o motivo que eu gosto de escrever não é nem tanto o ato de sentar e digitar, mas sim a intencionalidade de colocar em palavras escritas aquilo que eu quero comunicar. Pra mim, é a mídia que mais gosto (seja digital ou em papel).

Confesso que ando um pouco obcecado com a importância da intencionalidade na minha vida, ainda mais agora, quando deixar pra trás essa camada de interação humana é cada vez mais fácil, com novas tecnologias e distrações. Intencionalidade é o motivo pelo qual telefonamos para nossos pais e mães em seus aniversários, que cozinhamos para esposas e maridos, que brincamos, amamos e tretamos. Que escrevemos newsletters como esta.

"Escrever é escolher as palavras. Se estão escolhendo suas palavras por você, você não é mais o autor. Ponto", disse o meu xará Sérgio Rodrigues em entrevista a Guilherme Amado.

Eu concordo muito com isso. A escolha de palavras envolve não apenas a transmissão de informações (que a IA pode fazer), mas também a intencionalidade de quem escreve – um pacote de elementos de autenticidade que inclui experiência, perspectiva, linguagem, expressão e personalidade. É algo que não vale só pra textos literários, mas também para acadêmicos, jornalísticos, cartas e até mensagem de texto pra sua irmã perguntando uma receita de bolo.

Outro dia estava lendo um interessante post do jornalista Pedro Burgos, que tem trabalhado muito bem na comunicação sobre inteligência artificial. No texto, Burgos discorre sobre a distribuição de textos inteiramente gerados por inteligência artificial, argumentando – a partir dos ensinamentos do sociolinguista Basil Bernstein – que sua qualidade depende da formação linguística das pessoas, e que, para a maioria, o texto de IA é bom o suficiente.

Para quem já tinha o código elaborado de berço, quem cresceu lendo livro, quem teve aula de redação, quem escreve há vinte anos, é fácil ver que a versão da IA é ainda uma sombra do que se podia fazer, ou pelo menos é uma casca bonita, sem alma. Para essas pessoas, é um downgrade, sim, comparado a um bom texto humano. Mas para a maioria das pessoas, o ponto de comparação não é um bom texto humano. É o texto que elas mesmas escreveriam.

Esse ponto da luta de classes (trabalhadores vs privilegiados) é interessante, mas acho incompleto.

Talvez ele seja melhor colocado quando a necessidade de uma comunicação é puramente a transmissão de dados e informações. Se preciso apenas comunicar que a inflação subiu, ou que São Paulo registra 120 quilômetros de trânsito nesta tarde, talvez IA seja suficiente. Talvez até para coisas mais complexas, como descrever uma metodologia, fazer um roteiro de viagem ou gerar coisas que requerem pouca, ou nenhuma, autenticidade.

Mas se eu preciso desenvolver um argumento, refletir sobre um problema e intencionalmente me conectar com outras pessoas, em qualquer capacidade, a escrita feita por IA não é remotamente adequada.

Primeiro, por motivo prático: se a IA criar um argumento em seu nome, você precisa revisar tudo, editar e concordar com o resultado final. A não ser que você seja completamente irresponsável e displicente com sua própria reputação, isso talvez dê mais trabalho do que escrever do zero. Além disso, por que eu leria o seu argumento, se posso simplesmente perguntar pra IA?

Segundo, por motivo epistemológico: se modelos de linguagem se baseiam em padrões estatísticos que regridem a uma certa homogeneização do conhecimento (sim, fiz uma aula de IA em Stanford), qual contribuição isso tem para mim?

Em um texto esclarecedor e, ao mesmo tempo, questionado por alguns entusiastas no Vale do Silício, o especialista em políticas de educação Benjamin Riley faz referências a pesquisas científicas para argumentar que inteligência é diferente de linguagem – ou seja, é uma ferramenta de comunicação, não de pensamento.

Nossa cognição melhora por causa da linguagem — mas não é criada ou definida por ela. Se tirarem nossa capacidade de falar, ainda assim podemos pensar, raciocinar, formar crenças, nos apaixonar e nos mover pelo mundo; nossa gama de experiências e pensamentos continua vasta. Mas tire a linguagem de um grande modelo de linguagem, e você ficará literalmente sem nada.

Terceiro, por motivo mais humano: quem quer ler um argumento que a outra pessoa não quis escrever? Para que eu vou me engajar em uma discussão com uma pessoa que sequer se deu ao trabalho de argumentar com suas próprias palavras?

O desenvolvedor Alex Schroeder questionou exatamente essa mesma coisa ao receber um email de feliz aniversário de um amigo inteiramente escrito por IA. Segundo ele:

Ao receber um texto que parece pessoal, sinto-me traído pela parte que foi escrita por uma máquina. A princípio, a gente se sente especial, depois vem a dúvida, e então a sensação de traição, porque nossos sentimentos foram enganados.

Meu contraponto ao argumento do Burgos não é que um texto gerado por inteligência artificial é fundamentalmente inútil, ou nem mesmo ruim, mas sim que ele provavelmente vem de um lugar de baixíssima intencionalidade, talvez até de preguiça, ausência de opinião ou ignorância. Se fosse apenas para informar, ele não precisaria ser assinado por um autor.

Não quero escrever, não sei articular meus pensamentos ou não entendo do assunto, então um modelo de linguagem assume uma posição por mim – algo como: toma aqui, troque ideia com meu bot!

Segundo ele, "a reclamação estética contra o texto de IA, levada a sério, é uma reclamação contra a redistribuição de uma habilidade que era um diferencial competitivo." Talvez seja mesmo, para alguns. Mas, como ele mesmo diz logo depois, sem elaborar, "há questões mais metafísicas envolvidas". Essa metafísica a qual ele se refere, creio que seja tangente à intencionalidade.

Recentemente conversei com o fotojornalista Cengiz Yar, que passou anos fazendo seu belíssimo livro "The Alabaster Grave", sobre o impacto da guerra na cidade iraquiana de Mosul. O processo foi excruciante, desde a escolha de sequência das fotos até a gramatura do papel. Auto-publicado, ele viajou de volta ao Iraque para entregar em mãos mais de 500 cópias para seus personagens. Hoje em dia, ele mesmo envia seus livros para quem os compra.

Claro que nem todo mundo precisa fazer tudo isso para mostrar intencionalidade. Mas esse tipo de interesse e cuidado talvez seja o único diferencial que realmente vai importar quando a gente não mais conseguir discernir que é feito por humanos e o que é feito por IA. No fim das contas, a grande questão é o que e como nós, humanos, vamos valorizar o que é mais importante para nós.

Como bem colocou o designer Peter Adam Boeckel, em um dos melhores textos que eu li sobre o assunto:

A tecnologia que leva a esse 'deslocamento de propósito' não é nem boa nem má. É simplesmente eficiente. Ela expõe os incentivos pelos quais já vivemos—velocidade, tempo, dinheiro—e os amplifica até sua conclusão lógica. Os resultados não são nem distópicos nem utópicos; são reflexos precisos de nossas prioridades. Se a IA libera ou devasta depende menos do que ela pode fazer e mais do que escolhemos valorizar.