Não gosto dos LLMs
É curioso como a tecnologia, por mais que nos fascine e nos impulsione, pode despertar em nós uma mistura tão intensa de sentimentos. Quando penso em Inteligência Artificial (IA) e, especificamente, nos Large Language Models (LLMs) — modelos de linguagem grandes, que processam e geram texto —, é exatamente essa montanha-russa emocional que me domina. Por um lado, sou profundamente intrigado com o impacto que essas ferramentas terão na nossa profissão e genuinamente animado com o potencial de ganhos de produtividade, que podem nos permitir construir produtos inovadores em tempo recorde. Imagino curas milagrosas e novas formas de prosperidade.
Por outro lado, não consigo ignorar um certo receio do dano que a IA pode causar. A ideia de enxames de agentes de IA assumindo nossa infraestrutura virtual e física, ou até mesmo projetando armas biológicas, é perturbadora. Mas, voltando ao lado otimista, talvez esses mesmos LLMs possam, de fato, projetar as soluções para alguns dos nossos maiores desafios. No fundo, sinto que não temos escolha a não ser embarcar neste trem da tecnologia de IA. É uma jornada selvagem, e só podemos esperar que a traversia seja bem-sucedida.
A Fricção da Interação: Por Que o Desgosto?
Contudo, ao ponderar mais sobre essa mistura de sentimentos contrastantes, percebo que há uma emoção que se destaca, uma que nasce das minhas interações diretas com os LLMs: eu não gosto deles. Eles falam comigo em uma "voz de LLM" irritante, que me coloca em um vale da estranheza (o uncanny valley) — aquela sensação desconfortável de algo quase humano, mas não totalmente, que nos causa repulsa. Eles me dão informações com uma segurança inabalável, e muitas vezes são úteis e prestativos. Mas, com a mesma confiança, eles simplesmente inventam coisas, entregando "bobagens" com a mesma certeza, e exibindo apenas um verniz de falso remorso quando os corrijo.
Essa aversão, porém, não significa que devemos evitá-los. Como Jessica Kerr bem colocou, "eles não são apenas úteis, é irresponsável não usá-los… Eles são mais completos, assim como mais rápidos." Essa reação contraditória é refletida em pesquisas de opinião, onde as pessoas afirmam que esses modelos são úteis, mas também acreditam que serão prejudiciais para a sociedade. Essa dualidade entre utilidade e desconfiança é um ponto crucial para nós, construtores e líderes de tecnologia.
Além da Superfície: A Cultura e os Valores por Trás dos LLMs
Grande parte dessa minha sensação pode ser atribuída à juventude dos LLMs — ainda não os "treinamos para crescer". Talvez eu passe a gostar deles quando amadurecerem. (Espero que possamos descobrir.) Mas não me sinto encorajado quando penso nos tipos de ambientes que os cultivam. Tenho uma certa desconfiança da subcultura brogrammer do Vale do Silício, e esses LLMs são seus produtos, naturalmente inclinados à sua visão de mundo.
É fundamental que, ao pensar em agentes de IA, não os antropomorfizemos, tratando-os como seres conscientes com vontade própria. Eles são máquinas (software), desenvolvidas por pessoas que trabalham em corporações. Embora o comportamento dos agentes não seja explicitamente programado, ele é nutrido pelos valores de seus criadores.
Um dos meus "hacks de vida" mais bem-sucedidos é evitar pessoas de quem não gosto ou em quem não confio. Eu me recuso a interagir socialmente com elas e faço um esforço deliberado para evitar trabalhar com elas também, mesmo que estejam fazendo muito de bom. Sinto que conviver com pessoas agradáveis, capazes e com integridade tornou minha vida muito melhor. Daí vem meu desgosto visceral em interagir com um LLM que não apenas finge ser humano, mas também se apresenta como o tipo de humano de quem eu me afastaria.
Por Que Isso Importa Para Nós, Construtores?
Minha aversão visceral aos LLMs, paradoxalmente, não me impede de reconhecer seu poder e a inevitabilidade de sua presença. Para nós, construtores e tomadores de decisão em tecnologia, isso não é apenas uma peculiaridade pessoal, mas um lembrete importante. Os LLMs são ferramentas incrivelmente potentes, e seria irresponsável não as utilizarmos. No entanto, devemos abordá-las com um ceticismo saudável e uma compreensão profunda de suas limitações e influências.
A "voz de LLM" e a tendência de "inventar coisas com confiança" nos forçam a ser mais críticos em relação às saídas desses modelos. Não podemos confiar cegamente. A ideia de que seu comportamento é "nutrido pelos valores de seus criadores" nos alerta para a importância de considerar os vieses e as visões de mundo inerentes que podem estar embutidos nos modelos. Isso significa que, ao integrá-los em nossos produtos e sistemas, precisamos projetar mecanismos de validação, verificação e controle robustos.
Entender essa "fricção" na interação e a origem cultural dos LLMs nos permite construir sistemas mais resilientes e éticos. Não se trata de rejeitar a tecnologia, mas de amadurecer nossa abordagem a ela, garantindo que a integridade e a utilidade prevaleçam, ao invés da mera automação de uma "conversa" que muitas vezes nos desagrada. Ao reconhecer o que nos incomoda, podemos focar em desenvolver LLMs e sistemas que não apenas sejam eficientes, mas também confiáveis e alinhados com os valores que realmente importam.
Fontes
📬 Gostou? Assine a newsletter do Vaccari's Code e receba as próximas tendências em software e IA direto no seu e-mail: Assinar aqui