Conversar com ferramentas de inteligência artificial (IA) pode parecer algo simples, mas cada mensagem trocada com um chatbot consome mais energia do que imaginamos. Para tornar esse impacto mais visível, o engenheiro Julien Delavande, da empresa de tecnologia Hugging Face, desenvolveu uma ferramenta de código aberto que estima, em tempo real, o consumo elétrico durante interações com modelos como o ChatGPT da OpenAI, o Llama 3.3 70B da Meta e o Gemma 3 do Google.
A calculadora faz parte da plataforma ChatUI Energy e mostra o gasto energético em watts-hora ou joules e compara o uso com atividades cotidianas, como acender uma lâmpada ou usar um micro-ondas, por exemplo. A iniciativa faz parte de um movimento por mais transparência no setor, que inclui o projeto AI Energy Score, um “selo de eficiência energética” para modelos de IA. A seguir, conheça o ChatUI Energy e saiba como utilizar a ferramenta gratuitamente.
O que é a ChatUI
A ferramenta criada por Delavande funciona como uma espécie de contador de calorias, só que para conversas com IA. Integrada ao ChatUI, uma interface de código aberto da Hugging Face, ela mede em tempo real a energia consumida por cada mensagem enviada e recebida. Por exemplo, pedir ao modelo Llama 3.3 70B para escrever um e-mail consome cerca de 0,1841 watts-hora, o equivalente a manter um micro-ondas ligado por 0,12 segundos ou usar uma torradeira por 0,02 segundos.
Embora os números sejam estimativas, a ferramenta oferece uma perspectiva sobre o impacto energético do uso cotidiano de IA. Além disso, permite comparar o consumo de diferentes modelos, tarefas e estratégias, como o uso de raciocínio, auxiliando os usuários a tomar decisões mais informadas.
Como funciona a estimativa de energia?
A ChatUI Energy estima o consumo energético em tempo real a partir da carga de trabalho dos servidores e do tempo de inferência dos modelos, ou seja, quanto tempo a IA leva para gerar uma resposta. O cálculo se baseia em estudos prévios sobre consumo energético de GPUs em datacenters e nos recursos médios exigidos por modelos como o ChatGPT, o Llama 3.3 70B da Meta e o Gemma 3 do Google. Logo abaixo da janela de conversa, é exibido o resultado em joules e watts-hora, além de comparações com atividades cotidianas, como carregar um celular ou dirigir por alguns minutos.
Para utilizar a ferramenta, basta acessar o site da plataforma, escolher o modelo de IA que deseja utilizar e, em seguida, escrever um comando ou clicar nos exemplos disponíveis (como, por exemplo, “escreva um e-mail a partir de uma lista”). O resultado será exibido logo abaixo da resposta. Embora os dados não sejam precisos, a proposta é dar um panorama do impacto de decisões aparentemente simples, como escolher um modelo mais leve ou reduzir a quantidade de tokens gerados por resposta.
‘Selos de eficiência’ para ferramentas de IA
O ChatUI Energy está integrado a outros projetos que visam promover a transparência no consumo energético da inteligência artificial. Em parceria com empresas como Salesforce e Cohere, e instituições acadêmicas como a Carnegie Mellon University, a Hugging Face lançou o AI Energy Score, um sistema de classificação que avalia a eficiência energética de modelos de IA em uma escala de 1 a 5 estrelas, semelhante aos selos de eficiência de eletrodomésticos. O objetivo é estabelecer um padrão confiável para a sustentabilidade dos sistemas de IA, permitindo que desenvolvedores e usuários escolham opções mais eficientes. Até o momento, já foram avaliados 166 modelos em tarefas como geração de texto e resumos.
Com informações de TechCrunch.
Fonte: Techtudo
