Investir em Modelos de IA: Vantagens e Custos

A disputa acirrada entre modelos de IA: o que está em jogo?

A competição entre modelos de IA de ponta das gigantes americanas e os modelos de código aberto das empresas chinesas está mais intensa do que nunca. Um relatório da Mozilla revela que a diferença de desempenho entre esses modelos caiu para apenas 4,4 meses. Isso explica por que muitas empresas estão migrando para modelos abertos, que são significativamente mais baratos para tarefas rotineiras. Mas ainda há um nicho onde os modelos de ponta justificam o custo extra.

O relatório "State of Open Source AI" da Mozilla, publicado em setembro, destaca que a maioria das organizações deveria usar modelos abertos como padrão para a maior parte de suas atividades. Um exemplo é o modelo Kimi K3 da Moonshot AI, que quase iguala o desempenho do modelo fechado Fable 5 da Anthropic, mas custa apenas 30% do preço. Segundo Raffi Krikorian, CTO da Mozilla, o valor dos modelos fechados está em tarefas específicas, como trabalhos profissionais complexos e recuperação de dados intensiva.

A escolha entre modelos abertos e fechados

Os modelos de código aberto permitem que qualquer pessoa baixe seus componentes principais e os execute em seus próprios computadores. No entanto, informações vitais, como dados de treinamento e código, geralmente são mantidas em sigilo. Já as empresas americanas, como Anthropic e OpenAI, oferecem modelos fechados que mantêm tudo proprietário, cobrando mais por esse acesso.

Apesar do custo, muitas organizações ainda pagam por modelos fechados porque eles funcionam imediatamente e vêm com pacotes de conformidade e suporte. Mas, com a diferença de desempenho entre modelos abertos e fechados diminuindo, o custo-benefício dos modelos abertos está sendo amplamente reconhecido. Empresas como a DoorDash já utilizam o Kimi para tarefas rotineiras, reservando o Fable para desafios mais complexos.

O tempo como fator decisivo na escolha

A diferença de desempenho é medida de várias maneiras. Por exemplo, a METR define o "horizonte de tempo" de um modelo de IA como a duração das tarefas que ele pode realizar com uma taxa de sucesso de 50%. Atualmente, o melhor modelo fechado pode lidar com tarefas 1,7 vezes mais longas do que o melhor modelo aberto. Mas essa diferença está diminuindo rapidamente.

Os modelos fechados ainda têm vantagem em tarefas que exigem entre oito e 12 horas, enquanto os modelos abertos ainda não conseguem lidar com isso. No entanto, para tarefas mais curtas, os modelos abertos já são uma opção viável e mais econômica. A questão é pagar pelo modelo fechado apenas quando essa vantagem de tempo realmente importa, como em prazos apertados.

O impacto dos modelos abertos no mercado

A popularidade dos modelos de código aberto está crescendo, mas eles ainda ficam atrás dos modelos fechados em termos de receita. Um estudo da Linux Foundation mostrou que os modelos abertos representaram apenas 4% da receita total, comparado aos 96% dos modelos fechados. No entanto, espera-se que essa diferença diminua à medida que os modelos abertos ganhem mais espaço.

O detalhe curioso é que a maioria dos modelos abertos vem da China, enquanto os modelos fechados são dominados por empresas americanas. Isso levanta preocupações sobre a concentração de poder e a necessidade de laboratórios nos EUA e Europa competirem no mesmo campo aberto.

Aprendizados do desenvolvimento de software aberto

O desenvolvimento de software de código aberto, como o Linux, pode oferecer lições valiosas para a criação de uma coalizão alternativa que apoie modelos de IA mais abertos. Essa coalizão provavelmente incluiria instituições com uma missão, em vez de um mercado, e precisaria de financiamento público para programas de computação abertos.

Krikorian sugere que essa coalizão vá além dos modelos de código aberto, adotando uma abordagem mais ampla de código aberto. Afinal, é difícil confiar plenamente em um modelo se não sabemos como ele foi treinado ou avaliado. A transparência e a colaboração podem ser a chave para um ecossistema de IA mais equilibrado e acessível.

O cenário da inteligência artificial está em constante evolução, e a escolha entre modelos abertos e fechados depende de muitos fatores. Mas uma coisa é certa: o debate sobre custo, desempenho e acessibilidade está longe de terminar.