A Transformação da IA: Inflexões e Novos Paradigmas

"Posso dizer que criei um unicórnio? Mais especificamente, um modelo de IA unicórnio. Acabei de perceber que os downloads totais de um dos meus modelos no Hugging Face ultrapassaram 1 bilhão."

Esta declaração de Jonatas Grosman revela o impacto global de um projeto criado por um pesquisador brasileiro que, apesar de ter desenvolvido um modelo usado em escala global, permanece relativamente desconhecido fora dos círculos especializados.

Jonatas Grosman é cientista de computação e pesquisador brasileiro especializado em processamento de linguagem natural (NLP), Venture Partner da Lanx e formado na Baixada Fluminense, com passagens pelo Laboratório Nacional de Computação Científica e pelo Observatório Nacional antes de ingressar na PUC-Rio. Neste episódio do Sunday Drops, exploramos sua trajetória e visão sobre a inteligência artificial.

Escute no Spotify, Apple Podcasts ou Youtube.

Este episódio só é possível graças aos nossos parceiros:

* Onfly: A plataforma ideal para gerenciar viagens corporativas. (https://www.onfly.com.br/)

* Salvy: A operadora que está revolucionando a telefonia para empresas. (https://www.salvy.com.br/startups)

O Modelo Brasileiro com 1 Bilhão de Downloads

Grosman relata como criou um modelo de reconhecimento de fala durante seu doutorado, participando de uma competição da Hugging Face para transcrição de áudio. O que começou como uma disputa onde o prêmio era modesto – "uma caneca e uma camiseta" – resultou em um modelo que não apenas venceu na categoria do português, mas em vários outros idiomas.

"Considerando o tamanho desse modelo, este volume de downloads resultou em aproximadamente 1,4 exabytes de tráfego de dados (sim, você leu corretamente, exabytes, não terabytes ou petabytes)", comentou Grosman ao refletir sobre o alcance de sua criação. Este modelo hoje acumula mais de um bilhão de downloads e dezenas de milhões mensalmente, tornando-se um caso raro de tecnologia brasileira com impacto global em IA.

O sucesso deste projeto demonstra como talentos de países em desenvolvimento podem criar tecnologias de ponta mesmo com recursos limitados, sugerindo a necessidade de políticas públicas que identifiquem e financiem projetos-sementes com potencial de escala internacional.

O Fosso entre Academia e Indústria no Brasil

Um tema recorrente na conversa é a desconexão entre a produção científica brasileira e sua aplicação comercial. Grosman observa que enquanto nos EUA existe um fluxo natural de talentos e ideias entre universidades e empresas de tecnologia, no Brasil há barreiras tanto culturais quanto estruturais. Ele menciona como professores de universidades públicas brasileiras frequentemente enfrentam restrições legais para empreender, diferentemente do modelo americano onde o trânsito entre academia e mercado é fluido.

Esta rigidez regulatória que impede professores universitários de dedicação exclusiva de participarem em empreendimentos comerciais representa um gargalo significativo para a inovação brasileira, sugerindo a necessidade de reformas nos marcos regulatórios das instituições públicas de ensino.

A Desmistificação do GPT e o Ciclo de Hype

Grosman oferece uma análise histórica sobre a evolução dos modelos de linguagem, desconstruindo narrativas alarmistas. Ele relembra como a OpenAI causou apreensão ao não disponibilizar o GPT-2 publicamente por "riscos à humanidade", quando na realidade o modelo não era revolucionário. Já o GPT-3 representou um salto qualitativo real, capaz de enganar humanos em testes cegos. Este ciclo entre hype infundado e avanços genuínos continua a moldar a percepção pública sobre IA.

Para investidores e formuladores de políticas, a capacidade de distinguir entre hype de marketing e avanços tecnológicos substantivos é crucial para alocação eficiente de recursos e regulamentação apropriada.

Limites Atuais da IA: O Exemplo de Copérnico

Um dos momentos mais instigantes da entrevista surge quando Grosman responde a uma questão similar à famosa pergunta de Dwarkesh Patel: se treinássemos um LLM apenas com conhecimentos disponíveis até 1500, ele seria capaz de deduzir o modelo heliocêntrico de Copérnico? A resposta é provavelmente não, porque os modelos atuais são projetados para reproduzir padrões existentes, não para fazer saltos cognitivos revolucionários.

"A descoberta científica não é responder perguntas, é fazer perguntas que ninguém fez", observa Grosman. Esta limitação fundamental sugere que o futuro próximo da IA será como ferramenta potencializadora para cientistas humanos, não como substituta – uma perspectiva relevante para laboratórios de P&D que buscam equilibrar investimentos entre IA e pesquisa tradicional.

Do Treinamento à Inferência: A Mudança de Paradigma Econômico

Um insight particularmente valioso é a análise de Grosman sobre como o paradigma econômico da IA está mudando. Conforme destacado no artigo "Inflexões e Paradigmas", estamos assistindo a uma estabilização na lei da escala. À medida que todos os dados do mundo foram processados dentro de supercomputadores, os resultados dos modelos não avançaram na velocidade anterior, chegando a um plateau.

Ilya Sutskever, cofundador da OpenAI, comentou que a era de simplesmente escalar modelos está chegando ao fim. Sam Altman já antecipava em abril de 2023 que o progresso não viria em tornar os modelos ainda maiores, mas sim em fazê-los de forma inteligente. Estamos vendo uma mudança de foco do pré-treinamento para a inferência, onde o "test-time computing" permite que modelos gastem mais tempo "pensando" antes de responder, gerando resultados de qualidade superior com menos recursos computacionais.

Esta mudança sugere oportunidades de investimento em tecnologias de otimização de inferência e infraestrutura especializada, mais do que em desenvolvimento de modelos fundacionais de escala ainda maior.

A Transição do Mercado de Trabalho

Grosman adota uma visão historicamente informada sobre o impacto da IA no mercado de trabalho. Assim como a mecanização da agricultura ou a revolução industrial, a automação via IA provavelmente causará disrupção significativa seguida por reequilíbrio. Ele prevê crescimento na demanda por profissionais de tecnologia, especialmente em ciências da computação – observação também feita por Victor Lazarte – enquanto outras áreas encolherão sem desaparecer completamente.

Grosman enfatiza a necessidade de políticas públicas para gerenciar esta transição, especialmente para trabalhadores mais experientes que enfrentam desafios maiores de requalificação. Organizações e governos precisam desenvolver programas de transição de carreira que considerem não apenas o desenvolvimento de habilidades técnicas, mas também as barreiras psicológicas e financeiras enfrentadas por profissionais deslocados pela automação.

Conclusão

A conversa com Jonatas Grosman oferece não é nem utópica nem apocalíptica, mas pragmaticamente otimista. Como cientista que navegou com sucesso entre a academia brasileira e aplicações globais, sua perspectiva ressoa com especial autenticidade.

Enquanto testemunhamos uma inflexão no desenvolvimento da IA, com a mudança de foco do pré-treinamento para a inferência e a democratização do acesso através de modelos open source, surgem novas oportunidades para inovação distribuída e soluções verticais especializadas. O tabuleiro está sendo redefinido, permitindo que times menores e mais focados criem soluções de nicho extremamente poderosas.

Este episódio do Sunday Drops representa uma oportunidade rara de ouvir de uma voz brasileira autorizada sobre tecnologias que moldarão nosso futuro coletivo. Disponível no Spotify, Apple Podcasts e YouTube, a conversa completa oferece nuances adicionais para pesquisadores, investidores e formuladores de políticas interessados em construir pontes entre ciência de ponta e aplicações transformadoras.

This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit abreu.substack.com