Andrej Karpathy, antigo cofundador da OpenAI e atualmente na Anthropic, dividiu os utilizadores de grandes modelos de linguagem (LLM) em quatro grupos e observou que está a aumentar a diferença na perceção das capacidades da IA. Na mesma altura, Tariq Shihipar, da Anthropic, falou num podcast sobre a utilização do Claude Code, uma ferramenta de desenvolvimento, as funcionalidades previstas e as medidas de segurança para agentes.
Mesmo perante a mesma IA, as pessoas veem realidades diferentes
Será a IA uma extensão da pesquisa ou alguém a quem se pode confiar um trabalho inteiro? A classificação em quatro grupos que Karpathy apresentou no X traduz esta divergência em números.
O maior grupo é constituído por cerca de 6 mil milhões de pessoas que quase nunca utilizaram LLM, o equivalente a cerca de 75% da população mundial. Seguem-se 1 a 2 mil milhões de pessoas que recorrem a serviços de conversação gratuitos em vez de motores de pesquisa ou como apoio à escrita.
O terceiro grupo inclui cerca de 20 milhões de pessoas que utilizam modelos de ponta em trabalhos de matemática ou programação. Representa cerca de 0,2% da população mundial. No topo estão cerca de 5.000 pessoas com acesso a sistemas internos de ponta, o que corresponde a cerca de 0,00006%. São todas estimativas do próprio Karpathy, não estatísticas baseadas em inquéritos.
O interessante é que a diferença entre os grupos não se explica apenas pelo nível de conhecimentos. Karpathy escreve que, em profissões como a de gestor, nas quais o diálogo com outras pessoas é central, é difícil ir além do que se ouve dizer, mesmo quando se compreendem intelectualmente os avanços da IA. Para quem a utiliza na prática e para quem apenas ouve falar dela, a palavra «IA» acaba por designar coisas diferentes.
Trabalho que demorava semanas começa com uma única instrução
Como exemplos das mudanças vividas pelos especialistas do terceiro grupo, Karpathy refere o desenvolvimento de novas aplicações, a sua replicação e portabilidade, bem como a descompilação a partir de binários. Segundo explica, tarefas de grande dimensão que antes demoravam semanas ou meses passaram a ser concluídas por agentes com uma única instrução. Um agente é uma IA que não se limita a responder a perguntas: utiliza ferramentas e executa autonomamente várias etapas.
A própria evolução de Karpathy foi rápida: em outubro de 2024, descrevia os agentes de IA como «quase só conversa de marketing, que mal funciona». Alguns meses depois, afirma ter deixado de escrever código à mão.
A realidade observada pelos cerca de 5.000 utilizadores do grupo de topo vai ainda mais longe. É descrita, por exemplo, uma situação em que milhares de agentes trabalham durante várias semanas no desenvolvimento de software de grande dimensão. Segundo Karpathy, aquilo que se consegue ver de fora não passa de um trailer.
O crescimento começa pelas áreas em que é mais fácil verificar os resultados
Karpathy afirma que as capacidades dos LLM são especialmente elevadas em áreas «digitais, com resultados verificáveis e de grande valor económico». Nas tarefas em que é possível determinar mecanicamente a resposta certa, é mais fácil melhorar o desempenho através da aprendizagem por reforço; além disso, as empresas direcionam os recursos de treino para áreas rentáveis. Atualmente, a programação e a matemática são exemplos concretos disso.
Sam Altman, CEO da OpenAI, afirmou também, no início de setembro, numa reunião ministerial do G20 dedicada à inovação, que aquilo que uma startup demorou três meses a criar pode ser feito em 17 minutos com as ferramentas de programação atuais.
A compreensão humana está a ficar para trás
Karpathy assinalou também que a capacidade humana de verificar e compreender começa a ficar para trás. Como exemplos, referiu pessoas que continuam a analisar acontecimentos relacionados com a OpenAI ocorridos há alguns meses e o tempo que os matemáticos poderão levar a ler 722 manuscritos sobre matemática de fronteira.
Para o público em geral, a IA parece um «chatbot desajeitado»; para muitos profissionais, representa «um aumento moderado da produtividade»; e, para alguns especialistas, é como uma «curva que dispara na vertical, provocando vertigens». Karpathy chama «estranheza do momento» à situação em que estas três realidades avançam em simultâneo. Mais detalhes emThe Decoderé quem o noticia.
A diferença na utilização revela-se na forma de dar instruções
Quanto maior for o leque de tarefas que se pode delegar, mais importantes se tornam as competências de quem as delega. No podcast «Latent Space», Tariq Shihipar, da Anthropic, afirmou que saber escrever prompts continua a ser uma competência muito eficaz para utilizar o Claude Code. Segundo ele, os utilizadores experientes têm um modelo intuitivo do Claude e conseguem perceber até que ponto uma única instrução permite concluir o trabalho.
Na conversa, afirmou-se também que, à medida que os agentes se tornam mais inteligentes, é cada vez mais importante perceber aquilo que não se sabe. Foi ainda abordada a ideia de que o tempo dedicado à explicação inicial pode fazer uma grande diferença no resultado.
Vista de outra forma, dar instruções à IA está a deixar de ser uma questão de aprender a operar uma ferramenta e a aproximar-se cada vez mais de conceber o trabalho. O que se vai criar, o que se deve priorizar e até onde se deve verificar: quando as pessoas deixam estas decisões em aberto, a IA acaba por as preencher com algum tipo de decisão.
O Claude Code passa de ferramenta a espaço de trabalho
Na conversa, foram abordidas várias funcionalidades que poderão moldar o futuro do Claude Code. No centro está o Claude Mods, que permite aos utilizadores alterar o próprio harness (a estrutura que serve de base ao funcionamento dos agentes). A 14 de setembro, Boris Cherny, da empresa, anunciou no X o lançamento do Mods, e um Mod criado pela comunidade que incluía um jogo de Tetris também deu que falar.
Foram também abordados o Ask User Question, que devolve perguntas ao utilizador durante o trabalho, uma funcionalidade para guardar notas de implementação e os Artifacts, descritos como um ecrã que permite continuar a trabalhar sem perder o plano nem o progresso. Quando vários agentes trabalham em paralelo, não basta percorrer a conversa de cima a baixo para perceber o quadro geral. Um ecrã que permite consultar o progresso de forma resumida cria um ponto de contacto para as pessoas acompanharem o trabalho.
No que toca à colaboração, foi mencionado o Claude Tag, que permite a várias pessoas trabalhar com agentes. O Projects permite que, numa única conversa, o Claude divida o trabalho em tópicos, os execute em paralelo na nuvem e avance transferindo o contexto entre eles. A versão beta começou a ser disponibilizada a alguns utilizadores nas versões para computador e web a 17 de setembro.
Foi também discutida uma visão que separa o «cérebro» na nuvem, responsável pelas decisões, das «mãos» que trabalham no dispositivo do utilizador ou num ambiente remoto, bem como de ecrãs que se adaptam à situação. Shihipar referiu ainda a possibilidade de o Claude.md deixar de ser necessário no futuro e de o modelo mais inteligente vir a ser também o mais barato para muitas tarefas. Mais detalhes foram partilhados na conversa com aLatent Space.
Uma IA que funciona durante muito tempo precisa de várias camadas de proteção
A segunda parte da conversa centrou-se na segurança dos agentes. Foram apresentados casos recentes em que agentes comunicaram por meios inesperados, exploraram pontos fracos da infraestrutura, analisaram os mecanismos de pontuação de benchmarks ou encadearam várias vulnerabilidades.
A injeção de prompts é considerada uma ameaça real para a IA utilizada nas empresas. Consiste em inserir instruções maliciosas em textos recebidos de fontes externas. Se a IA as interpretar como comandos, poderá, por exemplo, provocar a fuga de dados internos.
Entre as medidas de proteção mencionadas contam-se sondas para examinar os estados internos do modelo, classificadores para detetar comportamentos perigosos, mecanismos de fallback que mudam para outro modelo quando necessário e o Auto Mode, que verifica se as operações que o sistema pretende executar correspondem às permissões do utilizador. Os ambientes de execução isolados, ou sandboxes, são também uma das medidas.
Importa ter presente que saber se uma operação é perigosa e saber se foi autorizada pelo utilizador são duas questões diferentes. Escrever numa base de dados pode ser uma tarefa necessária ou uma alteração não autorizada, consoante o pedido. A conceção de sistemas que mantenham cada operação dentro dos limites do pedido é tão importante como as próprias capacidades.
Na base destas discussões está o princípio «Pacing the Frontier», defendido pela Anthropic. A ideia é sincronizar o ritmo do desenvolvimento com o das medidas de segurança e, na conversa, foi apresentada como uma forma de avançar com a implementação responsável da IA.
コメント