Ele treinava IA. Agora critica a pressa para construir a próxima geração.
Bruno Belissimo
Na edição de
Jacob Coxon anunciou no X que deixou a Anthropic, criadora do Claude. Depois de três anos trabalhando no treinamento inicial de modelos na OpenAI e na Anthropic, ele questiona o rumo da corrida entre os laboratórios.
O que você precisa saber
- A crítica central é à pressa para construir sistemas capazes de participar do próprio aperfeiçoamento. Na avaliação de Coxon, os laboratórios estão avançando sem uma base de confiança suficiente de que segurança e alinhamento acompanharão o salto de capacidade.
- Ele apresenta a saída como uma decisão pessoal diante desse cenário. A preocupação é de alguém que trabalhou na área, mas continua sendo sua leitura sobre os riscos, não uma demonstração de que um desfecho específico seja inevitável.
Por que importa
O ponto que me pega é a distância entre conseguir construir uma coisa e entender bem o que ela faz. Para quem compra IA, vale cobrar essa conversa junto da demonstração: quais limites foram encontrados, como são acompanhados e quem responde quando o agente sai do combinado?