L'ancien directeur de l'IA chez Tesla, Andrej Karpathy, rejoint Anthropic

Andrej Karpathy, cofondateur d'OpenAI et ancien responsable de longue date de l'équipe de vision par ordinateur de Tesla, a rejoint Anthropic.

L'annonce a été faite directement par Karpathy sur les réseaux sociaux mardi.

"Mise à jour personnelle : j'ai rejoint Anthropic. Je pense que les prochaines années à la frontière des LLM seront particulièrement déterminantes. Je suis très enthousiaste à l'idée de rejoindre l'équipe ici et de revenir à la R&D,"

Il a partagé cette nouvelle sur X (lien). Il a ajouté que, bien qu'il se replonge dans la recherche fondamentale, il reste profondément passionné par l'éducation et prévoit de reprendre ses travaux dans ce domaine en temps voulu.

Accélérer la recherche sur le pré-entraînement

Karpathy rejoint l'équipe de pré-entraînement d'Anthropic sous la direction de Nick Joseph. Le pré-entraînement est la phase intensive en calcul durant laquelle un grand modèle linguistique tel que Claude construit ses connaissances fondamentales avant le réglage fin.

Selon Anthropic, Karpathy va constituer un nouveau groupe axé sur l'utilisation de Claude lui-même pour accélérer la recherche sur le pré-entraînement. Cette démarche témoigne d'une volonté de miser sur l'optimisation architecturale plutôt que de dépendre uniquement d'une puissance de calcul supplémentaire pour rester compétitif face à OpenAI et Google.

Retour sur l'héritage de Karpathy

Karpathy a été directeur de l'IA chez Tesla, dirigeant les équipes de vision par ordinateur pour l'Autopilot et la conduite entièrement autonome durant une période charnière. Il a annoncé son départ de Tesla à l'été 2022 pour faire une pause et se consacrer à des projets personnels.

Depuis qu'il a quitté le constructeur automobile, il a exprimé son intérêt pour retravailler chez Tesla, notamment son souhait de contribuer au projet de robot humanoïde Optimus. Elon Musk l'a publiquement invité à revenir l'été dernier.

Karpathy est ensuite retourné chez OpenAI pendant un an avant de partir début 2024 pour lancer Eureka Labs, une startup spécialisée dans l'éducation assistée par IA. Si son nouveau poste chez Anthropic met Eureka Labs en pause, cela reflète également la rapidité avec laquelle le paysage de l'intelligence artificielle générale évolue. Il a souvent partagé ses perspectives sur l'avenir de l'AGI, la considérant comme une transition inévitable de la technologie humaine.

Anthropic poursuit sa chasse aux talents

Karpathy n'est pas la seule recrue notable d'Anthropic cette semaine. L'entreprise a également embauché l'expert en cybersécurité Chris Rohlf pour rejoindre son équipe de « red teaming » dédiée aux modèles de pointe. Rohlf a passé six ans chez Meta et a travaillé auparavant au sein de la célèbre équipe de sécurité « The Paranoids » de Yahoo ; il sera chargé de tester la résistance des modèles avancés d'Anthropic face à des menaces numériques majeures.

En attirant des talents de premier plan en apprentissage automatique aux côtés de professionnels chevronnés de la sécurité, Anthropic renforce sa position à la pointe du développement de l'IA. Reste à voir comment l'expérience de Karpathy en vision par ordinateur physique chez Tesla influencera les systèmes textuels et multimodaux comme Claude, mais son arrivée fait d'Anthropic une organisation clé à surveiller dans les mois à venir.