Accelerated Understanding Inc lance un modèle d'IA innovant utilisant des opérateurs neuronaux

Accelerated Understanding Inc a annoncé le lancement de son nouveau modèle d'IA, qui utilise une architecture unique connue sous le nom d'opérateurs neuronaux, au lieu du cadre de transformateurs largement utilisé. Co-fondé par le professeur de Caltech Anima Anandkumar et Benedikt Jenik, ce modèle innovant est conçu pour fonctionner en 4D, traitant l'espace tridimensionnel en plus du temps, ce qui lui permet de comprendre des phénomènes physiques complexes avec une précision sans précédent.

Lors de sa phase d'entraînement, le modèle peut gérer jusqu'à 1 trillion de tokens et dépasse les 5 trillions de tokens lors de l'inférence. Lors des tests, il a démontré la capacité de traiter 5 trillions de points de données en une seule requête. Le modèle a été dimensionné à 1 trillion de paramètres lors de la pré-formation, le plaçant parmi les plus grands modèles d'IA développés à ce jour.

Comprendre les opérateurs neuronaux

Les opérateurs neuronaux fonctionnent différemment des transformateurs. Alors que les transformateurs traduisent des séquences, les opérateurs neuronaux agissent comme un moteur physique, apprenant les règles fondamentales qui régissent l'évolution des systèmes au fil du temps. Cela permet au modèle de prédire la dynamique des fluides, la dissipation de chaleur et les déformations structurelles, capturant les relations spatiales en trois dimensions tout en suivant les changements au fil du temps.

La société cible des applications dans l'optimisation énergétique, la conception de puces, la robotique, la prévision météorologique et l'innovation médicale. Anandkumar et Jenik ont précédemment refusé de diriger le projet Prometheus, une initiative soutenue par Jeff Bezos, pour se concentrer sur ce projet.

Implications pour le paysage de l'IA

Le lancement de ce modèle marque un changement significatif par rapport aux choix architecturaux prédominants dans l'industrie de l'IA, où la plupart des grands modèles reposent sur des transformateurs. Cette nouvelle approche pourrait perturber la dynamique actuelle du marché, affectant particulièrement des entreprises comme Anthropic, qui pourraient voir leur position concurrentielle évoluer à mesure que les références et les évaluations sont réévaluées.

Alors que les observateurs attendent les résultats de performance sur les principaux benchmarks de l'IA, l'impact du modèle d'Accelerated Understanding sur le paysage concurrentiel sera étroitement surveillé, en particulier par rapport à des acteurs établis comme Anthropic et Google.