Anthropic sous surveillance alors que des chercheurs mettent en garde contre les risques de l'IA et retiennent un nouveau modèle des testeurs britanniques

Anthropic, le laboratoire d'IA basé à San Francisco connu pour sa famille de modèles Claude, a décidé de ne pas mettre son dernier modèle d'IA à la disposition des testeurs au Royaume-Uni. Cette décision s'inscrit dans la pratique établie de l'entreprise de restreindre l'accès à ses systèmes avancés pour des évaluations de sécurité, reflétant des préoccupations persistantes concernant les risques en matière de cybersécurité.

Auparavant, Anthropic avait collaboré avec l'Institut de sécurité de l'IA du Royaume-Uni et d'autres partenaires pour des tests de sécurité contrôlés. Cependant, la décision de retenir le modèle indique une approche prudente de la part d'Anthropic dans le déploiement de systèmes d'IA de pointe, ce qui pourrait potentiellement affecter sa position concurrentielle sur le marché de l'IA en rapide évolution.

Pour ajouter à la vigilance, Jacob Coxon, un ancien chercheur chez Anthropic, a publiquement averti que les laboratoires d'IA, y compris Anthropic et OpenAI, se précipitent vers une superintelligence auto-améliorante, ce qui, selon lui, pourrait représenter un risque significatif pour l'humanité. Coxon, qui a démissionné d'Anthropic, a exprimé des inquiétudes quant au fait que la trajectoire de la technologie est largement sous-estimée et que les conversations privées au sein de l'industrie révèlent un contraste frappant avec les messages publics.

Un autre acteur clé chez Anthropic, Jan Leike, a également exprimé des préoccupations, suggérant qu'il y a plus de 10 % de chances que l'IA puisse conduire à l'extinction humaine dans la prochaine décennie. Ces déclarations soulignent le débat en cours sur les dangers des systèmes d'IA avancés et soulèvent des questions sur l'avenir d'Anthropic et sa valorisation.

Alors que la situation évolue, les observateurs surveillent de près toute réponse officielle d'Anthropic et de ses partenaires stratégiques, ainsi que les éventuels changements de prix sur le marché liés à la valorisation de l'entreprise.