
LABORATOIRE DE RECHERCHE EN COMMUNICATION PUBLIQUE
ET INTELLIGENCE ARTIFICIELLE, UNIVERSITÉ LAVAL
LABORATOIRE C-IA
Stop
Marketing avant entrée en bourse ou crainte réelle, Anthropic suggère un arrêt concerté au niveau mondial pour le développement des IA, ces dernières approchant du point où elles vont pouvoir se développer toutes seules
Que se passe-t-il quand une IA devient assez bonne pour fabriquer la version suivante d'elle-même ? Anthropic, l'entreprise derrière Claude, dit que la question n'est plus théorique. Elle vient de publier ses données internes : 80 % du code écrit par l'IA, des ingénieurs huit fois plus productifs, et un modèle qui propose de meilleures pistes de recherche que les humains dans 64 % des cas. Anthropic nomme ce qu'il voit venir : l'auto-amélioration récursive, une IA capable de concevoir et d'entraîner son propre successeur. Anthropic conclut en déclarant qu'il serait "probablement bénéfique" de pouvoir ralentir ou suspendre le développement de l'IA de pointe, à condition que les autres laboratoires en fassent autant de manière vérifiable. L'entreprise annonce des consultations avec gouvernements, chercheurs et société civile dans les mois à venir.