Anthropic et l’amélioration récursive
IA Contenu généré par intelligence artificielle : texte écrit par une IA, lu par des voix de synthèse · sujet sensible, traité avec prudence.
Transcription avec les sources de chaque passage
Marc
Anthropic est entrée en Bourse jeudi, pour une valorisation annoncée de 1 700 milliards de dollars, selon Brief IA. Cette entrée sur les marchés ravive les inquiétudes autour de l’amélioration récursive de l’intelligence artificielle, qui consiste à utiliser l’IA pour contribuer à son propre développement. À San Francisco, l’ancien chercheur d’Anthropic Jacob Coxon aurait appelé à interdire totalement cette pratique lors d’un rassemblement. Des militants de Stop AI ont ensuite bloqué l’entrée des bureaux de l’entreprise. Ces actions donnent une visibilité concrète aux inquiétudes sur le contrôle du développement de systèmes toujours plus performants. Une évaluation indépendante de METR estime que l’IA accélère déjà les activités de recherche et développement chez Anthropic. L’entreprise est donc déjà concernée par cette évolution, au moins dans ses travaux de recherche et développement. Cette accélération nourrit le débat sur la place que l’IA pourrait prendre dans la conception des prochains modèles. Dans son prospectus boursier, Anthropic indique ne pas juger sûre la conception complète de sa prochaine génération de modèles par l’IA sans supervision humaine. L’entreprise envisage de maintenir une maîtrise humaine du développement de ses modèles les plus avancés. Le prospectus précise ainsi la limite qu’Anthropic envisage de poser à l’automatisation : garder un contrôle humain sur le développement de ses systèmes les plus avancés. L’enjeu est de déterminer jusqu’où l’IA peut participer à la conception de nouveaux modèles, sans que l’entreprise lui confie seule l’ensemble du processus. Le débat sur l’amélioration récursive accompagne donc l’entrée en Bourse d’Anthropic, tandis que l’entreprise affirme ne pas considérer sûre une conception entièrement automatisée, sans supervision.
Une erreur ?
Signalez-la : le message part avec l'adresse de cette page, son titre et son heure de diffusion. Une personne mise en cause peut aussi exercer son droit de réponse.
Signaler une erreurUn mot pour la rédaction ?
Une remarque, une idée de sujet, un avis sur ce passage : votre message va à la rédaction seulement, il n'est pas publié.