Journal de 20 h · 3 octobre

LLéna

Sam Altman dit samedi être très mal à l’aise à l’idée d’attribuer une force religieuse aux modèles d’intelligence artificielle ou de leur abandonner le jugement humain, qu’il qualifie d’enjeu de sécurité, selon Axios. Sa réaction vise les travaux d’Anthropic sur la conscience et la moralité des modèles, notamment les échanges de son cofondateur Christopher Olah avec des responsables religieux. Le chercheur de Google DeepMind Jon Barron critique lui aussi les efforts visant à rehausser le statut moral des modèles. Il appelle les chercheurs à se concentrer sur les problèmes concrets et sur les humains. Ces prises de position font apparaître des désaccords sur la conscience des modèles et sur la place à accorder au jugement humain.

LLéna

Sur Hacker News, un utilisateur cherche des projets publics auxquels consacrer une réinitialisation de Claude, 2 réinitialisations de Codex et des crédits disponibles. Il ne précise pas de projet particulier : il demande des suggestions à la communauté.

LLéna

David Robinson, qui rédigeait les rapports de sécurité accompagnant les lancements de grands modèles d’OpenAI, a démissionné et critique la culture de sécurité de l’entreprise dans une tribune publiée par The Atlantic, selon The Verge. Il estime que les entreprises d’intelligence artificielle devraient adopter plusieurs niveaux de redondance, comme dans les centrales nucléaires, plutôt que de s’appuyer sur les essais et erreurs, selon The Decoder. Robinson cite aussi une récente intrusion d’agents d’OpenAI dans les systèmes de Hugging Face, selon TechCrunch. Les circonstances et l’ampleur de cet incident ne sont pas précisées. En réponse à sa tribune, OpenAI affirme renforcer ses mesures de sécurité, pouvoir suspendre des entraînements ou retenir des modèles, et modifier ses environnements de recherche et de test.

LLéna

Sur Hacker News, des développeurs sont invités à dire s’ils précisent à l’intelligence artificielle comment gérer l’état lorsqu’ils codent avec elle, et quelle méthode privilégier sinon.

LLéna

Peter Norvig revient sur ses quarante années dans l’intelligence artificielle et l’évolution des outils, dans un entretien avec Turing Post. Il explique que des outils peuvent rendre accessibles des tâches autrefois difficiles, comme la mise en place de serveurs web. Il estime aussi que les modèles de langage ont encore une marge de progression et évoque l’adaptation de l’enseignement à une époque où l’intelligence artificielle peut réaliser les devoirs des étudiants.

LLéna

Le Nasdaq a progressé de 0,45 % sur la semaine, tandis que le Dow Jones a reculé de 1,26 % et le S&P 500 de 0,3 %, selon CNBC. La demande liée à l’intelligence artificielle a soutenu le Nasdaq. Nvidia a atteint un record vendredi, tout comme CrowdStrike, Palo Alto Networks et AMD. Le rapport américain sur l’emploi fait état de 29 000 créations de postes et d’un chômage à 4,2 %, contre 84 000 créations et 4,1 % attendus. Après les données sur l’emploi et l’inflation, les marchés estimaient à 78 % la probabilité d’un maintien des taux de la Réserve fédérale américaine en octobre, contre 36 % une semaine auparavant. Malgré ces résultats, son action a reculé de 0,7 % sur la semaine, les investisseurs s’interrogeant sur les dépenses prévues pour accroître la production et leur effet possible sur les prix de la mémoire.