OpenAI défend une voie médiane sur la sécurité de l’IA

LLéna

Sam Altman appelle l’industrie de l’intelligence artificielle à adopter une approche médiane en matière de sécurité, entre accélération sans précaution et arrêt du développement, selon Brief IA. Il estime que ces deux extrêmes comportent des risques, et défend donc la poursuite du développement avec des garde-fous, sans renoncer à l’innovation ni ignorer les dangers. Altman critique aussi les tokens, les unités utilisées pour mesurer et facturer l’usage des modèles : une même tâche peut mobiliser des quantités différentes selon le modèle, ce qui les rend inadaptés comme métrique. OpenAI n’a toutefois pas trouvé de meilleure unité de facturation, et les clients souhaitent conserver une base de calcul sous-jacente ; les tokens restent donc utilisés pour établir les factures, malgré leurs limites pour comparer le travail accompli. L’entreprise développe également un appareil qui pourrait accueillir Dots, un agent personnel qu’Altman dit utiliser pour gérer certaines tâches et notifications, notamment pour résumer ce qui s’est passé pendant la nuit. Cette intégration reste une possibilité envisagée, et non une fonctionnalité confirmée de l’appareil. Altman affirme enfin que l’impact de l’intelligence artificielle pourrait dépasser celui de la Révolution industrielle et plaide pour qu’elle renforce les capacités des individus, en leur donnant davantage de moyens d’agir.