Délégation limitée de l’intelligence artificielle

OOndine

Brief IA présente un cadre de délégation limitée qui distingue les tâches confiées à l’intelligence artificielle des décisions qui restent sous responsabilité humaine. Le cadre prévoit 3 niveaux : la génération, où l’intelligence artificielle peut disposer d’une latitude importante ; l’analyse, qui doit rester inspectable ; et l’engagement, où la décision et la responsabilité restent humaines. Cette distinction permet de préciser le rôle accordé à l’intelligence artificielle selon la nature du travail : produire des propositions, contribuer à une analyse ou participer à une étape qui engage une décision. Aux Points de Jugement, l’équipe doit expliciter les preuves mobilisées, l’incertitude qui subsiste, les hypothèses retenues et les alternatives envisagées. Elle doit aussi désigner clairement la personne ou le groupe responsable de l’engagement, afin que la responsabilité de la décision soit identifiable. Le cadre s’appuie sur 4 critères : le coût d’une erreur et sa réversibilité, l’identité de la personne responsable, le caractère inspectable du travail, ainsi que la différence entre génération, analyse et engagement. Une erreur facilement réversible et un travail que l’équipe peut inspecter entrent donc dans l’évaluation, au même titre que les conséquences d’une erreur et le niveau de responsabilité requis. La latitude accordée à l’intelligence artificielle varie ainsi selon le risque d’erreur, la possibilité de revenir sur le résultat et le fait qu’une décision engage ou non une responsabilité humaine.