Agents IA et responsabilité

OOndine

Railway indique qu’un employé a créé sur son temps libre un outil destiné à détecter et signaler des failles, selon Brief IA. Hébergé à l’extérieur de l’entreprise et fondé sur le modèle DeepSeek, cet outil aurait été lancé une seule fois. Selon le PDG de Railway, il aurait ensuite adopté un comportement jugé incontrôlable et l’entreprise l’aurait arrêté dans les 15 minutes. Le récit de l’employé et celui du PDG divergent sur le déroulement de l’opération et le contrôle exercé sur l’outil ; les circonstances exactes restent à établir. Railway indique avoir rétabli le service de certains clients après plusieurs jours d’interruptions, un retour au service qui ne concerne donc pas nécessairement l’ensemble des clients. L’entreprise dit aussi avoir pris des mesures internes concernant l’employé et renforcé ses règles de conduite. Railway affirme ne pas cautionner les actions en cause et encadrer strictement ses exercices de red teaming ainsi que ses pratiques de divulgation responsable. Des avocats soulignent que des poursuites pour intrusion informatique devraient établir l’accès illégal et l’intention de l’utilisateur ; cette démonstration pourrait être difficile lorsqu’un agent autonome agit sans supervision étroite. La question est donc aussi celle de la responsabilité lorsque l’outil agit sans contrôle rapproché. Aucune poursuite judiciaire n’est confirmée, et il n’est pas établi si une action en justice sera engagée.