Par un arrêt de principe rendu par sa chambre commerciale, la Cour de cassation a tranché une question majeure pour l’économie numérique : le régime juridique des engagements contractuels exécutés de façon autonome par des agents d’intelligence artificielle dans les relations d’affaires entre professionnels (B2B). La haute juridiction confirme que l’entreprise utilisatrice demeure personnellement et irrévocablement engagée par les actes de ses outils automatisés.
L’inopposabilité du bug ou de la dérive algorithmique aux tiers
L’affaire concernait une société commerciale qui tentait d’annuler une série d’ordres d’achat passés à des conditions anormalement défavorables par son agent d’IA autonome, invoquant une « anomalie logicielle imprévisible » et l’absence de consentement humain direct. La Cour de cassation a balayé cette argumentation :
- Absence de personnalité juridique autonome : L’agent d’IA n’étant qu’un instrument technique au service de l’entreprise, ses déclarations de volonté et ses validations d’offres s’imputent directement et intégralement à la personne morale qui en a configuré le déploiement (application des articles 1100-1 et 1242 du Code civil).
- Protection absolue de la confiance légitime : Le cocontractant de bonne foi n’a pas à vérifier si une offre émise par l’infrastructure numérique de son partenaire résulte d’un calcul rationnel ou d’une dérive de l’algorithme. Le contrat valablement formé lie les parties en vertu du principe de force obligatoire (art. 1103 du Code civil).
- Rejet de la force majeure : Un dysfonctionnement algorithmique, une hallucination ou une erreur d’entraînement ne saurait constituer un événement imprévisible et irrésistible exonératoire de responsabilité pour le professionnel.
Obligation de surveillance humaine et verrous financiers
La décision de la Cour de cassation impose aux directeurs juridiques et directeurs des systèmes d’information des obligations précises de conformité opérationnelle :
- Plafonds d’engagement obligatoires : Les agents autonomes de passation de commandes ou de négociation doivent être bridés par des seuils financiers stricts au-delà desquels une signature ou validation humaine expresse est indispensable.
- Défaut de diligence caractérisé : Laisser un système d’IA agir sur des marchés ouverts sans mécanismes de coupure d’urgence (kill switch) caractérise une négligence fautive privant l’entreprise de tout recours en garantie contre ses partenaires.
- Responsabilité envers les clients : Les entreprises répondent de plein droit des manquements causés par leurs algorithmes d’exécution contractuelle.
Une clarification bienvenue pour la sécurité juridique des échanges
Cette jurisprudence apporte une indispensable stabilité aux transactions commerciales automatisées. Elle garantit qu’en droit français, la transition vers l’autonomie algorithmique s’accompagne d’une responsabilité humaine et entrepreneuriale sans faille.