Évitez de confier seule à l'IA : les décisions qui engagent juridiquement ou financièrement sans relecture, les calculs exacts (facturation, paie) hors d'un logiciel dédié, les décisions sur des personnes (recrutement, crédit, évaluation) et tout ce qui implique des données sensibles sans cadre. Dans ces cas, l'IA peut préparer, un humain décide.
Le principe : préparer n'est pas décider.
Un modèle de langage est excellent pour lire, résumer, rédiger et classer. Il est moins fiable pour être exact au centime, et il n'a aucune responsabilité. La bonne question n'est donc pas « l'IA peut-elle le faire ? », mais « que se passe-t-il si elle se trompe, et qui s'en rend compte ? ». Plus l'erreur est coûteuse et invisible, plus il faut garder un humain dans la boucle.
Les tâches à ne pas lui confier seule.
| Tâche | Pourquoi | Ce que l'IA peut faire à la place |
|---|---|---|
| Signer, accepter, s'engager (contrat, devis, réclamation) | Engage l'entreprise juridiquement ou financièrement | Préparer le brouillon, relever les clauses à vérifier |
| Calculer une facture, une paie, une TVA | Un modèle de langage peut se tromper sur un chiffre en ayant l'air sûr de lui | Extraire les données et les injecter dans le logiciel qui calcule |
| Choisir ou écarter une personne (candidat, locataire, crédit, élève) | Classé à haut risque par l'AI Act ; le RGPD encadre les décisions entièrement automatisées | Résumer un dossier pour faciliter la lecture humaine |
| Traiter des données sensibles (santé, opinions, données bancaires) sans cadre | Risque juridique et de fuite | Travailler sur des données pseudonymisées, avec l'avis du DPO |
| Publier sans relecture au nom de l'entreprise | Erreurs factuelles possibles, réputation | Proposer un premier jet que quelqu'un relit |
| Agir dans un outil avec des droits larges | Une instruction piégée ou une erreur peut se propager | Agir avec des droits minimaux et une validation avant les actions sortantes |
Et ce qui est carrément interdit.
Depuis le 2 février 2025, l'AI Act interdit certaines pratiques, quelle que soit la taille de l'entreprise : par exemple la reconnaissance des émotions sur le lieu de travail (sauf raisons médicales ou de sécurité), la notation sociale ou la manipulation exploitant les vulnérabilités des personnes. Pour une PME qui utilise l'IA pour rédiger ou automatiser, ces interdictions sont rarement en jeu, mais elles excluent certains outils de « surveillance » des salariés vendus comme innovants.
Les garde-fous qui changent tout.
- Brouillon par défaut : l'agent prépare, il n'envoie pas.
- Sources citées : chaque réponse renvoie au document d'origine, pour vérifier en un clic.
- Droit de dire « je ne sais pas » : écrit noir sur blanc dans les consignes.
- Chiffres lus dans l'outil : un prix ou un stock vient d'une requête, pas d'une génération.
- Journal des actions : pour comprendre une erreur et la corriger.
Ces principes sont détaillés dans comment se protéger des erreurs de l'IA.
Ce que je recommande.
Pour chaque tâche envisagée, posez-vous deux questions : l'erreur serait-elle grave ? Serait-elle visible avant de faire des dégâts ? Si la réponse est « grave et invisible », l'IA prépare et un humain valide, sans exception. Si elle est « bénigne et visible », vous pouvez automatiser davantage.
C'est la règle que j'applique dans les agents que je conçois : validation humaine avant toute action sortante, droits limités au strict nécessaire, et une liste écrite de ce que l'agent n'a pas le droit de faire. Ce n'est pas une limite de l'IA, c'est ce qui permet de lui faire confiance pour le reste.
Sources
- Commission européenne : Cadre réglementaire sur l'IA : usages interdits et à haut risque (page mise à jour le 3 août 2026)consulté le 13 octobre 2026
- CNIL : Questions-réponses sur l'utilisation d'un système d'IA générative (18 juillet 2024)consulté le 13 octobre 2026
- CNIL : Comment déployer une IA générative ? Premières précisions (18 juillet 2024)consulté le 13 octobre 2026
Dernière vérification des informations : 13 octobre 2026.