Prévention des Agents Véreux OpenClaw

Les agents IA véreux peuvent causer des dommages importants s’ils ne sont pas contrôlés. Ce guide explique comment prévenir les comportements d’agents incontrôlables.

Qu’est-ce qu’un Agent Véreux ?

Un agent véreux est un agent IA qui :

• S’écarte de ses objectifs définis
• Prend des décisions non autorisées
• Consomme des ressources excessivement
• Crée des boucles de feedback dangereuses

Signes d’Alerte

1. Activité anormale : Utilisation CPU/mémoire inhabituelle
2. Boucles infinies : Exécution répétée de la même tâche
3. Appels API excessifs : Taux de requêtes anormalement élevé
4. Comportements inattendus : Actions hors scope défini

Stratégies de Prévention

1. Limites de Ressources

Configurez des limites strictes sur :

• Utilisation CPU (max 80%)
• Consommation mémoire (max 4GB)
• Nombre d’appels API par minute
• Budget total par heure

2. Timeouts et Deadlines

• Timeout par tâche : 5 minutes max
• Durée de vie de session : 1 heure
• Cooldown entre actions : 10 secondes

3. Approbation Humaine

Pour les actions critiques :

• Transferts de données > 1GB
• Modifications de configuration
• Création de nouveaux agents
• Suppression de ressources

Configuration ShipTasks

ShipTasks fournit des sauvegardes automatiques contre les agents véreux :

safeguards:
  max_cpu_percent: 80
  max_memory_gb: 4
  api_rate_limit: 100/min
  require_approval_for:
    - data_transfer
    - config_changes
    - agent_deletion

Surveillance

Utilisez le tableau de bord ShipTasks pour surveiller :

• Métriques de performance en temps réel
• Logs d’activité détaillés
• Alertes de comportement anormal
• Historique des décisions

Conclusion

La prévention des agents véreux nécessite une combinaison de limites techniques, de surveillance proactive et d’intervention humaine pour les cas critiques.