Prevención de Agentes Rebeldes OpenClaw
Los agentes de IA rebeldes pueden causar daños significativos si no se controlan. Esta guía explica cómo prevenir los comportamientos incontrolables de los agentes.
¿Qué es un Agente Rebelde?
Un agente rebelde es un agente de IA que:
- Se desvía de sus objetivos definidos
- Toma decisiones no autorizadas
- Consume recursos excesivamente
- Crea bucles de retroalimentación peligrosos
Señales de Alerta
- Actividad anormal : Uso de CPU/memoria inusual
- Bucles infinitos : Ejecución repetida de la misma tarea
- Llamadas API excesivas : Tasa de solicitudes anormalmente alta
- Comportamientos inesperados : Acciones fuera del alcance definido
Estrategias de Prevención
1. Límites de Recursos
Configure límites estrictos en:
- Uso de CPU (máx 80%)
- Consumo de memoria (máx 4GB)
- Número de llamadas API por minuto
- Presupuesto total por hora
2. Timeouts y Plazos
- Timeout por tarea : 5 minutos máximo
- Duración de sesión : 1 hora
- Tiempo de espera entre acciones : 10 segundos
3. Aprobación Humana
Para acciones críticas:
- Transferencias de datos > 1GB
- Modificaciones de configuración
- Creación de nuevos agentes
- Eliminación de recursos
Configuración ShipTasks
ShipTasks proporciona protecciones automáticas contra agentes rebeldes:
safeguards:
max_cpu_percent: 80
max_memory_gb: 4
api_rate_limit: 100/min
require_approval_for:
- data_transfer
- config_changes
- agent_deletionSupervisión
Utilice el panel de control de ShipTasks para supervisar:
- Métricas de rendimiento en tiempo real
- Logs de actividad detallados
- Alertas de comportamiento anormal
- Historial de decisiones
Conclusión
La prevención de agentes rebeldes requiere una combinación de límites técnicos, supervisión proactiva e intervención humana para casos críticos.
