Observabilidad
Trazas hacia su propio colector, métricas para su propio Prometheus, un panel de Grafana listo para usar y un registro de auditoría separado de los registros de diagnóstico.
Rikoo no comunica nada a su proveedor. Todo lo que sigue va hacia una infraestructura que usted opera, y si no opera ninguna, no falla nada.
Trazas
Cada ejecución se exporta como una traza de OpenTelemetry que sigue las convenciones semánticas de la IA generativa: un span para la ejecución, uno por llamada al modelo y uno por llamada a herramienta, con los tokens, el coste y la latencia como atributos. Una ejecución iniciada por una petición HTTP se une a la traza de esa petición, de modo que una sola traza sigue el trabajo desde el servidor de API hasta el worker que lo ejecutó.
Las trazas salen por OTLP sobre HTTP (http/protobuf por defecto, o http/json). gRPC no está admitido. El worker y el servidor de API tienen cada uno su propio ajuste de colector, y el servidor de API no exporta nada hasta que usted le indique uno.
OTEL_EXPORTER_OTLP_ENDPOINT=http://collector.internal:4318 # worker
OTEL_EXPORTER_OTLP_ENDPOINT_API=http://collector.internal:4318 # API server
OTEL_INSTRUMENTATION_GENAI_CAPTURE_MESSAGE_CONTENT=false # leave off unless you mean it
Los spans llevan la forma de una ejecución, no su contenido. Los prompts y las respuestas solo se adjuntan cuando un operador activa OTEL_INSTRUMENTATION_GENAI_CAPTURE_MESSAGE_CONTENT (el nombre anterior, OTEL_GENAI_CAPTURE_CONTENT, se sigue leyendo), y está desactivado por defecto. Los argumentos y los resultados de las herramientas nunca se adjuntan. Un archivo multimedia nunca entra en un span: su referencia sí, nunca sus bytes ni una URL firmada.
Métricas
El worker sirve métricas de Prometheus en /metrics en su puerto de salud interno, el 3100 por defecto, sin nada que activar: número y duración de las ejecuciones, profundidad y espera de las colas, retraso de la bandeja de salida, latencia de las llamadas al modelo y consumo de tokens, intentos fallidos ante los proveedores y las métricas del proceso Node.js. Recójalas con lo que ya tenga en marcha.
El servidor de API sirve las suyas en el puerto 9464 (latencia por ruta, rechazos por limitación de tasa, métricas del proceso) cuando se define OTEL_METRICS_EXPORTER_API=prometheus. Ninguno de los dos puertos se publica fuera de la red del despliegue. Infraestructura lista los endpoints de salud y de métricas de cada servicio.
Un panel listo para usar
Construir paneles desde un Grafana vacío lleva días antes del primer gráfico útil. Rikoo proporciona bajo petición un panel de Grafana: un único archivo JSON, construido a partir de las métricas que la plataforma expone realmente en lugar de adaptado de una plantilla genérica.
Impórtelo en su Grafana, elija su fuente de datos y los gráficos aparecen. Se abre con solo dos filas: si cada componente está operativo y las pocas cifras que importan. El detalle por cola, los proveedores de modelos con el consumo de tokens y las métricas internas del proceso arrancan plegados, a un clic.
El panel ejecuta las mismas consultas sea cual sea la fuente de datos: Prometheus, VictoriaMetrics, Thanos y Mimir funcionan todos. El único requisito es que su almacén ya recoja el endpoint del worker indicado arriba.
En Kubernetes, el chart de Helm puede crear un ServiceMonitor para el worker y otro para el servidor de API (ambos desactivados por defecto), para que un clúster con el Prometheus Operator los descubra. Consulte Kubernetes (Helm).
El registro de auditoría
El registro de auditoría es distinto de los registros de diagnóstico, y es el que tiene valor probatorio. Anota quién hizo qué: una versión publicada, unos permisos modificados, un secreto consultado, un miembro invitado, una clave de API revocada. Es solo de adición, lo garantiza la base de datos, y no depende de la retención de sus registros. El Studio lo muestra en la pantalla Audit log, bajo Monitor. En la edición Community nada lo purga con el tiempo. El módulo Enterprise de auditoría completa añade filtros, exportación CSV y un periodo de retención; consulte Módulos Enterprise.