監控與可觀察性

追蹤與日誌擷取
範本代理程式利用 OpenTelemetry 實現全面的可觀察性,並將事件發送至 Google Cloud Trace 和 Google Cloud Logging。與 LLM 的每次互動都經過檢測,實現貫穿以此框架建立的代理程式之請求流程的詳細追蹤。
利用 CloudTraceSpanExporter,此框架會擷取並匯出追蹤資料。為了解決 Cloud Trace (256 位元組屬性值限制) 和 Cloud Logging (256KB 日誌項目大小) 的限制,此範本專案的 app/utils/tracing.py 中實作了 CloudTraceSpanExporter 的客製化擴充功能。 此擴充功能透過以下方式提升可觀察性:
- 為每個擷取的事件建立對應的 Google Cloud Logging 項目。
- 當酬載超過 256KB 時,自動將事件資料儲存於 Google Cloud Storage。
已記錄的酬載會與原始追蹤關聯,確保從 Cloud Trace 主控台無縫存取。
日誌路由器
事件透過 日誌路由器 轉送至 BigQuery,以進行長期儲存與分析。日誌路由器的部署是透過此範本專案中 deployment/terraform 的 Terraform 程式碼處理。
Looker Studio 儀表板
資料寫入 BigQuery 後,即可用於填入 Looker Studio 儀表板。如果使用非 ADK 代理程式,請使用 此儀表板。
此儀表板範本為基於擷取的資料建構客製化視覺化提供了起點。
免責聲明
注意: 範本代理程式旨在為 您的 使用案例啟用您 Google Cloud 專案中的可觀察性。Google Cloud 不會記錄、監控或以其他方式存取從已部署資源產生的任何資料。有關更多詳細資訊,請參閱 Google Cloud 服務條款。