端点、CDN 和错误上报：除了提示词，还有哪些东西从你机器里出去？

当你用官方 SDK 或第三方库调用 LLM API 时，请求体里的提示词只是冰山一角。从你的机器到 API 端点之间，还有多个环节会携带额外信息：SDK 自动附加的请求头、CDN 边缘节点记录的元数据、以及错误上报机制回传的诊断数据。本文从客户端视角，一步步审计这些出站流量。

1. 先明确：一次 API 调用到底经过哪些节点？

假设你使用某个聚合站，调用链通常是：

• 你的客户端（代码、SDK、CLI 工具）
• 本地网络 → 运营商 → 目标域名的 CDN 边缘节点
• CDN 回源到聚合站的后端网关
• 网关根据模型路由到上游供应商

在每一跳，除了 HTTP 请求体，还会产生：

• 请求头：User-Agent、Accept、Content-Type，以及 SDK 可能添加的 X-Client-* 头。
• 连接元数据：TLS 指纹、源 IP、时间戳、请求速率。
• 错误上报：当请求失败时，客户端可能自动发送堆栈、环境变量片段或请求 ID 到遥测端点。

这些信息往往比提示词本身更容易被忽略，却可能暴露你的运行环境、依赖版本甚至内网地址。

2. 审计方法：抓包与日志双管齐下

要看清出站流量，最直接的方式是抓包。但 HTTPS 加密后，你只能看到目标域名和 SNI。此时可以结合客户端日志或代理工具：

• 设置 HTTP 代理：将 SDK 的 base URL 指向本地代理（如 mitmproxy、Charles），解密后查看完整请求。
• 启用 SDK 调试日志：许多 SDK 支持 debug 级别日志，会打印请求头和响应头。
• 检查环境变量：有些 SDK 会读取 HTTPPROXY、HTTPSPROXY 并自动上报到遥测端点。

一个简单的 Python 示例，用 requests 库打印实际发送的头：

import requests

url = "https://api.example.com/v1/chat/completions"
headers = {"Authorization": "Bearer YOUR_KEY"}
data = {"model": "gpt-4", "messages": [{"role": "user", "content": "hi"}]}

req = requests.Request("POST", url, headers=headers, json=data)
prepped = req.prepare()
print(prepped.headers)  # 查看最终发送的请求头

运行后你会看到除了 Authorization，还有 User-Agent、Accept-Encoding、Content-Length 等。如果使用官方 SDK，可能还有 X-Stainless-* 之类的头。

3. CDN 与边缘节点：被动收集的元数据

即使你清除了所有自定义请求头，CDN 边缘节点仍然会记录：

• 你的源 IP 和地理位置（粗略到城市级别）
• TLS 握手中的 SNI 和 ALPN 协议
• 请求时间、频率、路径
• 响应状态码和延迟

这些数据通常用于防 DDoS、缓存和流量分析，但客观上构成了元数据画像。如果你在意隐私，可以选择不经过 CDN 的直连端点，或者使用自建反向代理隐藏源 IP。

4. 错误上报：最容易被忽视的出口

很多 SDK 在请求失败时会自动上报错误，包括：

• 异常堆栈（可能包含文件路径和变量名）
• 请求 ID 和部分请求体（有时包括提示词片段）
• 系统信息（OS、Python/Node 版本、SDK 版本）

例如，某些 SDK 会向 sentry.io 或厂商自己的遥测端点发送数据。你可以通过以下方式关闭或审查：

• 查找 SDK 文档中的 telemetry、analytics、error_reporting 配置项，将其设为 false。
• 在代码中禁用全局异常捕获上报，或替换为自定义处理。
• 使用防火墙规则阻止未知域名的出站连接，观察是否有请求被拦截。

一个实用的命令：在 Linux 上使用 tcpdump 或 ss 查看进程的出站连接：

sudo tcpdump -i any -n 'tcp[tcpflags] & tcp-syn != 0' | grep -v 'your-allowed-domain'

这能帮你发现意外的遥测连接。

5. 如何减少不必要的出站信息？

如果你希望最小化元数据暴露，可以考虑：

• 自建网关：在本地或自己的服务器上运行一个简单的反向代理，统一添加/删除请求头，并屏蔽遥测端点。
• 使用轻量客户端：直接使用 curl 或标准 HTTP 库，避免重型 SDK 的自动行为。
• 审查依赖：定期用 pip list 或 npm ls 检查 SDK 版本，并阅读其隐私政策或源码中的网络调用。
• 网络层控制：通过出口防火墙只允许必要的 API 域名，阻止其他出站连接。

对于使用聚合站的场景，你还可以选择支持无 KYC、用 USDC 充值的服务，这样至少支付环节不绑定身份。但请注意，元数据审计依然必要。

6. 小结

提示词只是你发送的数据之一。请求头、CDN 元数据和错误上报构成了额外的出站信息流。通过代理抓包、SDK 日志和网络监控，你可以清楚地知道机器上究竟有什么在向外发送。根据审计结果，再决定是否关闭遥测、自建网关或更换客户端。保持对出站流量的可见性，是保护开发环境隐私的第一步。