连续性:AI的代币使用和支出透明度
Kontinuity,由一个专注于人工智能透明度的团队开发,是一个Chrome扩展,旨在提高基于聊天的人工智能工作流程中的令牌使用和支出的可见性。它实时跟踪Claude和ChatGPT中的令牌消耗,并监控对话上下文以警告窗口限制。该扩展按项目组织活动,提供使用仪表板,并保持所有指标本地化。它的目标用户是需要精确、可审计的令牌记录的开发人员、人工智能工程师、研究人员和高级用户。
Kontinuity 如何揭示通常隐藏的对话部分?
该扩展记录消息和会话级别的令牌计数和支出,揭示 隐藏令牌,例如系统提示和工具定义,这些通常在用户不可见的情况下膨胀总数。它提供每个模型和每个平台的细分,以便团队可以看到哪些模型驱动消费。图表和导出格式使外部分析成为可能,以便进行报告和对账。
它如何减少上下文窗口漂移的风险?
Kontinuity 包含上下文健康监测,当对话接近其上下文窗口限制时会发出警报,帮助用户识别历史提示何时开始占主导地位。警报突出显示活动窗口的组成,使得在模型响应因过多历史而降级之前采取行动成为可能。这种可见性旨在保持长会话在开发和研究工作流程中的可预测性。
哪些数据保持本地,扩展如何处理隐私?
该扩展遵循 100% 本地隐私模型,启动时不需要账户,所有跟踪和对话指标都保留在设备上。这种设计意味着记录的指标和标签元数据不会离开用户的机器,适合需要本地审计的团队。该扩展安装在浏览器中,因此团队可以在单独的配置文件中隔离它,以将项目指标与个人浏览分开。
谁从项目标签、仪表板和每个模型的细分中受益?
项目标签将会话分配给特定的工作流程,以便组织可以将使用情况分配给项目,而不仅仅是日期。仪表板呈现每日、每周和每月图表,以揭示随时间变化的使用模式,而每个模型的细分帮助工程师比较令牌的集中位置。该工具适合那些将模型行为与资源规划和内部审计要求进行对账的研究人员和工程师。
最终评估和适合度
Kontinuity 是一个专注的工具,适用于需要可验证、本地遥测和基于项目的问责制的专业人士。其针对性的设计更有利于开发人员、研究人员和进行详细使用审计的团队,而普通用户可能会觉得这种细节水平不必要。期待一个紧凑的专业工具,而不是一个通用的浏览器伴侣;采用适合于审计性和精确资源跟踪比简单性更重要的工作流程。