资源消耗#

资源消耗指标始终显示在应用程序的右下角,提供有关系统 CPU 和 RAM 使用情况的实时信息,包括总体使用情况和每个已加载模型的使用情况。

如果 API 服务器或聊天界面中未加载任何模型,则指标显示未加载模型。将模型加载到 API 服务器和/或聊天界面会更新显示,以显示加载的模型当前消耗多少 CPU 和 RAM。将鼠标悬停在指标上以显示

  • 有关当前加载了多少模型的其他信息

  • 您有多少系统 CPU 和 RAM

  • 模型正在消耗多少

  • 有多少专用于其他进程(AI Navigator 之外)

单击 加载的模型以打开资源消耗窗格。在此处,您可以看到加载到应用程序中的每个模型,以及显示每个模型正在消耗多少资源的指标。您的系统范围资源指标显示在已加载的模型下方。单击 模型旁边的弹出以停止 API 服务器或卸载聊天界面并释放消耗的资源。单击查看聊天查看服务器以在应用程序中打开相应的视图。