资源消耗#

资源消耗指标始终显示在应用程序的右下角,提供有关系统 CPU 和 RAM 使用情况的实时信息,包括整体和每个加载的模型。

如果未将模型加载到 API 服务器或聊天界面中,则指标将显示 No Models Loaded。将模型加载到 API 服务器和/或聊天界面中会更新显示,以显示加载的模型当前消耗了多少 CPU 和 RAM。将鼠标悬停在指标上以显示:

  • 有关当前加载的模型数量的其他信息

  • 您有多少系统 CPU 和 RAM

  • 模型消耗了多少

  • 有多少专用于其他进程(AI Navigator 之外)

单击 Loaded Models 以打开资源消耗窗格。在这里,您可以看到加载到应用程序中的每个模型,以及显示每个模型消耗的资源数量的指标。系统范围的资源指标显示在加载的模型下方。单击模型旁边的 Eject 以停止 API 服务器或卸载聊天界面并释放消耗的资源。单击 View ChatView Server 以在应用程序中打开相应的视图。