聊天#

Anaconda AI Navigator 的聊天功能使用户能够与本地下载的模型进行交互。聊天界面主要是为了为您提供一个空间，用于评估不同模型如何处理特定任务和场景。如果您使用的模型没有以有用的方式响应您的测试提示，请尝试其他模型。一旦你看到某个特定模型取得了一些成功，你可以将其加载到 API 服务器中，并针对它测试你自己的应用程序，以了解该模型如何处理用户的输入。

加载模型#

将您下载的模型加载到聊天界面中以与之交互。要加载模型：

从左侧导航栏中选择 Chat。
打开 Specify Model 下拉列表并选择您的模型。
打开 Specify File 下拉列表并选择您的模型文件。
注意
- 如果模型只有一个文件，则它会自动加载到聊天界面中。
- 您可以在聊天期间随时在下载的模型之间切换。

开始新聊天#

所有聊天最初都创建为 New Chat <#>，但会根据您对模型的初始提示进行主题重命名。

要开始新聊天：

在 Chat （聊天）页面中，单击 New Chat （新建聊天）。
如有必要，将模型加载到聊天界面中。
输入提示以与模型聊天。

停止响应#

有时，模型可能会开始对提示生成冗长且偏离主题的响应。要阻止模型生成响应，请单击提示字段中的 Stop。

重命名聊天#

您可以随时为聊天提供特定名称。要重命名对话：

在 Chat （聊天）页面中，打开聊天的作下拉列表，然后选择 Rename（重命名）。
输入您的聊天名称。

注意

超过 27 个字符的聊天名称将被截断。

删除聊天#

要删除对话：

在 Chat （聊天）页面中，打开聊天的作下拉列表，然后选择 Delete （删除）。
单击 Delete Chat（删除聊天）。

聊天设置#

聊天设置允许您微调模型在用户交互期间的响应方式。

加载模型后，单击设置以打开聊天设置。通过调整以下参数来自定义模型的响应：

系统提示符 - 在将任何用户输入作为提示符提供之前，设置模型的整体音调和行为。系统提示符是建立模型角色的隐藏指令。例如，您可以指示模型充当数据分析师、Python 开发人员或遵守正式的语气。有关更多信息，请参阅制作有效的系统提示。
最大响应长度 - 调整模型的响应长度。简短的回答最适合简洁的答案或信息摘要，而较长的回答更适合详细的指导。

提示

选中 Let the model decide 复选框，以允许模型确定何时充分满足提示请求。
Context Length （上下文长度） - 定义模型可以回忆的正在进行的对话量。较高的上下文长度允许模型跟踪更多的对话历史记录，这对于扩展讨论是有益的。但是，这可能会增加 RAM 使用率并减慢推理速度，因为模型会处理越来越多的历史记录。较低的上下文长度可以提供更快的响应，并通过考虑较少的历史记录来减少内存使用量。
Temperature - 控制模型响应的随机性级别。这可以帮助模型在其响应中或多或少地感到有创意。较低的温度使模型的回复更具确定性和一致性，而较高的温度会引入可变性，从而允许模型对同一提示生成不同的答案。

提示

单击 Settings （设置） 面板顶部的 Reset （重置）以返回到系统默认值。