模型#

浏览模型#

Anaconda 托管一个开源模型和合作伙伴模型存储库,您可以探索并使用它们来测试和开发您的应用程序。

提示

使用搜索功能按名称查找模型。

模型类型#

Anaconda AI Navigator 目前支持以下类型的模型:

text-generation:旨在根据用户输入生成连贯且与上下文相关的自然语言。常见用例text-generation型号是:

  • 内容创建 - 起草文章、大纲、摘要或创意作品

  • 编码帮助 - 生成或自动完成代码并解决问题

  • 数据提取 - 汇总和解释大型数据集以发现见解

  • 对话式 AI - 驱动聊天机器人和虚拟助手创建“类似人类”的对话

sentence-similarity:将文本编码到捕获语义含义的向量数据库(嵌入)中。这些嵌入支持基于上下文关系对文本进行有效的比较和分析。常见用例sentence-similarity型号是:

  • 语义搜索 - 查找与查询上下文相似的文档或项目,超越关键字匹配

  • 推荐系统 - 通过将语义相似性与用户偏好进行比较来建议相关项目

  • 文本分类 - 根据含义对文本进行分类(例如,垃圾邮件检测、情感分析)

  • 聚类分析 - 对相似的文本数据进行分组以发现模式或组织信息

如果您对特定模型或使用案例感兴趣,请联系我们

筛选模型#

您可以应用筛选条件来帮助您有效地找到要使用的模型。

要应用过滤器:

  1. Models 页面中,单击 Filter

  2. 打开筛选器下拉列表,然后选择一个筛选器选项。

  3. 根据需要重复上述步骤,以仅筛选出所需的模型。

模型筛选器:
  • 用途 - 根据模型的关联模型类型筛选模型。

  • Language - 筛选模型可以理解的口语。

  • 许可证 - 根据模型的使用权限和限制(如宽松、非商业或特定分发条款)筛选模型。

  • 发布日期 - 根据模型发布到 AI Navigator 的日期筛选模型。单击 Refresh 以重置当前应用的日期筛选器。

单击任何过滤器旁边的 可将其删除,或单击 All Filters 面板中的 Clear 可立即清除所有过滤器。

下载模型#

Anaconda 提供了各种 LLM 模型供您使用,这些模型以不同的量化级别构建。

要下载模型:

  1. 从左侧导航栏中选择 Models

  2. 找到要下载的模型。

  3. 打开 Quantization Method 下拉列表并选择文件量化级别,然后单击 Download 以在本地下载模型。

    注意

    在其磁贴上显示 Downloaded 标记的模型表示您已为该模型下载了至少一个文件。

管理下载#

使用模型磁贴底部进度条旁边的 pause暂停)、play(播放)或 cancel(取消)按钮管理您的下载。

提示

  • 您还可以从 My Models (我的模型 页面管理您的下载。

  • 如果您出于任何原因退出应用程序,下载会自动暂停。

删除模型#

要删除已下载的模型,请导航到 My Models (我的模型 页面,然后单击模型旁边的 Delete (删除)。如果您为模型下载了多个文件,请先从模型的下拉列表中选择要删除的文件。

注意

模型在加载到聊天界面或 API 服务器时无法删除。

查看模型详细信息#

单击模型的磁贴可查看其详细信息。在这里,您可以阅读模型的简要描述并查看有关它的重要信息,例如每个量化级别的文件大小、参数计数、模型输出的预期质量、模型的预期资源使用量及其预期用途(用于开发或生产)。

提示

  • 将鼠标悬停在工具提示上可查看有关模型各个方面的详细信息。

  • 单击 Learn more (了解更多) 以访问构建模型的组织的 Huggingface 网页。