模型#

浏览模型#

Anaconda 托管了一个开源和合作伙伴模型的仓库,您可以浏览并使用这些模型来测试和开发您的应用程序。

提示

使用搜索功能按名称查找模型。

模型类型#

Anaconda AI Navigator 目前支持以下类型的模型

text-generation:旨在根据用户输入生成连贯且上下文相关的自然语言。 text-generation 模型的常见用例包括

  • 内容创作 - 起草文章、大纲、摘要或创意作品

  • 编码辅助 - 生成或自动完成代码以及解决问题

  • 数据提取 - 总结和解释大型数据集以发现见解

  • 对话式 AI - 驱动聊天机器人和虚拟助手以创建“类人”对话

sentence-similarity:将文本编码为向量数据库(嵌入),以捕获语义含义。这些嵌入能够基于上下文关系对文本进行有效的比较和分析。 sentence-similarity 模型的常见用例包括

  • 语义搜索 - 查找在上下文中与查询相似的文档或项目,超越关键词匹配

  • 推荐系统 - 通过比较与用户偏好的语义相似性来推荐相关项目

  • 文本分类 - 根据含义对文本进行分类(例如,垃圾邮件检测、情感分析)

  • 聚类分析 - 对相似的文本数据进行分组,以发现模式或组织信息

如果您对特定模型或用例感兴趣,请联系我们.

过滤模型#

您可以应用过滤器来帮助您高效地找到您想要使用的模型。

要应用过滤器

  1. 模型 页面,点击 过滤器.

  2. 打开过滤器下拉列表并选择一个过滤器选项。

  3. 根据需要重复操作,以过滤到您需要的模型。

模型过滤器
  • 用途 - 根据模型关联的 模型类型 过滤模型。

  • 语言 - 根据模型可以理解的口语语言过滤模型。

  • 许可证 - 根据模型的使用权限和限制(例如,宽松、非商业或特定分发条款)过滤模型。

  • 发布日期 - 根据模型发布到 AI Navigator 的日期过滤模型。点击 刷新 以重置当前应用的日期过滤器。

点击在任何过滤器旁边的 以删除它,或者点击 所有过滤器 面板中的 清除 以一次清除所有过滤器。

下载模型#

Anaconda 提供了各种 LLM 模型供您使用,这些模型以不同的 量化 级别构建。

要下载模型

  1. 选择 从左侧导航栏中选择 模型

  2. 找到您要下载的模型。

  3. 打开 量化方法 下拉列表并选择文件量化级别,然后点击 下载 以在本地下载模型。

    注意

    在其磁贴上显示 已下载 标签的模型表示您已下载该模型的至少一个文件。

管理下载#

使用模型磁贴底部进度条旁边的 暂停 播放 取消 按钮来管理您的下载。

提示

  • 您也可以从 我的模型 页面管理您的下载。

  • 如果您因任何原因退出应用程序,下载将自动暂停。

删除模型#

要删除您已下载的模型,请导航到 我的模型 页面,然后点击模型旁边的 删除。如果您为一个模型下载了多个文件,请先从模型的下拉列表中选择要删除的文件。

注意

当模型加载到聊天界面或 API 服务器时,无法删除模型。

查看模型详情#

点击模型的磁贴以查看其详细信息。从这里,您可以阅读模型的简要描述,并查看有关它的重要信息,例如每个量化级别的文件大小、参数计数、您可以从模型输出中期望获得的质量、模型可能消耗的资源量以及其预期用途(用于开发或生产)。

提示

  • 将鼠标悬停在工具提示上以查看有关模型各个方面的详细信息。

  • 点击 了解更多以访问构建该模型的组织的 Huggingface 网页。