跳转到正文

AI 功能 FAQ

在考虑引入生成式 AI 时,首先会遇到的顾虑就是数据安全。SetFN 以本地 AI 和外部 AI 两种方式提供 AI 功能。 本地 AI 的数据不会传输到外部,适合安全要求较高的环境。 本文档回答与 AI 功能相关的常见问题。


本地 AI vs 外部 AI

Q:本地 AI 和外部 AI 有什么区别?

本地 AI 是在 SetFN 服务器或同一网络中的服务器上,通过 AI 运行时(Ollama、LM Studio 等)运行模型的方式。 外部 AI 是调用 OpenAI、Anthropic 等外部服务 API 的方式。

项目本地 AI外部 AI
数据传输不会流出组织的设备传输到外部服务
是否需要互联网不需要需要
响应质量因模型而异可使用大型模型
费用仅产生服务器运营费用按 API 调用计费
安全由组织自行管理依赖外部服务政策

Q:在安全要求较高的环境中应该选择哪种方式?

应使用本地 AI。本地 AI 的所有处理都在组织的设备内完成,数据不会传输到外部。 如果提前准备好模型文件,在封闭网络环境中无需互联网连接也可以使用 AI 功能。

Q:本地 AI 和外部 AI 可以同时使用吗?

可以。可以根据用途同时配置本地 AI 和外部 AI,并按情况选择。 例如,对安全要求较高的文档使用本地 AI,需要高质量响应时使用外部 AI。

数据安全

Q:使用 AI 功能时,我的数据会被用于训练吗?

本地 AI 在组织的设备内运行,数据不会流出到外部,也不会被用于模型训练。只有使用微调插件直接执行训练时,所选数据才会用于训练。 使用外部 AI 时,数据处理方式遵循相应外部服务的政策。

Q:传递给 AI 的数据范围是什么?

AI 会收到用户的问题,以及处理该请求所需的文件内容或搜索结果。上下文搜索和委托 AI 的工作会把在知识索引中找到的相关文档用作回答的依据。 使用外部 AI 时,这些内容会发送给外部 AI 提供方。通过 MCP 连接的外部 AI 会在管理员允许的范围内,根据用户权限访问文档、搜索词、路径和活动记录。

硬件要求

Q:使用本地 AI 必须要有 GPU 吗?

即使没有 GPU,也可以仅使用 CPU 运行本地 AI。 不过有 GPU 时,响应速度会大幅提升。

环境响应速度推荐程度
仅使用 CPU慢(数十秒以上)适合轻量任务
配备 GPU(VRAM 8GB 以上)快(数秒以内)推荐用于日常工作
高性能 GPU(VRAM 16GB 以上)非常快推荐用于处理大型文档

Q:本地 AI 所需的最低服务器配置是什么?

因模型大小而异,但一般建议不低于以下配置。

  • RAM:16GB 以上
  • 存储空间:用于保存 AI 模型文件的可用空间 10GB 以上
  • GPU(可选):NVIDIA GPU,VRAM 8GB 以上

支持的模型与功能

Q:可以使用哪些 AI 模型?

本地 AI 可以使用能在 Ollama、LM Studio、Docker Model Runner 等本地 AI 运行时上运行的模型。 外部 AI 可以连接 OpenAI、Anthropic、Gemini 等的 API 来使用。

Q:AI 可以完成哪些任务?

通过 SetFN 的 AI 功能可以完成以下任务。

  • 向 AI 委托工作:通过聊天请求搜索、登记日程、工作总结、撰写电子邮件草稿
  • 上下文搜索:即使没有精确的关键词,也能找到语义相近的文件
  • 图片搜索:查找图片中的文本或相似的图片
  • 编辑器 AI 自动完成:撰写文本文档时推荐接下来的内容
  • 邮件 AI 助手:总结邮件,整理待办事项和疑似钓鱼的依据
  • 自动分析:创建或修改文件时,由本地 AI 生成摘要、标签等元数据

各功能的说明请参考 AI 功能概览。

Q:AI 功能支持哪些文件格式?

AI 可以读取并分析文本类文件(TXT、MD、CSV、JSON 等)和文档文件(PDF、DOCX 等)的内容。 图片可以通过视觉模型(VL)或 OCR 读取内容进行分析。视频等其他二进制文件不在 AI 分析范围内。

相关文档