NVIDIA DGX Spark, 파일 관리와 지식 인덱싱으로 활용하기

DGX Spark는 로컬에서 강력한 AI 연산을 실행할 수 있는 장비입니다. Ollama 같은 로컬 AI 런타임까지 설치했다면, 이제 그 위에서 실제로 어떤 작업을 할지 정할 차례입니다. SetFN을 DGX Spark에 설치하면, 팀의 파일을 모아두는 공간이자 그 파일을 로컬 AI로 검색하는 지식 기반으로 함께 활용할 수 있습니다.


이런 상황에서 활용해 보세요

  • DGX Spark를 구매하고 Ollama 등 로컬 AI 런타임까지 설치했지만, 그다음 무엇을 해야 할지 막막한 경우
  • 사내 문서나 연구 자료를 외부 클라우드 AI로 보내지 않고, 로컬 GPU만으로 검색하고 활용하고 싶은 경우
  • 여러 곳에 흩어져 있던 파일을 한곳에 모으고, 그 위에서 바로 AI 검색까지 쓰고 싶은 경우

이렇게 구성해 보세요

먼저 DGX Spark를 파일이 모이는 공간으로 만들고, 그다음 그 파일을 AI가 이해할 수 있는 상태로 바꿉니다.

  • SetFN 스페이스빌더를 DGX Spark에 설치해 워크스페이스를 만듭니다.
  • 팀 폴더와 개인 폴더에 문서, 코드, 연구 자료를 모아 기본적인 파일 관리부터 시작합니다.
  • 관리자 설정에서 AI 런타임을 이미 설치한 Ollama로 지정하고, 임베딩 모델과 비전 모델을 선택합니다.
  • 지식 인덱싱을 켜서 폴더 안의 문서를 검색 가능한 형태로 바꿉니다.

업무 흐름에 적용하기

  1. DGX Spark에 SetFN 스페이스빌더를 설치하고 워크스페이스를 만듭니다.
  2. 여러 곳에 흩어져 있던 문서와 자료를 팀 폴더 또는 개인 폴더로 옮겨, 익숙한 탐색기 방식으로 파일을 정리합니다.
  3. 관리자 설정에서 AI 런타임을 Ollama로 지정하고, 인덱싱에 사용할 임베딩 모델과 비전 모델을 선택합니다.
  4. 지식 인덱싱을 켜고 인덱싱할 폴더 범위를 지정합니다. 대기 갱신·임베딩 수 등 진행 상태를 화면에서 바로 확인할 수 있습니다.
    지식 인덱싱 화면
  5. 인덱싱이 끝나면 문맥 검색(AI)으로 폴더 안의 문서를 검색해 봅니다. 키워드가 정확히 기억나지 않아도 의미가 비슷한 문서를 찾을 수 있습니다.

함께 사용하면 좋은 기능

  • 문맥 검색(AI): 키워드가 정확하지 않아도 의미를 이해해 관련 문서를 찾아줍니다.
  • 이미지 검색: 이미지 안의 텍스트나 시각적으로 비슷한 이미지를 AI로 찾아줍니다.
  • 파일 태그: 자주 참고하는 문서에 태그를 달아 분류하고, AI 지식 기반으로 함께 활용합니다.

적용할 때 확인할 점

  • 지식 인덱싱을 시작하기 전에 AI 런타임(Ollama), 비전 모델, 임베딩 모델, AI 벡터 DB 설정을 먼저 확인해야 합니다. 각 모델은 선택만으로 설치되지 않으므로, Ollama에 미리 내려받아 둡니다.
  • 인덱싱 대상 폴더(포함 루트)를 지정하지 않으면 전체 경로가 대상이 됩니다. 필요한 범위만 인덱싱하려면 미리 경로를 정해 두는 것이 좋습니다.
  • DGX Spark의 GPU 자원은 인덱싱과 다른 AI 작업이 함께 사용할 수 있으므로, 동시 작업 수나 고부하 시 자동 일시정지 같은 옵션을 상황에 맞게 조정하는 것이 좋습니다.

관련 문서