Ollama를 이용하는 RAG로 제작하였습니다.
최근에는 LLM Cloud버젼을 지원하여 선생님들의 교과에 대한 검색이 빠르게 완료될 수 있게 되었습니다.
좌측 하단에 8개의 Database 검색하여 추론한 시간, 2분 7초를 볼 수 있습니다.
이전 RAG는 Notebook에 GPU 8GB를 이용하여 30여분을 실행해야 하였지만, 이런 식으로 외부 LLM을 사용하면, 시간을 단축할 수 있습니다.
Ollama를 이용하는 RAG로 제작하였습니다.
최근에는 LLM Cloud버젼을 지원하여 선생님들의 교과에 대한 검색이 빠르게 완료될 수 있게 되었습니다.
좌측 하단에 8개의 Database 검색하여 추론한 시간, 2분 7초를 볼 수 있습니다.
이전 RAG는 Notebook에 GPU 8GB를 이용하여 30여분을 실행해야 하였지만, 이런 식으로 외부 LLM을 사용하면, 시간을 단축할 수 있습니다.