언어 모델을 활용해 다양한 애플리케이션을 개발할 수 있는 프레임워크

특징

• 데이터 인식

  언어 모델을 다른 데이터 소스에 연결함

• 에이전트

  언어 모델이 환경과 상호작용할 수 있도록 함

활용 예시

• 검색 증강 생성 (RAG) 애플리케이션

  풍부한 정보를 기반으로 질문에 대해 심층적인 답변을 제공하는 스마트 검색 시스템 구축.

  <aside> 📌

  검색 증강 생성 (RAG, Retrieval-Augmented Generation)이란?

  LLM(거대 언어 모델)이 답변을 만들 때, 미리 학습된 지식 외에 외부의 관련 정보를 검색해서 함께 활용하는 방식

  </aside>

• 구조화된 데이터 분석

  엑셀, 데이터베이스 등의 정형 데이터를 언어 모델이 이해하고 분석하여 유의미한 정보 추출.

• 챗봇

  사용자의 의도를 정확히 파악하고 자연스러운 대화를 이어나가는 지능형 대화 시스템 개발.

ChatGpt의 한계

• 정보 접근 제한

  GhatGPT는 학습된 데이터만을 기반으로 답변하므로, 학습되지 않은 정보에 대해서는 답변을 못하거나 거짓된 답변을 제공

• 토큰 제한

  ChatGPT 모델들은 각각 입력 가능한 토큰 제한이 존재

• 환각 현상(Hallucination)

  Fact에 대한 질문을 했을 때, 엉뚱한 대답을 하거나 거짓말을 하는 경구가 발생

ChatGPT의 한계를 극복하려면?

아래와 같은 방법을 이용해서 ChatGPT를 개량해야 함

• Fine-Tuning

  기존 딥러닝 모델의 weight를 조정하여 원하는 용도로 학습시키는 것

• N-Shot Learning

  0~n개의 출력 예시를 제시하고, 딥러닝이 용도에 알맞은 출력을 하도록 조정하는 것