본 튜토리얼은 KRX 금융 언어 모델 경진대회 참가자들을 위해 제작되었습니다. 튜토리얼의 주요 내용은 금융 합성 데이터셋 생성과 효율적인 금융 특화 언어 모델 instruction tuning에 초점을 맞추고 있고, 참가자들은 튜토리얼을 통해 금융 도메인에 특화된 합성 데이터를 생성하는 방법과 이를 활용하여 금융 특화 언어 모델을 학습시키는 방법을 익힐 수 있습니다. 본 튜토리얼은 각 과정에 대한 설명과 함께, 실제 구현에 필요한 핵심 개념과 방법론을 실제 구현 코드와 함께 제공하며, 본 튜토리얼 진행을 위해서는 OpenAI API key와 Colab Free 환경을 필요로 합니다.

  1. 금융 합성 데이터셋 생성 (raw text & web text)
  2. 금융 특화 언어 모델 instruction tuning

Tutorial