전체교육일정
교육개요
이 강의에서는 OpenAI의 LLM을 이용한 파인튜닝 방법에 대해 심층적으로 탐구합니다. Naver 영화 리뷰 분석을 포함한 실제 사례를 통해 sentiment-analysis 모델을 이해하고 구현하는 실습을 진행하며, Transformers 라이브러리의 Trainer API를 사용한 학습 데이터 전처리와 모델 튜닝 방법을 익힙니다. 또한, Hugging Face의 PEFT 라이브러리를 사용하여 Fine-tuning의 고급 기법을 학습하고, Instruction-tuning을 통해 언어 모델의 응답을 최적화하는 방법을 배웁니다.
교육목표
이 과정을 통해 수강생들은 ChatGPT와 오픈소스 언어 모델을 파인튜닝하여, 특정 작업에 적합하게 모델을 조정하는 방법을 배우게 됩니다. Sentiment-analysis와 같은 자연어 처리 태스크를 비롯하여 다양한 AI 어플리케이션을 실제 문제 해결에 적용하는 능력을 개발합니다.
강의내용
[Chapter 1. Fine-tuning 소개]
· 학습 목표
Fine-tuning 기법에 대한 이해합니다.
· 주요 내용
1. Fine-tuning 기법에 대한 이해
2. 딥러닝 관련 다양한 Task에 적용되는 Fine-tuning 기술에 대한 이해
[Chapter 2. 자연어 처리 에서의Fine-tuning]
· 학습 목표
PLM을 이용한 Sentiment-analysis 모델을 이해하고 구현합니다.
· 주요 내용
1. Sentiment-analysis를 위한 데이터 전처리 및 모델 학습
2. Naver 영화 리뷰 데이터를 활용한 실습 진행
[Chapter 3. Hugging Face Trainer API 를 이용한 Fine-tuning]
· 학습 목표
Transformers 라이브러리의 Trainer API 사용 방법을 이해합니다.
· 주요 내용
1. Transformers 라이브러리와 Trainer API 소개
2. Pre-trained Language Model의 로딩 및 Fine-tuning 실습
[Chapter 4. Hugging Face PEFT 라이브러리를 이용한 Fine-tuning]
· 학습 목표
PEFT 라이브러리를 이용한 Fine-tuning 기법을 이해합니다.
· 주요 내용
1. LLM 모델 Fine-tuning의 문제점
2. PEFT 라이브러리에 대한 이해
3. PEFT 라이브러리 LoRA 방식을 이용한 Fine-Tuning
[Chapter 5. Hugging Face PEFT 라이브러리를 이용한 Instruction-tuning]
· 학습 목표
Instruction-tuning 기법을 배웁니다.
· 주요 내용
1. Instruction-tuning 에 대한 이해
2. PEFT 라이브러리 QLoRA 방식을 이용한 Instruction-tuning(KoAlpaca 데이터 셋)
3. Hugging Face Space와 Gradio를 이용한 Custom 챗봇 서비스 구현 및 배포