패스트캠퍼스 환급챌린지 2일차: 테디노트의 RAG 비법노트 : 랭체인을 활용한 GPT부터 로컬 모델까지의 RAG 가이드 강의 후기 (환경설정 Day)

본 포스팅은 패스트캠퍼스 환급 챌린지 참여를 위해 작성하였습니다.

오늘은 Mac에서 파이썬 환경 설치 및 RAG 작업을 위한 설치를 진행하였고, OpenAI API 키 발급과 LangSmith 키 발급 과정을 진행했습니다.

그렇다 보니, 오늘은 특별히 무언가를 배웠다기보다는 준비 단계라고 할 수 있습니다.

OpenAI API는 이전에 제가 논문을 쓸 때 실험했기 때문에 알고 있었지만, LangSmith는 아예 처음 들어봤습니다.

그래서 LangSmith에 대해 간략하게 소개해보도록 하겠습니다.

 

---

1. LangSmith란?

LangSmith는 LangChain 팀에서 만든 LLM 기반 애플리케이션을 추적하고, 디버깅하고, 평가할 수 있는 플랫폼입니다.

GPT, RAG, Agent 등을 활용한 프로젝트를 만들다 보면 다음과 같은 상황이 발생할 수 있습니다:

• “왜 이 답변이 잘못됐지?”
• “어떤 문서가 검색됐고, 어떤 프롬프트가 사용됐는지 알고 싶다”
• “다른 프롬프트랑 비교해서 뭐가 더 잘되는지 실험하고 싶다”

이런 문제를 해결하기 위해 등장한 것이 LangSmith입니다.

LangSmith에서는 다음과 같은 기능을 제공합니다:

1. LLM 응답의 전체 흐름을 시각적으로 추적 (Tracing)
2. → 어떤 입력이 들어왔고, 어떤 Chain이 실행됐으며, 어떤 문서가 검색됐는지 확인 가능
3. 디버깅과 프롬프트 튜닝
4. → 중간 중간 LLM이 어떤 응답을 했는지 확인하면서, 개선할 수 있는 포인트 파악
5. 자동/수동 평가 기능
6. → 여러 응답을 저장하고, 품질 평가를 수행하여 실험 결과 비교 가능
7. LangChain과 자연스럽게 연동 가능
8. → LangChain에서 사용하는 모든 Chain이나 RAG 흐름을 그대로 트래킹할 수 있음

즉, LangSmith는 단순히 로깅 도구가 아니라 LLM 기반 애플리케이션을 실제 서비스 수준으로 다듬기 위한 툴킷이라고 볼 수 있습니다.

---

회고

오늘 이렇게 환경설정을 진행했습니다. 꾸준히 나아가도록 하겠습니다!

오늘의 인증샷!📷

1. 공부 시작 인증

2. 공부 종료 인증

 

 

3. 클립 수강

 

4. 학습 인증샷

 

 

 

 

환급 챌린지 내용은 아래 링크에서 확인하실 수 있습니다.

 

https://abit.ly/lisbva