[LangChain for LLM Application Development] 랭체인 Evaluation

본 게시물은 Deeplearning.ai 코스를 수강 후 요약 및 정리한 내용입니다. 우리가 LangChain 을 통해 LLM 응용 문제들을 앞서 다뤄보았다! 그렇다면 우리가 다룬 내용들이 제대로 잘 동작하고 있는지, 진행되고 있는지 확인하기 위해서는 Evaluation Metrics 와 같은 평가 지표가 필요할 것이다. 대규모 언어 모델을 통해 만든 Task들을 평가하려면 어떤 과정을 거쳐야 할까? 각각의 파트들이 어떻게 작동하는지, input output 등을 잘 알고 있어야 한다. LM이 다른 LM, Chain 등을 서로 평가할 수 있다. example question 을 생성하고 example ground truth 들을 생성해서 평가하는 방법을 거친다. 디테일하게 하나씩 실습해 보도록 하자. 먼..

• format_list_bulleted LLM/LangChain
• · 2024. 2. 3.
• textsms

[LangChain for LLM Application Development] 랭체인 QA

본 게시물은 Deeplearning.ai 코스를 수강 후 요약 및 정리한 내용입니다. 우리가 자연어 처리 모델을 주로 쓸 때, 특히 대규모 언어 모델을 통해 주로 하고 싶은 것. 바로 QnA task 이다. QA 파트에서는 다음과 같은 내용들을 정리하였다. 주어진 문서 및 자료 질문에 답변하기 pdf, 웹페이지, 인트라넷 내부 문서 등 훈련되지 않은 문서에 처음으로 접하게 되는 것 LLM이 필요에 따라 유동적으로 적용된 다는 것을 의미함 언어 모델, 프롬프트, Output Parser 등을 넘어서서 LangChain의 임베딩 모델, 벡터 저장소 등 혹시 글을 읽다가 모르는 내용들이 나오게 된다면 이전 게시글들을 참조하자. 셋 다 너무 너무 중요한 내용들이다!! 2023.12.15 - [LLM/LangCh..

• format_list_bulleted LLM/LangChain
• · 2024. 2. 3.
• textsms

[백준] 10828번 스택

함수 하나씩 만들어가면서 천천히 풀이하면 되는 문제 스택 자체를 구현하는 문제이다 괄호문제에서 설명했듯이, Stack 은 Last in Frist Out (LIFO) 구조를 띈다. 쉽게 생각하면 한쪽 면이 막힌 원통을 생각하면 된다. 따라서 마지막에 들어간 원소가 제일 먼저 나올 수 있는 구조가 되는 것이다. 코드는 아래처럼 작성했는데, input() 함수를 사용하는 것 보다 import sys sys.stdin.readline().strip() 이용하는 것이 속도면에서 빠르다고 한다. (그래서 처음에 단순히 input 으로 입력을 받았다가 시간초과에 걸렸다.) input() 과 sys.stdin.readline().strip() 에서 시간 차이가 발생하는 이유 input() 은 사용자로부터 한 줄을 입..

• format_list_bulleted 알고리즘과 자료구조/매일매일 알고리즘
• · 2024. 1. 23.
• textsms

[백준] 9012번 괄호

스택 공부하면서 풀이했는데 익숙하다 했더니 아카데미에서 배웠던 문제이다 (ㅋㅋ) Stack 자료구조를 이용하면 풀이할 수 있다. Stack 자료구조는 Last in First Out(LIFO) 구조를 말하고 Stack을 하나 만들어서 stack = [] 형태로 두고 풀이하면 된다 *** 처음에 고안했던 방법은 (틀렸지만) list로 input을 받아서 list의 원소들을 보면서 list[0]과 list[-1]이 다르면 쌍으로 묶어서 pop 하고, 같은 경우 하나만 pop 해서 다른 리스트에 넣으면 어떻게 되지 않을까... 라는 생각을 했지만? indexing에서 부터 out of range 오류가 나서 Stack으로 풀이하였다... *** Pseduo-code 먼저 pseudo-code를 작성해보면, 1..

• format_list_bulleted 알고리즘과 자료구조/매일매일 알고리즘
• · 2024. 1. 23.
• textsms

[선형 대수] Linear Combination & Span

본 게시물은 네이버 부스트코스 주재걸 교수님의 '인공지능을 위한 선형대수' 강의를 듣고 요약하였습니다.   Linear Combination (선형 결합)Matrix equation 을 Vector equation으로 만들기 다음과 같이 행렬방정식을 벡터 방정식으로 변환할 수 있음 SpanThe set of all linear combinations of v1, v2, .... vp선형 결합을 통해 만들 수 있는 벡터 집합을 말한다. 다음과 같은 벡터들이 존재할 때, 벡터의 선형 결합으로 만들어 낼 수 있는 모든 벡터의 존재의 집합을 Span 이라고 한다.  Q. Vector equation으로 봤을 때, $Ax = b$ 의 연립 방정식 해가 존재할 것인가?$Ax = b$의 값이 재료벡터 x1, x2, ..

• format_list_bulleted 딥러닝 기초/수학..
• · 2024. 1. 18.
• textsms

[머신러닝] Bias and Variance

본 게시물은 LG aimers 과정에서 서울대학교 김건희 교수님의 Machine Learning 개론 강좌를 참고로 정리하였습니다. Type of Learning Supervised Learning (지도학습) 기계 학습 알고리즘에 input에 따라 어떤 output이 나와야 하는지 알려주는 알고리즘 Classification / Regression Unsupervised Learning (비지도 학습) Clustering Anomaly Detection Density Estimation 데이터상에서 특이한 것을 걸러 낼 때 (Outlier, anomaly ....) Semi-Supervised Learning 학습 데이터들을 줄 때 몇몇 데이터들은 x, y를 모두 주고 몇몇 데이터들은 x만 주는 경우 ..

• format_list_bulleted 딥러닝 기초/머신러닝 & 딥러닝
• · 2024. 1. 18.
• textsms