본 게시물은 Deeplearning.ai 코스를 수강 후 요약 및 정리한 내용입니다. LangChain에서 지원하는 다양한 모듈 중 하나인 Chain 이 체인은 LLM과 프롬프트를 결합하며 다양한 요소를 한 번에 묶어 텍스트나 다른 데이터에 사용할 수 있다는 장점이 있다. 즉, 데이터를 기반으로 Prompt 와 LLM을 결합해서 Sequential 작업을 할 수 있도록 돕는것이 바로 Chain의 역할이다. 따라서, 체인의 장점 중 하나는 바로 많은 입력을 동시에 실행할 수 있다는 것! 그래서 체인 기술을 이용하면 LLM을 단독으로 사용하는 것 보다 더 복잡한 응용 프로그램에 적용시킬 수 있다는 장점이 존재하는데, (그래서 이름이 랭체인인가?) 체인은 쉽게 말하자면 chain = prompt | model..
데이터쪽을 공부한다면... ML, DL 등을 공부한다면.. 한 번쯤 들어봤을 법한 Streamlit! 파이썬과 연동되어 html이나 css, javascript 지식 없이도 내가 분석한 모델들을 웹 페이지 형태로 시각화 할 수 있는 좋은 파이썬관련 프레임워크 중 하나이다! Streamlit을 이용해서 나만의 블로그를 작성해 봐도 좋을 것 같고, 포트폴리오로 제작해봐도 좋을 것 같음! Streamlit 사용의 이점 Scikit, Keras, Numpy, Pandas, Tensorflow 등등과 쉽게 연동할 수 있고 서비스 개발 속도를 최소화 할 수 있으며 안전한 웹 개발 Development 이며 HTML, CSS & JavaScript 지식이 전무해도 되며! 개발하기가 쉽다..! 실제로 포스코 AI 빅데..
본 게시물은 Deeplearning.ai 코스를 수강 후 요약 및 정리한 내용입니다. LLM task에서 중요한 부분 또 한가지! 대규모 언어모델을 통해 챗봇을 만들고 이를 기반으로 사용자와 모델 간 대화를 하기 위해서는 언어 모델이 사용자의 입력을 기억하고 그에 맞는 답변을 도출해야 한다! 이를 Memory라고 하는데, 더 많은 대화 내용을 기억하고 있을 수록 더 구체적이고 정확한 답변이 가능해 질 것이고, 반대로 많은 내용을 기억하다 보면 다양한 LLM 모델들은 보통 토큰 단위로 요금을 지불하기 때문에 너무 많은 내용을 기억하면 토큰 비용이 증가하게 될 것이다. 그래서 이 메모리를 효율적으로 관리하는 것이 가장 중요할 것으로 생각되는데, LangChain에서는 이 메모리들을 관리할 수 있는 기본적인 ..
본 게시물은 Deeplearning.ai 코스를 수강 후 요약 및 정리한 내용입니다. 랭체인..!! LLM...!!! 너무 재밌다! 같이 공부할사람! 🙋♀️ 먼저 LangChain이 뭔지 모르시는 분들을 위해 LangChain이란 LLM(Large Language Model) application을 제작하기 위한 Pytorch와 같은 오픈소스 개발 framework이다! LangChain framework는 Python, javascript를 지원하며 이 프레임워크를 이용하면 누구나 LLM 모델을 개발해볼 수 있다는 장점이 ..!! ㅎㅎ LangChain은 LLM으로 할 수 있는 거의 모든 기능들을 지원하는데 그 중에서도 LLM의 Composition과 Modularity에 특화되어 있다! LangCh..
LLM 공부를 시작하다보면 RAG (Retrieval Augmented Generation) 이라는 용어가 자주 등장하게 된다. RAG model은 검색 증강 생성 방식을 통해 외부 Document에서 가져온 정보를 통해 LM 모델의 성능과 정확도를 향상시키는 방법 중 하나이다. 챗 GPT와 같은 Generate LM들이 보다 정확한 정보를 제공할 수 있도록 정확도를 향상시킬 수 있는 방법이라고 보면 될 것 같다. 논문은 2020년 5월 발표되었으며, 원문 링크는 아래에서 확인할 수 있다. https://arxiv.org/abs/2005.11401 Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks Large pre-trained langu..
Docker란? 인공지능 개발자라고 하면 종종 제작한 모델을 배포하거나 타인의 모델을 가져올 때 환경 설정에서 크게 애를 먹을 것이다. 아나콘다가 설치된 환경이라면, 환경설정을 Conda export, Conda import 명령어를 통해 yaml 파일로 만들어서 모델이 돌아갈 환경을 배포할 수도 있지만, Docker를 이용하면 보다 편리하게 OS 환경부터 응용 프로그램, 세부적인 라이브러리까지 모두 제공할 수 있다. 따라서 Docker에 대해 쉽게 정리하면, "응용 프로그램과 해당 종속성(라이브러리, 환경 설정 등)을 하나의 격리된 환경으로 묶어 실행할 수 있도록 하는 프로그램" 정도라고 생각하면 좋을 것 같다. Docker를 이용해 모델이 돌아갈만한 환경을 제공하기 위해선 최소한의 몇가지 용어들을 알..