파이썬 백엔드를 구성하는 프레임워크중 가장 대표적인 것 중 하나 Django가 있죠. 항상 FastAPI로 API를 구성해오다가아직은 대중적으로 쓰이는 것이 Django라 하여 Udemy 강의를 듣고 정리해보았습니다. Django 설치 * conda 가상환경이 설치되어 있다는 가정 하에 진행됩니다. 우선 conda 가상환경을 설치해줍니다.conda create -n jango python=3.10 가상환경 설치시 python이 아닌 django를 먼저 설치 후 나중에 python을 설치하려고 하면기본적으로 python2가 설치됩니다.따라서 파이썬을 먼저 설치해주었습니다. 다음으로 가상환경 활성화 후 conda install을 통해 djnago를 설치합니다.conda activate jangoconda..
본 리뷰는 Jpub으로부터 도서를 제공받아 작성되었습니다.✏️ Jax / Flax를 들어보긴 들어봤는데.. 정확히 어떤 프레임워크인지, 뭐에 사용하는지 잘 몰랐다가 (llm 튜닝에 쓰인다고 해서)궁금해서 서평 신청을 했다가 운이 좋게 당첨되어 읽어보게 되었습니다! 덕분에 jax / flax 공부도 했고 ㅎㅎ 회사 점심시간에 짬짬히 읽었다! 우선 이 책은 '모두의 연구소'에서 활동하시는 jax/flax 랩에서 작성해주셨다.지난번 Google Build AI 컨퍼런스 들으러 갔을 때, 여기 랩짱 이영빈님께서 강연해주시면서 jax/flax에 대해 알게 되었는데 그분들이 작성하신 책이다..! 목차 우선 jax와 flax라는 프레임워크에 대해 소개하고, 이를 통해 직접 딥러닝 모델들을 실습해보는 구조로 되어 ..
파이썬 매직메서드로__str__, __repr__ 이 있습니다. 둘다 객체의 문자열 표현을 반환한다는 특징을 가지고 있죠. 같은 기능을 하는데 왜 구분해놨을까?차이를 한 번 살펴봅시다. __str__ 메서드객체의 "비공식적" 또는 사용자 친화적 문자열을 표현할 때 제공합니다.print() 함수나 str() 함수를 사용할 때 호출됩니다. 예제class Book(): def __init__(self, title, author, page): self.title = title self.author = author self.page = page book = Book("Deeplearing", "architectyou", 20)print(book)원래 파이썬 ..
Gemma2-ko-9B 모델을 법률 QA 셋에 대해 Fine-tuning 진행 해 보았습니다.허깅페이스의 trl, peft 라이브러리를 사용하여 LoRA, SFT Tuning을 진행하였습니다. LoRA에 대한 개념을 모르시는 분은 아래 게시물을 참고해주세요🙌2024.07.24 - [AI (인공지능) Paper Review/Gen AI (Large Model)] - [LoRA] Low-Rank Adaptation of Large Language Models 논문 리뷰 [LoRA] Low-Rank Adaptation of Large Language Models 논문 리뷰LLM의 대표적인 PEFT 방법인 LoRA입니다.기존의 Fine-tuning과는 달리 일부 parameter만 fine-tuning을 ..
from huggingface_hub import HfApiapi = HfApi()api.upload_folder( folder_path="튜닝한 모델 경로", repo_id="허깅페이스 레포지토리 경로", repo_type="model",) 폴더 내 모델 파일들을 허깅페이스 레포지토리에 직접적으로 업로드 하는 방식으로,git lfs 방식을 통해 대용량의 파일들을 업로드합니다. huggingface 웹페이지 내에서 레포지토리를 생성하고, repository path를 repo_id로 지정해주면 해당 레포에 업로드 됩니다. 이 때, huggingface 토큰이 "write" 형태여야 오류 없이 잘 업로드 됩니다.
프롬프톤 회고.... 라고 쓰고 적는 개발 일지... 사실 프롬프톤이 끝난건 7월 중순이었는데 (ㅋㅋ..)블로그를 한동안 못쓰기도 했었고 그 동안 또 배운것도 많고 많은 일들도 있었지만그래도 더 늦어서 까먹어버리기 전에 회고록은 써야겠다 생각해서 뒤늦게... 기억을 더듬더듬 .. 더듬어 ... 작성함다🥲 어쩌다가?서울프롬프톤은 서울디지털재단과 구글 클라우드에서 공동주관하였고,나는 프로젝트형 부트캠프 팀원들과 함께 생성형 AI 관련 프로젝트를 막 시작하려던 참...멘토님께서 개발기간이 비슷하니 한번 참여해보라고 권유해주셨다. (근데 사실 이거전에도 경기도에서 하는 생성형 AI 대회 참가하자고 했는데 아무도 신청안해서 못했음 ㅎ;) 우리가 프로젝트를 막 계획하고 시작한건 5월 초부터, 부캠이 끝나는 시기..