안녕하세요!
오늘은 지난 4월 27일 진행되었던 Google Developer Group의 Build with AI 2024 컨퍼런스 후기를 들고왔습니다🥹
평소에 LLM에 관심이 있고, 재밌는 세션들로 구성된 것 같아
얼리버드로 참가신청하여 다녀왔습니다ㅎㅎ
위와 같이 Technical Talk과 Hands-on 세션으로 분류되어 진행되었는데요!
저는 오전에 정처기 시험을 응시하고 후다닥 강남으로 넘어가야했기에 첫 번째 세션을 제외하고 들을 수 있었습니다🥲
처음에 테크톡 세션에서 시작해서 듣다보니, 주제들이 핸즈온세션보다 더 재밌을 것 같아 결국 끝까지 테크톡 세션에서 모든 강의를 듣게 되었습니다 ㅎㅎ;
핸즈온 세션들도 너무너무 재미있는 주제들이긴 하지만 사실 RAG나 앱 배포와 같은 내용들이 현재 진행하고 있는 프로젝트와 비슷하다고 느껴져서 테크톡 세션들이 더 매력적으로 느껴졌던 것 같습니다! 🥹
아쉽게도 신청당시 취준생이라던가.. 무소속이라던가... 는 적을 수 없더군요
그래서 n년째 학부 소속을 우려먹고 있습니다..
입장과 동시에 명찰, 스티커, GDG 티셔츠를 기념품으로 제공해주셨습니다😊
테크톡 세션
1. 한성민님의 Reduce Hallucination 세션
가장 흥미로웠던 세션 중 하나입니다.
Hallucination을 방지하기 위한 기법들에 대해서 소개해주셨는데, 이를 위해 어떤식으로 Prompting을 진행해야 하는지 방향성을 알게되었던 세션입니다.
세션 중간에 직접 실습해 볼 수 있는 Colab 링크도 QR로 제공해주셔서
후다닥 찍으면서 실습했던 기억이 있네요
GDG 측에서 제공해주신 점심입니다..
🫠
(오전에 아침을 굶고 너무 맛있게 먹었습니다..ㅎ)
2. 이성우님의 Cloud GDE 세션
이성우님의 Cloud GDE 세션입니다.
Kubernetes를 이용해서 LLM 서비스를 어떤식으로 배포하면 좋을지에 대한 강의를 듣게되었습니다.
사실 Kubernetes에 대해서 제대로 깊게 공부해 본 적이 없고 대충 어떤 것이다.. 라는 개념만 갖고 있기에 그리 쉽게 느껴지진 않았습니다만 GCP(Google Cloud Platform)과 Kubernetes를 이용해 어떤식으로 LLM을 배포하는지 대략적인 흐름은 이해할 수 있었습니다.
식사시간이 딜레이되면서 세션이 후다닥 진행되었던 아쉬움이 좀 남습니다🥲
3,4. Gemma DPO, Fine-tuning 세션
마지막은 Gemma를 이용한 SFT, DPO와 JAX를 이용한 Fine-tuning 세션 입니다.
요 세션들도 가장 재미있게 들었던 세션들 중 하나인데, 확실히 llm 관련 논문을 몇 개 읽어가니까 이해에 도움이 되기도 하고 또 더 재밌게 느껴지기도 했던 것 같습니다.
흥미로웠던 것은 마지막에 Transformer를 대체할 Architecture에 대한 연구가 이뤄지고 있다고 했던 점이었던 것 같습니다.
2017년 발표되어 지금까지도 여기저기서 쓰이는 Transformer를 대체할만한 아키텍쳐라니...🥹 Griffin 아키텍쳐에 대해서 소개해주셨는데 관련하여 또 논문 리뷰를 해 봐야겠다는 생각을 하게 되었습니다 ㅎㅎ.. (정말 공부할게 많군요)
Griffin의 경우 Transformer Architecture에서 Attention 기법을 Linear RNN 기법으로 대체한 아키텍쳐인데,
결국 다시 돌고 돌아 RNN으로... 인가 싶었습니다 ㅎㅎ 자세한 건 관련 논문이나 리뷰를 읽어봐야 알 수 있을 것 같네요 ㅠㅠ
마치며
여러 세션들을 들으면서 이번에 GCP 계정을 활성화 시키고 무료 API를 제공받았습니다!
구글 GCP에서 Vertax AI API를 40만원 정도인가.. 약 90일 정도 무료 체험할 수 있는 기회를 제공하기 때문에 관련해서 경험해보고 싶은 분들은 이것저것 테스트 해 보셔도 좋을 것 같습니다. 저도 이미 활성화를 시켰기 때문에 이것저것 만져보고 공부해보며 재밌는 부분들을 공유해보도록 하겠습니다ㅎㅎ
'후기 및 회고💦' 카테고리의 다른 글
| 포스코 청년 IT 전문가 아카데미 8기 면접 후기 (0) | 2024.04.22 |
|---|---|
| [Upstage AI Lab] 3기 합격 + 등록 취소 후기 (0) | 2024.03.28 |