Encoder, Decoder, Encoder-Decoder 모델에 대한 정의가 헷갈려서 정리하기 위해 작성하였습니다.보시면서 오류가 있거나 잘못된 부분이 있다면 댓글을 통해 알려주시면 감사하겠습니다.🤗 Deeplearning.AI의 GenAI with LLM 강의를 통해 습득한 내용을 정리하였습니다. 본 게시물에서 의미하는 Encoder, Decoder의 의미는Transformer 논문 (Attention is all you need)에 소개된 Transformer 로직의 Encoder, Decoder를 의미합니다.즉, tranduction model에서의 Encoder, Decoder 입니다.Encoder Only = Auto Encoding Model을 의미합니다.주로 masked language..
백준 5430 문제를 풀다가.. 입력이 [1,2,3,4] 이렇게 문자열 형식으로 들어오는데 이걸 바로 list로 받아볼 수 없을까 해서 찾아보다 알게 되었다. ast 모듈을 이용하면 됨! import ast list = ast.literal_eval(input()) 이런식으로 코드를 작성하면 된다. 만약 이미 리스트로 저장되어있는 경우여서 원소의 타입만 변경해주어야 하는 경우라면 map 을 이용하면 된다. int_list = list(map(int, str_list)) map을 이용하는 방법은 잘 알지만, 입력으로 [1,2,3,4] 이런식으로 str을 받게 되어버리면 리스트로 인식하는게 아니라 '[' 기호 ',' 기호 등 따로 입력으로 인식되기 때문에 아래 방법이 통하지 않는다. ++) 근데 ast 모듈..
본 게시물은 LGaimers 4기 Module 6의 주재걸 교수님의 딥러닝 강의를 수강 후 요약하였으며, 추가적인 자료는 Google, Arxiv 등에서 검색하였습니다.아 주재걸 교수님 CNN 강의듣고 드디어 묵은 체증이 싹 가신 느낌인턴하면서 CV 프로젝트들을 위주로 많이 진행하고 또 겪어왔지만, 솔직히 옆에서 무슨 말들을 하는지 감으로만 알아들었지 정확히 알아듣진 못했는데(...) (감으로만 이해하고 있었다는 뜻... 아무래도 CV 를 3일만에 배웠으니까....)Aimers강의를 들어가면서 머신러닝 딥러닝 개념부터 시작해서 다시 기초를 쌓으니 뭔가 좀 이해가 가는 생각에 너무 기뻐서 CNN 개념을 함께 정의... 공부해보고자 들고왔습니다 ^__^ vVㅎㅎ (이제 드디어 논문을 이해해가며 읽..
본 게시물은 네이버 부스트코스 주재걸 교수님의 '인공지능을 위한 선형대수' 강의를 듣고 요약하였습니다. Linear Transformation : Transformation, Mapping, Function ... 등으로 표현할 수 있음. Domain (정의역) : x의 모든 값 Co-domain (공역) : y의 모든 값 (output의 집합) Range (치역) : 정의역에 대응하는 함수 값 Image (함수의 상) : output 정의 : T(mapping / function)이 linear 하다고 할 때, 모든 $u, v$ 에 대해서 $T(cu + dv) = cT(u) + dT(v)$ 를 만족하면 선형 변환이라고 한다. (= 덧셈 성질과 스칼라 곱에 대한 성질을 만족해야 함) 즉, vector를 ..
본 게시물은 네이버 부스트코스 주재걸 교수님의 '인공지능을 위한 선형대수' 강의를 듣고 요약하였습니다. Basis & Dimension (기저와 차원) Subspace 의 Basis는 다음과 같은 조건을 만족한다. Fully spans the given subsapce H : subspace H로부터 Fully span 된 상태 Linearly independent (no redundancy) : 중복을 허용하지 않음. Change of Basis : Subspace도 같고, 주어진 점도 같은데 이를 표현하는 기저벡터가 달라졌을 때 Standard Basis Vector : standard basis vector는 다음과 같은 조건을 만족함 Dimension of Subspace (Subspace 의 차..
본 게시물은 네이버 부스트코스 주재걸 교수님의 '인공지능을 위한 선형대수' 강의를 듣고 요약하였습니다. Linear Combination (선형 결합) Matrix equation 을 Vector equation으로 만들기 다음과 같이 행렬방정식을 벡터 방정식으로 변환할 수 있음 Span The set of all linear combinations of v1, v2, .... vp 선형 결합을 통해 만들 수 있는 벡터 집합을 말한다. 다음과 같은 벡터들이 존재할 때, 벡터의 선형 결합으로 만들어 낼 수 있는 모든 벡터의 존재의 집합을 Span 이라고 한다. Q. Vector equation으로 봤을 때, $Ax = b$ 의 연립 방정식 해가 존재할 것인가? $Ax = b$의 값이 재료벡터 x1, x2,..