[From tokens to thoughts] How LLMs and Humans Trade Compression for Meaning 논문 리뷰
안녕하세요, 이번에 리뷰해 본 논문은 25년 5월 발표된 From tokens to thoughts 라는 논문입니다.🤗 최근 Embedding 논문들에 관심을 가지면서 몇 가지 Embedding 관련 논문들을 읽어보았는데요, 모델이 표현하는 토큰/ 단어/ 문장의 의미와 인간이 표현하는 개념들에 대해서 어떤 차이가 있는지, 만약 차이가 존재한다면 우리가 앞으로 어떤식으로 모델들을 개발시켜야 하는지 그런 방향성에 대해서 고민해보는 논문입니다. 해당 개념을 표현하기 위해 인지과학적인 내용들도 좀 등장하는데요,이런 식으로도 생각해 볼 수 있구나 정도로 편하게 읽어내려가 보았습니다. 원문은 아래 링크에서 확인하실 수 있습니다.https://arxiv.org/abs/2505.17117 From Tokens to ..