태그: 딥러닝

3개의 게시물

Kosmos An AI Scientist for Autonomous Discovery

과학 연구는 직선적이지 않습니다. 일단 문헌을 뒤져 선행 연구를 찾아야죠. 틈새를 발견하고, 가설을 세우고, 데이터를 분석합니다. 그리고 다시 문헌으로 돌아갑니다. 훌륭하고 멋진 작업이죠. 정말, 정말 오래 걸린다는 점만 빼면요. 지난 몇 년간 LLM 기반의 AI 에이...

LLM Tokenization 정리

딥러닝은 모든 것을 숫자로 처리합니다. NLP와 LLM도 예외는 아닙니다. 숫자만 다룰 줄 아는 LLM이 어떻게 수많은 종류의 언어를 구사할 수 있을까요? 모든 거대 언어 모델의 첫 번째 스텝은 **토큰화(Tokenization)** 입니다. 지금부터 LLM이 우리의 ...