한입AI사전

AI 용어, 하나씩 짧고 쉽게.

ChatGPT · Claude · Gemini를 매일 쓰지만 속은 잘 모르는 분들을 위한 AI 용어 사전입니다. 용어마다 짧은 영상과 글이 있고, AI를 직접 돌려 본 결과와 연구의 실제 수치로 설명합니다.

ㅋ

컨텍스트 윈도우컨텍스트 윈도우는 AI 언어 모델에 한 번에 넣을 수 있는 토큰 수의 상한입니다. AI는 대화를 기억하지 않고 매번 지금까지의 대화 전체를 다시 읽기 때문에, 대화 · 지시문 · 올린 파일이 모두 이 안에 들어가야 합니다.
컴팩션컴팩션은 대화가 컨텍스트 윈도우 상한에 가까워졌을 때 오래된 대화를 AI가 직접 요약하고, 원문 대신 그 요약을 넣어 공간을 비우는 방법입니다. 화면에는 대화가 그대로 남아 있지만 AI가 실제로 읽는 것은 요약입니다.

ㅌ

토큰토큰은 AI 언어 모델이 글을 읽고 쓰는 단위입니다. 단어 하나가 토큰 하나일 때도 있고, 단어 일부나 글자 일부가 토큰 하나일 때도 있습니다. AI 요금과 한 번에 넣을 수 있는 양(컨텍스트 윈도우)이 모두 토큰 수로 정해집니다.

A–Z

LLMLLM(Large Language Model, 대규모 언어 모델)은 지금까지의 글을 보고 다음에 올 토큰 하나를 확률로 고르는 일을 반복해서 글을 만드는 AI 모델입니다. 아주 많은 글로 학습하고 파라미터가 아주 많아서 '대규모(Large)'라고 부릅니다. ChatGPT · Claude · Gemini가 모두 LLM입니다.