본문 바로가기

LLaMa2

RAG 란 무엇인가? RAG 란 무엇인가? RAG 는 "Retrieval-Augmented Generation", 즉 검색 기반 생성 기술로, 대규모 언어 모델(LLM)이 외부 지식을 검색해 활용하며 답변을 생성하는 방식을 말한다. 단순히 훈련된 지식에만 의존하지 않고, 실시간으로 필요한 정보를 찾아와 응답에 활용함으로써, 정보의 정확성과 최신성을 높일 수 있는 것이 가장 큰 특징이다. 대규모 언어 모델은 방대한 데이터로 훈련되지만, 학습 시점 이후의 정보는 알 수가 없고, 모든 세부 정보를 기억하기도 어렵다. 특히 뉴스, 법률, 기술 문서처럼 시간에 민감하거나 구체적인 정보가 필요한 상황에서는 한계가 생긴다. 이럴 때 RAG는 다음과 같이 작동한다: 1. 사용자의 질문 입력 2. 관련 문서 검색 (Retrieval) o 벡.. 2025. 7. 1.
LLM 이란 무엇인가? LLM 이란 무엇인가? LLM은 Large Language Model의 약자로, 수십억 개 이상의 매개변수(파라미터)를 가진 초대형 인공지능 언어 모델을 의미한다. 사람의 언어를 이해하고 생성할 수 있도록 훈련된 이 모델은, 자연어 처리(NLP) 기술의 집약체로 간주한다. 대표적인 예로는 OpenAI의 GPT 시리즈, Google의 PaLM, Meta의 LLaMA, Anthropic의 Claude 등이 있다.LLM이 작동하는 방식은, 대규모 텍스트 데이터를 학습해 단어와 문장 간의 확률적 관계를 학습하는 데 있다. 간단히 말해, “주어진 문맥에서 다음에 올 단어는 무엇일까?”를 예측하는 방식이다. 이렇게 예측을 반복함으로써 문장 생성, 요약, 번역, 질의응답 등 다양한 작업을 수행할 수 있다. 이러한 모.. 2025. 6. 30.
반응형

티스토리툴바