![[코세나, kosena] 생성AI 프로젝트와 사례](https://cdn.slidesharecdn.com/ss_thumbnails/ai-240212104807-42c291b6-thumbnail.jpg?width=560&fit=bounds)
More Related Content
What's hot (20)
Similar to Lang Chain (Kitworks Team Study 윤정빈 발표자료) (20)
![[오픈소스컨설팅] 기업 맞춤형 On-Premise LLM Solution](https://cdn.slidesharecdn.com/ss_thumbnails/llm202411-241111013615-47e5c81c-thumbnail.jpg?width=560&fit=bounds)
![[오픈소스컨설팅]온프레미스 LLM 솔루션_202410.pdf](https://cdn.slidesharecdn.com/ss_thumbnails/llm202410-241029044603-0c34e45a-thumbnail.jpg?width=560&fit=bounds)
![[오픈소스컨설팅]온프레미스 LLM 솔루션_202410.pdf](https://cdn.slidesharecdn.com/ss_thumbnails/llm202410-241029044926-6f7c6e61-thumbnail.jpg?width=560&fit=bounds)
![[오픈소스컨설팅] 기업 맞춤형 온프레미스 LLM 솔루션](https://cdn.slidesharecdn.com/ss_thumbnails/llm202410-241106053231-5bf93cca-thumbnail.jpg?width=560&fit=bounds)
![[마인즈랩] Ai 플랫폼 maum.ai 소개서 201707](https://cdn.slidesharecdn.com/ss_thumbnails/aimaum-170726050351-thumbnail.jpg?width=560&fit=bounds)
More from Wonjun Hwang (20)
![Kit-Works Team Study_[팀스터디]SVG_20241220.pptx](https://cdn.slidesharecdn.com/ss_thumbnails/svg-241223010155-9c6fb33b-thumbnail.jpg?width=560&fit=bounds)
Lang Chain (Kitworks Team Study 윤정빈 발표자료)
- 2. LangChain이란? 다양한언어모델을기반으로하는애플리케이션을위한프레임워크입니다. 가장강력하고차별화된애플리케이션은API를통해언어모델을 호출할뿐만아니라 이를통해개발될것이라고믿습니다. 언어모델을더잘활용할수있게끔도와주는도구 데이터인식: 언어모델을다른데이터소스에연결 에이전트기능: 어모델이환경과작용수있도록함
- 3. LangChain을사용하는이유 ChatGPT의한계 01 ChatGPT(GPT-3.5)는2021년까지의데이터를학습한LLM(초거대언어모델)이므로, 2022년부터의정보에대해서는답변하지못하거나, 거짓된답변을제공 정보접근제한 02 03 ChatGPT에서제공하는모델인GPT-3.5와GPT-4는각각4096, 8192토큰이라는 입력토큰제한이존재 사실에대한질문을했을때, 엉뚱한대답을하거나거짓말을하는경우가많음 토큰제한 환각현상
- 4. LangChain을사용하는이유 Fine-tuning 개량 N-shot Learning In-context Learning 기존딥러닝모델의weight를조정하여원하는용도의모델로업데이트 0개~ n개의출력예시를제시하여, 딥러닝이용도에알맞은출력을하도록조정 문맥을제시하고, 이문맥기반으로모델이출력하도록조정 Custom LLM 만드는방법
- 5. LangChain을사용하는이유 ChatGPT의한계 01 ChatGPT(GPT-3.5)는2021년까지의데이터를학습한LLM(초거대언어모델)이므로, 2022년부터의정보에대해서는답변하지못하거나, 거짓된답변을제공 정보접근제한 02 03 ChatGPT에서제공하는모델인GPT-3.5와GPT-4는각각4096, 8192토큰이라는 입력토큰제한이존재 사실에대한질문을했을때, 엉뚱한대답을하거나거짓말을하는경우가많음 토큰제한 환각현상 Vectorstore 기반정보탐색or Agent 활용한검색결합 TextSplitter를활용한문서분할 주어진문서에대해서만답하도록Prompt 입력
- 6. LangChain을사용하는이유 ChatGPT의한계 01 ChatGPT(GPT-3.5)는2021년까지의데이터를학습한LLM(초거대언어모델)이므로, 2022년부터의정보에대해서는답변하지못하거나, 거짓된답변을제공 정보접근제한 02 03 ChatGPT에서제공하는모델인GPT-3.5와GPT-4는각각4096, 8192토큰이라는 입력토큰제한이존재 사실에대한질문을했을때, 엉뚱한대답을하거나거짓말을하는경우가많음 토큰제한 환각현상 Vectorstore 기반정보탐색or Agent 활용한검색결합 TextSplitter를활용한문서분할 주어진문서에대해서만답하도록Prompt 입력 LangChain을활용하면 LLM의문제해결+ 활용도UP!
- 7. Models LangChain의구조 LLM: 초거대언어모델로, 생성모델의엔진과같은역할을하는핵심구성요소 GPT-3.5, PAM-2, LLAMA, Stable Vicuna, WizardLm...
- 8. Prompts LangChain의구조 Prompts: 초거대언어모델에게지시하는명령문 Prompt Templates, Chat Prompt Template, Example Selectors, Output Parsers
- 9. LangChain의구조 Index: LLM이문서를쉽게탐색할수있도록구조화하는모듈 Document Loaders, Text Splitters, Vectorstores, Retrievers ... Indexes
- 10. LangChain의구조 Memory: 채팅이력을기억하도록하여이를기반으로대화가가능하도록하는모듈 ConversationBufferMemory, Enity Memory, Conversation Knowledge Graph Memory... Memory
- 11. LangChain의구조 Chains: LLM 사슬을형성하여, 연속적인LLM 호출이가능하도록하는핵심구성요소 LLM Chain, Question Answering, Summarization, Retrieval Question/Answering... Chains
- 12. LangChain의구조 Agents: LLM이기존Prompt Template으로수행할수없는작업을가능케하는모듈 Custom Agent, Custom MultiAction Agent, Conversation Agent... Agents
- 13. LangChain의구조 LLM
- 16. 예제1
- 17. 예제2 chunk
- 18. 예제2 결과