LanguageData

- 출처 : https://python.langchain.com/docs/modules/model_io/ - 이 블로그 글은 LangChain API document의 글을 기반으로 번역되었으며 이 과정에서 약간의 내용이 추가되었습니다. - MODEL I/O는 Prompts, Language Model, Output Parser로 이루어져 있습니다. - 본 글에서는 Type of MessagePromptTemplate, Partial prompt templates, Composition를 다룹니다. 1. Type of Message Prompt Template LangChain은 MessagePromptTemplate의 여러 가지 타입을 제공합니다. 가장 일반적으로 사용되는 템플릿은 AIMessagePr..

LangChain 2023. 7. 3. 19:30

- 출처 : https://python.langchain.com/docs/modules/model_io/ - 이 블로그 글은 LangChain API document의 글을 기반으로 번역되었으며 이 과정에서 약간의 내용이 추가되었습니다. - MODEL I/O는 Prompts, Language Model, Output Parser로 이루어져 있습니다. - 본 글에서는 Few shot examples for chat models, Format template output, Template formats를 다룹니다. 1. Few shot examples for chat models 이번 세션에서는 Chat model에서 Few shot examples을 어떻게 사용해야 하는지에 대해 다룹니다. 아직까지 많은 ..

LangChain 2023. 6. 30. 19:30

- 출처 : https://python.langchain.com/docs/modules/model_io/ - 이 블로그 글은 LangChain API document의 글을 기반으로 번역되었으며 이 과정에서 약간의 내용이 추가되었습니다. - MODEL I/O는 Prompts, Language Model, Output Parser로 이루어져 있습니다. - 본 글에서는 Custom Prompt Template과 Few-shot Prompt Template를 다룹니다. 1. Custom prompt template 이제 LLM이 이름으로 어떤 함수명이 주어졌을 때, 이 함수에 대한 설명을 생성하기를 원한다고 가정해 봅시다. 이를 해내기 위해서 우리는 함수명을 입력으로 받아 함수의 source code를 프롬프..

LangChain 2023. 6. 29. 19:30

- 출처 : https://python.langchain.com/docs/modules/model_io/ - 이 블로그 글은 LangChain API document의 글을 기반으로 번역되었으며 이 과정에서 약간의 내용이 추가되었습니다. - MODEL I/O는 Prompts, Language Model, Output Parser로 이루어져 있습니다. - 본 글에서는 Prompt Templates에 대한 간략한 예시와 설명이 포함되어 있습니다. Prompt Langchain의 개발자는 프롬프트가 새로운 프로그래밍 방법이라고 소개합니다. 프롬프트는 모델에 입력을 위해 사용됩니다. 이 입력에는 다양한 Component를 포함하고 있습니다. LangChain은 프롬프트를 쉽게 만들 수 있도록 다양한 클래스와 함..

LangChain 2023. 6. 27. 19:30

- 출처 : https://python.langchain.com/docs/get_started/quickstart - 이 블로그 글은 LangChain API document의 글을 기반으로 번역되었으며 이 과정에서 약간의 내용이 추가되었습니다. - 입력 문장이나 메세지는 한글도 가능하지만, 비용 측면에서 영어가 더 저렴하여 원본과 같이 영어로 진행했습니다. - LangChain을 사용하기 위한 LLM API는 다양하지만, 본 글에서는 OpenAI의 API를 사용합니다. 1. Installation LangChain 설치는 pip과 conda, 두 가지로 할 수 있습니다. anaconda prompt로 접근하면 아래 두 코드로 설치 가능하고, Jupyter를 사용하는 경우에는 pip과 conda 앞에 !..

LangChain 2023. 6. 23. 20:00

- Open API Key를 발급하기 위한 절차입니다. 1. OpenAI에 접속합니다. OpenAI Creating safe AGI that benefits all of humanity openai.com 2. 화면 가장 우측 상단의 Sign up을 클릭합니다. 3. 계정을 생성합니다. 저는 간단히 Google계정을 이용하고 있습니다. 4. 로그인을 하면 다음과 같은 화면이 보입니다. 여기에서 API를 클릭해주세요. 5. 화면 우측 상단의 계정을 눌러 View API keys를 눌러주세요. 6. Create new secret key를 클릭합니다. 7. Key 이름을 입력하고 Create secret key를 클릭합니다. 8. secret key를 복사해주세요. 화면의 경고문대로 이 화면 이후로 secr..

LangChain 2023. 6. 23. 19:30

- BERT는 자연어처리 모델에서 큰 성능향상을 가져온 모델/학습 방법입니다. - BERT를 기반으로 다양한 모델이 파생되어 현재까지 많은 분야에서 사용되고 있습니다. - 본 글에서는 BERT에 대해 간략히 소개합니다. 1. 학습 방법 BERT모델을 학습하는 방법은 Masked Language Model(MLM)과 Next Sentence Prediction(NSP)입니다. MLM은 특정 확률로 마스킹된 단어를 예측하여 학습하는 방법이고, NSP는 두 개의 문장이 실제로 연결된 문장인지를 예측하여 학습하는 방법입니다. MLM은 입력 문장에서 각 단어를 K%의 확률로 마스킹하는데, 논문에서는 15%의 확률을 사용합니다. 만약 마스킹이 너무 적다면 학습 효율이 떨어지고, 너무 많다면 문장의 맥락을 파악하기 ..

NLP 2023. 1. 9. 15:17

- Transformer는 Attention 기반으로 설계된 모델 아키텍처입니다. - 자연어 처리와 컴퓨터 비전 영역에서 다양한 변형으로 사용되고 있으며 현대 AI의 기반이 되는 아키텍처입니다. 1. 소개 `Attention is all you need` 논문에서 Transfomer가 소개된 이후 많은 변형이 등장하였고, Transformer의 Encoder/Decoder Block은 여전히 많이 사용되고 있습니다. 오늘은 Transformer의 입력부터 출력까지 어떤 연산을 거치며, 각 연산의 의미를 생각해보겠습니다. 기본적으로 Transformer는 위 그림과 같은 구조를 가지고 있습니다. Transformer는 크게 Encoder Block과 Decoder Block으로 구성되어 있습니다. 세부 구..

NLP 2023. 1. 6. 18:36