ChatGPT for Document Retrieval using LangChain RAG

매뉴얼등의 문서를 챗봇 Application시 문서 기반 검색과 LLM으로 보강한 정보를 검색을 위한 RAG 활용 방법. RAG(Augumented Generation)Retrieval-Augmented Generation은 검색된 응답과 생성 기술을 결합하여 생성된 응답의 품질과 관련성을 개선하며, Langchain의 맥락에서 RAG는 검색 및 Ch...

LLM 속 지식 저장 위치를 찾아내는 방법 발견

(2024년 04월 03일 (수) 기사 내용입니다. 간단한 일차 함수를 사용, 대형 언어 모델(LLM) 내에서 특정 지식이 어디에 저장돼 있는지를 확인할 수 있다는 연구 결과가 나왔다. 이를 통해 LLM의 환각 현상을 줄일 수 있다는 설명이다. MIT 뉴스는 25일(현지시간) MIT 연구진이 간단한 선형 함수를 사용해 LLM에 저장된 사실을 복구하고 ...

초보자와 전문가를 위한 자연어 생성(NLG) 이해하기

초보자와 전문가를 위한 자연어 생성(NLG) 이해하기오늘날 빠르게 진화하는 디지털 환경에서 자연어 생성(NLG)의 출현은 인간화 기술을 향한 혁명적인 진전을 의미합니다. 이 정교한 인공 지능(AI) 분야는 인간과 기계 간의 상호 작용을 향상시킬 뿐만 아니라 데이터가 해석되고 전달되는 방식을 재 정의합니다. 기본적으로 NLG는 컴퓨터 언어학을 활용하여 ...

NLU, NLG and LLM

NLP, NLU, NLG의 간단한 이해

NLP, NLU, NLG의 간단한 이해 1. NLPNatural Language Process자연어를 컴퓨터에 입력하기 위한 전처리, 자연어를 이해하는 과정, 자연어를 생성하는 과정을 모두 통틀어 이르는 말기계가 인간의 언어를 이해하고 처리할 수 있도록 하는 인공지능 분야입니다. 대량의 텍스트 및 음성 데이터를 분석하고 패턴을 식별하며 지능형 응답을 ...

Openai GPT Store

다음 주 Open예정인 Openai의 “GPT Store” 에 대한 사용 정책과 가이드라인을 공지합니다. (본 내용은 openai 문서에 기초합니다) 허용되지 않는 모델 사용다음과 같은 경우에는 모델을 사용할 수 없습니다.불법 행위OpenAI는 불법 활동에 당사의 모델, 도구 및 서비스를 사용하는 것을 금지합니다.아동 성적 학대 자료 또는 아동을 착...

대규모 언어 모델을 위한 검색-증강 생성(RAG) 기술 현황

(아래 내용은 파이 토치 유저 모임에서 가져온 내용입니다) 검색-증강 생성(RAG) 기술 소개 RAG 기술의 발전 - 타임라인 / A timeline of existing RAG research1376×919 159 KB 대규모 언어 모델(LLM)은 뛰어난 능력을 보이지만, 실제 사용을 위해서는 환각이나 느린 지식의 업데이트, 답변의 투명성 부족 등과...

RAG vs. 파인튜닝 :: 기업용 맞춤 LLM을 위한 선택 가이드

(아래 내용은 Skelter Labs Blog - RAG vs. 파인튜닝 :: 기업용 맞춤 LLM을 위한 선택 가이드)에서 퍼온 글로 공감하는 내용이어서 공유하고자 올립니다) RAG vs. 파인튜닝 :: 기업용 맞춤 LLM을 위한 선택 가이드기업이 원하는 맞춤 LLM 모델을 만드는 방법은 여러가지가 있습니다. 그 중 RAG 와 파인 튜닝의 특,장점과...

LLM.활용을 위한 임베딩이란?

임베딩(Embeddings)은 무엇이고 왜 중요한가임베딩이란? • "임베딩"은 콘텐츠를 "부동 소수점 숫자의 배열"로 변환하는 것 • 이 배열의 핵심은 "콘텐츠 내용의 길이"에 관계없이 "배열의 크기"가 항상 같다는 것 • 배열의 크기는 사용하는 임베딩 모델에 의해서 결정됨 300, 1000, 1536 등 • 이 숫자 배열을 생각하는 가장 좋은 방법은...

대규모 언어 모델의 다국어 학습 평가 논문

최근 몇 년 동안, 대규모 언어 모델(LLMs)은 자연어 처리(NLP) 분야에서 가장 중요한 발전 중 하나로 등장하여 연구와 개발을 근본적으로 변화 시켰습니다ChatGPT는 최근 개발된 가장 흥미로운 LLM 시스템 중 하나로, 언어 생성 및 고도의 기술을 선보이며 대중의 관심을 끌고 있습니다. ChatGPT는 다국어 훈련 데이터를 사용하기 때문에 영어...

Prompt Engineering-Tips and tricks for successful prompting with LLMs

Prompt Engineering-Tips and tricks for successful prompting with LLMs텍스트-텍스트 형식으로 인해 대규모 언어 모델(LLM)은 단일 모델로 다양한 작업을 해결할 수 있습니다. 이러한 기능은 원래 GPT-2 및 GPT-3과 같은 모델을 사용한 제로 및 퓨샷 학습을 통해 입증되었습니다[5, 6]. 그러...

초거대 생성 AI가 가져준 변화 속에서

ChatGPT, 이제는 그 이름을 모르는 이는 드물 것입니다. 또한 Google Bard, Meta의 Llama 역시 같은 대열에 속해 있습니다. 특히 Llama2의 경우, 발표된지 겨우 일주일 만에 다양한 응용 아이디어가 가득 찬 상태입니다. 이처럼 초거대 생성 AI가 어떻게 이렇게 엄청난 변화를 이끌어내고 있는지, 새로운 논문이나 알고리즘이 발표되...