쏘카가 디자인한 시나리오 기반 LLM 봇1) 백엔드에서 고객 서비스 매뉴얼 파일 업로드 하고, 이를 vector store 데이터베이스에 업로드2) 유저의 텍스트 인풋에 따라 상담의 의도를 LLM이 파악3) RAG, Vector Search를 같이 사용해 LLM 에이전트가 상담 매뉴얼 DB에서 정확한 결과 검색4) 할루시네이션이 나오면 후처리해서 LLM이 답하는 것보다 인간 상담원에게 연결할 수 있도록 디자인  * 필요한 라이브러리 모듈 불러오기import dotenvdotenv.load_dotenv()from langchain.text_splitter import RecursiveCharacterTextSplitterfrom langchain_openai import OpenAIEmbeddingsfro..

1) 웹사이트 링크 데이터를 읽어와 2) FAISS 와 같은 벡터 스페이스에 저장한 다음3) 웹사이트 데이터를 요약해주는 LLM 체인 생성Streamlit 이용해 웹으로 확인  필요한 라이브러리 모듈 불러오기import dotenvdotenv.load_dotenv()from langchain.text_splitter import RecursiveCharacterTextSplitterfrom langchain_openai import OpenAIEmbeddingsfrom langchain_community.vectorstores import Chromafrom langchain_community.document_loaders import WebBaseLoaderfrom langchain.chains imp..

Horangi 한국어 LLM 리더보드 사이트 : Horangi 한국어 LLM 리더보드 | korean-llm-leaderboard – Weights & Biases (wandb.ai) 깃헙 : https://github.com/wandb/llm-kr-eval Wandb에서 한국어 LLM 성능을 평가하는 새로운 리더보드 호랑이를 공개했다. llm-kr-eval은 일본어 버전인 llm-jp-eval에 기반해 개발된 MT-Bench로 질의응답과 프롬프팅 대화 2가지 영역에서 LLM의 한국어 처리 능력을 평가한다. 뿐 아니라 다양한 시각화를 통해 모델의 성능을 쉽게 비교할 수 있게 돕는다. 지원되는 데이터셋은 다음과 같다. NLI (Natural Language Inference): KorNLI(exact), ..

supercomputer Stargate AI The Information에 따르면 Microsoft와 OpenAI가 공동 데이터 센터 프로젝트를 계획하고 알려졌다. 이 프로젝트는 2028년까지 Stargate라는 이름의 대규모 인공지능 슈퍼컴퓨터를 출시하는 것으로 마무리 될 것으로 알려졌다. OpenAI용 소형 슈퍼컴퓨터를 개발과 AI 칩 개발 등 프로젝트 예산이 천 억원을 초과할 수 있다고 예상하고 있다. 프로젝트 재정적 부담의 대부분을 짊어질 것으로 예상되는 Microsoft의 자본 지출이 전년도 인프라 지출을 훨씬 초과할 수 있다고 보여진다. GPT-5 openAI CEO 샘 알트만은 세계정부정상회의에서 곧 출시될 GPT-5가 잠재적으로 인간 수준의 지능에 접근할 수 있다 설명한 바 있다. GPT..

Grok-1.5 OpenAI의 대항마로 일론 머스크가 설립한 새로운 인공지능 기업 xAI에서 업그레이드 된 Grok-1.5를 발표했다. Long Context Understanding : 최대 128K 토큰의 긴 컨텍스트로 더 긴 문서의 정보를 활용할 수 있다. 코딩 및 수학 관련 작업에서 눈에 띄는 성능 향상 OpenVoice : Versatile Instance Voice Cloning 논문 : https://arxiv.org/pdf/2312.01479.pdf 깃헙 : https://github.com/myshell-ai/OpenVoice 데모 1 : OpenVoice - a Hugging Face Space by myshell-ai 데모 2 : OpenVoice | Lepton AI Playgrou..

전체 튜토리얼은 아래 글을 참고하기 2024.03.06 - [NLP/tutorials] - LINER PDF Chat Tutorial LINER PDF Chat Tutorial https://github.com/liner-engineering/liner-pdf-chat-tutorial/tree/main GitHub - liner-engineering/liner-pdf-chat-tutorial: LINER PDF Chat Tutorial with ChatGPT & Pinecone LINER PDF Chat Tutorial with ChatGPT & Pinecone. Contribute to liner-engineering/line pinopino.tistory.com Mixtral 사용해서 PDFChat ..