본문 바로가기
반응형

전체 글

 (157)
서버와 통신에 사용되는 FastAPI / RemoteRunnable에 대해 알아보자. 현대의 웹 애플리케이션 개발에서는 백엔드와 프론트엔드의 명확한 역할 분리가 매우 중요합니다. 특히, 복잡한 연산 작업을 효율적으로 처리하고자 할 때 이러한 분리는 필수적입니다. FastAPI와 RemoteRunnable은 이러한 요구를 충족시키는 데 매우 유용한 도구입니다. 특히 LangChain을 활용하여 서버를 만들 때 RemoteRunnable의 중요성은 더욱 높아집니다. FastAPI와 RemoteRunnable을 결합하면, 대규모 데이터 처리와 복잡한 모델 실행 작업을 보다 효율적이고 체계적으로 처리할 수 있습니다. 이 글에서는 FastAPI와 RemoteRunnable을 중심으로, 이들이 어떻게 상호작용하며 고성능의 유연한 웹 애플리케이션을 구축할 수 있는지에 대해 다루겠습니다.   FastA..
AI 학습을 위한 기본 용어에 대해 알아보자 안녕하세요, 인공지능(AI) 기술이 빠르게 발전하면서, 이제는 우리 일상 곳곳에서 AI와 상호작용하는 일이 흔해졌습니다. 하지만 AI가 어떻게 작동하고, 어떤 기술을 기반으로 하는지 궁금하신 적 있으신가요? 오늘은 AI 학습과 관련된 기본 용어들을 간단하게 소개하려 합니다. 그럼 시작해볼까요? 목차1. LLM (Large Language Model)2. SLM (Small Language Model)3. NLP (Natural Language Processing)4. 프롬프트 (Prompt)5. 사전학습 (Pre-training)6. 미세조정 (Fine-tunning)7. 양자화 (Quantization)8. RAG (Retrieval-Augmented Generation)9. 할루시네이션 (Halluc..
5월 셋째주, 주요 AI 소식에 대해 알려드립니다. 안녕하세요. 지난주는 Openai를 비롯하여 구글, 애플 등 세계적인 기업들이 AI와 관련한 발표들이 있었습니다. 어떠한 내용이 있었는지 알려드리겠습니다. 그럼 5월 셋째주 주요 AI 소식에 대해 알려드리겠습니다. 1. OpenAI 관련 기사  - GPT-4o 발표  - 챗GPT, 클라우드 저장소와 연동2. Google 관련 기사  - Google I/O 소식  - 장애인 돕는 AI앱 출시3. 메타, AI 비서 & 이어버드 개발 진행4. 스태빌리티 AI, 매각 논의   1. OpenAI 관련 기사 1-1) GPT-4o 발표   오픈AI의 새로운 인공지능 모델 'GPT-4o'가 출시되었습니다. 이번 출시 행사에서 11만 3000여 명이 스트리밍을 시청하며 폭발적인 인기를 얻었습니다.이 모델은 인간과 구분하..
오픈소스 EEVE 모델 로컬환경에서 실행하기 2탄 (LangChain / LangServe / ngrok) 안녕하세요.지난 포스팅에서는 오픈소스 EEVE 모델을 로컬 환경에 설치하고 실행하는 과정을 다뤘습니다. 이번에는 설치된 EEVE 모델을 LangServe를 이용하여 외부 웹사이트에 배포하는 방법을 소개하고자 합니다. 지난 글을 놓치신 분들은 아래 링크를 통해 확인하실 수 있습니다.[Marcus' Stroy] - 오픈소스 EEVE 모델 로컬환경에서 실행하기 1탄1. LangChain / LangServe LangChain와 LangServe는 대형 언어 모델(LLM)을 활용한 애플리케이션을 개발할 수 있게 도와주는 도구로써, 이번에 이를 활용하여 오픈소스 EEVE 모델을 설정하여 서버를 구동하는 방법을 다루고자 합니다. LangChain은 LLM을 다양한 데이터 소스와 API에 연결할 수 있는 유연한 추상..
Fine-tuning과 RAG에 대해 알아보자. 최근 인공지능(AI) 기술의 발전과 함께 언어 모델의 성능을 극대화하는 방법에 대한 관심이 높아지고 있습니다. 특히, 대형언어모델(LLM)을 특정 작업에 최적화하여 더욱 효과적으로 활용하고자 하는 연구와 개발이 활발히 이루어지고 있습니다. 이 글에서는 두 가지 주요 기법인 'Fine-tuning'과 'Retrieval-Augmented Generation (RAG)'을 소개하며, 이러한 방법들이 어떻게 LLM의 성능을 향상시킬 수 있는지 탐구해 보고자 합니다.  LLM을 더 똑똑하게 만드는 방법, 미세조정 방법 1) Fine-tuning  Fine-tuning은 사전 학습된 기존 언어 모델에 추가로 외부 데이터를 더 학습시키는 방법입니다.  기존 모델의 대부분의 파라미터를 유지하면서 특정 부분의 가중치만..
5월 둘째주, 주요 AI 소식에 대해 알려드립니다. 최근 인공지능(AI) 기술의 발전이 인간의 일상과 업무 방식을 근본적으로 변화시키고 있습니다. 특히, AI가 단순한 도구를 넘어 인간의 파트너로 자리잡으면서, 그 역할과 중요성에 대한 새로운 인식이 필요해졌습니다. AI의 다양한 활용 가능성은 이제 우리 사회와 산업 전반에 걸쳐 깊이 있는 변화를 예고하고 있습니다.  그럼 5월 둘째주 주요 AI 소식에 대해 알려드리겠습니다. 1. OpenAI, 데이터 저작권 안건 발표2. 애플의 'M4 칩', 인텔을 제치고 최고 성능 달성3. 마이크로소프트, 오픈소스 최대규모 LLM 출시 예정4. 구글과 엔비디아, 로봇 AI 기술 공개5. 일레븐랩스, 음악생성 AI 출시 예정6. 뉴튠, AI 음악 플레이어 '믹스오디오' 출시7. 딥브레인AI, 'AI휴먼 안내서비스' 제공..
[오픈 소스 AI] [로컬 환경] 야놀자에서 개발한 AI 모델, EEVE 실행하기 1탄 안녕하세요  최근 많은 기업들이 소형언어모델(SLM)을 개발하여 오픈소스로 공개하고 있습니다. 이 모델들은 접근성이 뛰어나 개인 개발자나 소규모 팀도 쉽게 AI 기반 프로젝트를 시작할 수 있게 해줍니다. 이번 포스팅에서는 이러한 SLM을 로컬 환경에서 구현하는 방법을 단계별로 설명하려고 합니다. 1. EEVE 모델이란 EEVE 모델은 야놀자에서 공개한 오픈소스 AI 모델로, upstage의 LLM Solar 모델을 한국어 어휘로 확장하여 미세 조정한 버전입니다. Solar 모델은 영어와 한국어를 모두 지원하는 경량이면서도 강력한 모델로, 다중 턴 채팅과 같은 복잡한 자연어 처리 작업에서 향상된 성능을 제공합니다. EEVE 모델은 한국어 사용자의 요구에 더욱 잘 부응하도록 조정된 AI 모델입니다.  2. ..
5월 첫째주, AI 소식 전달드립니다. 최근 기술의 급격한 발전과 인공지능(AI)의 적용 범위 확대는 우리의 일상과 산업 전반에 많은 변화를 가져왔습니다. 이러한 변화는 특히 통신, 엔터테인먼트, 국방, 그리고 개인의 사생활 보호 영역에서 두드러지게 나타나고 있습니다. AI 기술의 발전은 많은 편리함을 제공하지만, 동시에 새로운 윤리적, 법적 문제들을 제기하며, 이에 대한 규제와 새로운 접근 방식이 요구되고 있습니다. 이번 본문에서는 최근의 주요 AI 관련 소식들을 통해 이러한 이슈들을 조명하고자 합니다.  1. OpenAI 관련 소식  - 챗GPT '기억 관리 기능' 정식 업데이트  - 챗GPT-4.5 등장?  - 'Sora'의 첫 공식 뮤비 공개2. 애플 관련 소식  - 5월 'AI 아이패드' 출시 준비  - 시리의 AI, '에이젝스(Aj..
728x90
반응형

티스토리툴바