본문 바로가기

반응형

전체 글

(42)
오픈소스 EEVE 모델 로컬환경에서 실행하기 2탄 (LangChain / LangServe / ngrok) 안녕하세요.지난 포스팅에서는 오픈소스 EEVE 모델을 로컬 환경에 설치하고 실행하는 과정을 다뤘습니다. 이번에는 설치된 EEVE 모델을 LangServe를 이용하여 외부 웹사이트에 배포하는 방법을 소개하고자 합니다. 지난 글을 놓치신 분들은 아래 링크를 통해 확인하실 수 있습니다.[Marcus' Stroy] - 오픈소스 EEVE 모델 로컬환경에서 실행하기 1탄1. LangChain / LangServe LangChain와 LangServe는 대형 언어 모델(LLM)을 활용한 애플리케이션을 개발할 수 있게 도와주는 도구로써, 이번에 이를 활용하여 오픈소스 EEVE 모델을 설정하여 서버를 구동하는 방법을 다루고자 합니다. LangChain은 LLM을 다양한 데이터 소스와 API에 연결할 수 있는 유연한 추상..
Fine-tuning과 RAG에 대해 알아보자. 최근 인공지능(AI) 기술의 발전과 함께 언어 모델의 성능을 극대화하는 방법에 대한 관심이 높아지고 있습니다. 특히, 대형언어모델(LLM)을 특정 작업에 최적화하여 더욱 효과적으로 활용하고자 하는 연구와 개발이 활발히 이루어지고 있습니다. 이 글에서는 두 가지 주요 기법인 'Fine-tuning'과 'Retrieval-Augmented Generation (RAG)'을 소개하며, 이러한 방법들이 어떻게 LLM의 성능을 향상시킬 수 있는지 탐구해 보고자 합니다.  LLM을 더 똑똑하게 만드는 방법, 미세조정 방법 1) Fine-tuning  Fine-tuning은 사전 학습된 기존 언어 모델에 추가로 외부 데이터를 더 학습시키는 방법입니다.  기존 모델의 대부분의 파라미터를 유지하면서 특정 부분의 가중치만..
5월 둘째주, 주요 AI 소식에 대해 알려드립니다. 최근 인공지능(AI) 기술의 발전이 인간의 일상과 업무 방식을 근본적으로 변화시키고 있습니다. 특히, AI가 단순한 도구를 넘어 인간의 파트너로 자리잡으면서, 그 역할과 중요성에 대한 새로운 인식이 필요해졌습니다. AI의 다양한 활용 가능성은 이제 우리 사회와 산업 전반에 걸쳐 깊이 있는 변화를 예고하고 있습니다.  그럼 5월 둘째주 주요 AI 소식에 대해 알려드리겠습니다. 1. OpenAI, 데이터 저작권 안건 발표2. 애플의 'M4 칩', 인텔을 제치고 최고 성능 달성3. 마이크로소프트, 오픈소스 최대규모 LLM 출시 예정4. 구글과 엔비디아, 로봇 AI 기술 공개5. 일레븐랩스, 음악생성 AI 출시 예정6. 뉴튠, AI 음악 플레이어 '믹스오디오' 출시7. 딥브레인AI, 'AI휴먼 안내서비스' 제공..
오픈소스 EEVE 모델 로컬환경에서 실행하기 1탄 안녕하세요  최근 많은 기업들이 소형언어모델(SLM)을 개발하여 오픈소스로 공개하고 있습니다. 이 모델들은 접근성이 뛰어나 개인 개발자나 소규모 팀도 쉽게 AI 기반 프로젝트를 시작할 수 있게 해줍니다. 이번 포스팅에서는 이러한 SLM을 로컬 환경에서 구현하는 방법을 단계별로 설명하려고 합니다. 1. EEVE 모델이란 EEVE 모델은 야놀자에서 공개한 오픈소스 AI 모델로, upstage의 LLM Solar 모델을 한국어 어휘로 확장하여 미세 조정한 버전입니다. Solar 모델은 영어와 한국어를 모두 지원하는 경량이면서도 강력한 모델로, 다중 턴 채팅과 같은 복잡한 자연어 처리 작업에서 향상된 성능을 제공합니다. EEVE 모델은 한국어 사용자의 요구에 더욱 잘 부응하도록 조정된 AI 모델입니다.  2. ..
5월 첫째주, AI 소식 전달드립니다. 최근 기술의 급격한 발전과 인공지능(AI)의 적용 범위 확대는 우리의 일상과 산업 전반에 많은 변화를 가져왔습니다. 이러한 변화는 특히 통신, 엔터테인먼트, 국방, 그리고 개인의 사생활 보호 영역에서 두드러지게 나타나고 있습니다. AI 기술의 발전은 많은 편리함을 제공하지만, 동시에 새로운 윤리적, 법적 문제들을 제기하며, 이에 대한 규제와 새로운 접근 방식이 요구되고 있습니다. 이번 본문에서는 최근의 주요 AI 관련 소식들을 통해 이러한 이슈들을 조명하고자 합니다.  1. OpenAI 관련 소식  - 챗GPT '기억 관리 기능' 정식 업데이트  - 챗GPT-4.5 등장?  - 'Sora'의 첫 공식 뮤비 공개2. 애플 관련 소식  - 5월 'AI 아이패드' 출시 준비  - 시리의 AI, '에이젝스(Aj..
2024년 2월 생활화학제품 중 위반제품 정보 2024년 생활화학제품(방향제, 탈취제, 살균제 등) 중 생활화학제품 및 살생물제의 안전관리에 관한 법률 위반으로 제재받은 제품 목록입니다. 제품분류업체명제품명조치일결함(위반)내용조치내용문신용 염료제이엘메디코스칼라리카(COLORICA)LP12024-02-14안전기준 위반[확인을 받은 내용과 다르게 수입 *함유금지물질(o-아니시딘, 니켈) 검출 및 함량제한물질(구리) 기준 초과]수입금지, 판매금지, 회수명령칼라리카(COLORICA)2024-02-14안전기준 위반[확인을 받은 내용과 다르게 수입 *함유금지물질(o-아니시딘, 니켈) 검출]수입금지, 판매금지, 회수명령칼라리카(COLORICA)LP42024-02-14안전기준 위반[확인을 받은 내용과 다르게 수입 *함유금지물질(니켈) 검출]수입금지, 판매금지, 회..
2024년 AI 트렌드 변화 : 거대언어모델에서 소형언어모델로 안녕하세요. 챗GPT의 등장으로 시작된 인공지능의 발전은 2024년 현재까지도 멈추지 않고 있습니다. 초기의 거대언어모델(LLM)이 제공한 획기적인 기능들은 이제 소형언어모델(SLM)이라는 더욱 접근하기 쉽고 효율적인 형태로 변모하고 있습니다. 이러한 변화는 AI가 단순히 기업 업무의 효율성을 높이는 것을 넘어, 일상의 모든 영역으로 확장되고 있다는 것을 의미합니다.     소형언어모델(SLM)의 등장은 거대언어모델(LLM)이 안고 있는 여러 도전과제들에 대한 해답을 제시하는 중요한 기술적 발전입니다. 소형언어모델(SLM)은 거대언어모델(LLM)이 요구하는 대규모 데이터 세트와 복잡한 계산 과정 없이도 효과적인 언어 처리 능력을 갖추고 있어, 인공지능 기술을 보다 광범위한 환경으로 확산시키는 데 기여하고..
4월 마지막주, 주요 AI 소식에 대해 알려드립니다. 최근 인공지능(AI) 기술의 발전은 다양한 산업 분야에 혁신적인 변화를 가져오고 있습니다. 특히 언어 모델의 진화, 의료 분야에서의 활용, 비즈니스 솔루션 제공, 엔터테인먼트의 새로운 형태 등 AI가 우리 일상과 밀접하게 연결되고 있습니다. 이번 포스팅에서는 OpenAI의 GPT-4, 애플의 온디바이스 AI, 메타의 스마트 안경 업그레이드, 마이크로소프트의 새로운 시각 AI 시스템 등 최근 주목받는 AI 관련 소식들을 알려드리고자 합니다.  1. OpenAI, GPT-4 안과 의사 수준의 진료 성능 입증2. 애플 관련 소식  - 온디바이스 AI 모델, '오픈ELM' 공개  - 시리 + 챗GPT, 통합 협상 재개? 3. 메타, AI 스마트 안경 업그레이드4. 마이크로소프트 관련 소식  - 사진 한장으로 영..

728x90
반응형