모바일에서 직접 실행하는 생성형 AI, Google AI Edge Gallery를 소개합니다.

안녕하세요,

최근 몇 년 사이 생성형 AI 기술은 눈부신 발전을 이루며, 다양한 분야에 빠르게 확산되고 있습니다. 그동안 이러한 AI 기술은 대부분 고성능 서버나 클라우드 환경에 의존해 왔지만, 이제는 점차 사용자 개인 기기에서 직접 실행할 수 있는 ‘로컬 AI’ 시대로 전환되고 있습니다.

이러한 변화는 단순한 기술적 진보를 넘어, 데이터 프라이버시 강화, 인터넷 없이도 활용 가능한 유연성, 개인 맞춤형 AI 경험 제공이라는 측면에서 큰 의미를 가집니다.

이러한 흐름에 발맞춰, 최근 구글에서는 실험적인 모바일 앱인 Google AI Edge Gallery를 공개했습니다. 이번 글에서는 이 앱을 통해 소형 AI 모델을 실제 휴대폰에서 직접 실행해본 테스트 경험을 소개드리고자 합니다.

---

반응형

구글 AI 엣지 갤러리(Google AI Edge Gallery)란?

Google AI Edge Gallery는 구글이 공개한 실험용 모바일 앱으로, 최신 생성형 AI 모델을 스마트폰에서 직접 실행할 수 있도록 만들어졌습니다. 특히 모델을 한 번 다운로드하면 인터넷 연결 없이도 완전히 오프라인 상태에서 AI 기능을 사용할 수 있다는 점이 가장 큰 특징입니다.

 

 

주요 특징

1. 완전한 오프라인 실행 (로컬 환경 실행)

• 모델을 스마트폰에 다운로드한 뒤에는 인터넷 없이도 작동
• 모든 추론이 로컬에서 이루어져 데이터 프라이버시 보장

2. 다양한 AI 기능 내장

• AI Chat: GPT와 유사한 다중 턴 대화형 챗봇
• Prompt Lab: 요약, 문체 변환, 코드 생성 등 단일 요청 실행
• Ask Image: 이미지를 업로드해 질문하거나 사물 인식 가능

3. 모델 선택 및 비교 가능

• 다양한 로컬 AI 모델을 Hugging Face와 연동하여 쉽게 선택하고 다운로드 가능
• 구글 자체 모델(Gemma 등) 및 경량 모델(TinyLlama 등) 지원

4. 성능 인사이트 제공

• 모델 응답 시간, 디코딩 속도 등 실시간 벤치마크 정보 표시

 

 

라이선스

구글 AI 엣지 갤럭시는 Apache 2.0 라이선스 하에 공개된 오픈소스 프로젝트입니다. 이 라이선스는 매우 자유도가 높은 오픈소스 라이선스로, 다음과 같은 특징을 가지고 있습니다:

• 개인 및 기업 사용자 모두 무료로 사용 가능
• 상업적 이용 및 제품 통합 허용
• 소스 코드 수정 및 재배포 가능
• 라이선스 고지와 저작권 표기 유지

즉, 개발자와 기업 모두가 커스터마이징하거나 자체 앱에 통합하여 상업적으로 활용할 수 있는 자유로운 조건을 갖추고 있어, 연구와 프로덕션 환경 모두에 적합합니다.

 

 

설치 방법

구글 AI 엣지 갤럭시는 깃허브에서 제공되는 제공되는 APK 파일을 직접 다운로드해 설치할 수 있습니다. 현재는 Play 스토어에 등록되어 있지 않기 때문에, 사용자가 "APK 파일"을 수동으로 설치해야 하며, 안드로이드 운영체제(예: 갤럭시 기기)에서만 사용이 가능합니다.

• 구글 AI 엣지 갤러리 깃허브 : https://github.com/google-ai-edge/gallery

출처: 구글 AI 엣지 갤러리 깃허브 (클릭시 이미지 확대)

 

 

홈 화면에서 ‘내 파일’ 앱을 실행한 뒤, APK 또는 설치 파일 항목을 선택합니다. 목록에서 다운로드된 ai-edge-gallery.apk 파일을 찾아 탭합니다. 설치가 완료되면 앱 목록에 ‘Edge Gallery’ 아이콘이 생성되며, 해당 아이콘을 눌러 앱을 실행할 수 있습니다.

처음 설치하는 경우에는 ‘알 수 없는 출처의 앱 설치 허용’ 안내가 표시될 수 있습니다. 이 경우, 설정 → 보안 또는 앱 설정 → 알 수 없는 앱 설치 허용 메뉴에서 권한을 허용해 주시면 됩니다.

 

예시 이미지

 

 

 

사용 방법

아래 이미지는 구글 AI 엣지 갤럭시 앱의 실제 메인 화면입니다. 현재 제공되는 주요 기능은 Ask Image, Prompt Lab, AI Chat이며, 각 기능을 선택하면 해당 작업을 수행할 수 있는 AI 모델을 로컬 환경에 직접 다운로드하여 사용할 수 있습니다. 이 AI 모델들은 기기에 직접 설치되며, 인터넷 없이 오프라인 상태에서도 작동합니다. 따라서 일정 수준의 저장 공간과 기기 성능이 요구됩니다.

• Ask Image : 이미지를 업로드하면, 해당 이미지에 대해 설명하거나 질문에 대한 답변을 제공합니다.
• Prompt Lab : 요약, 문체 변환, 코드 생성 등 다양한 프롬프트를 활용해 단일 작업을 수행할 수 있습니다.
• AI Chat : AI 모델과 자유롭게 대화를 주고받을 수 있는 기능으로, 질문에 대한 자연스러운 응답을 제공합니다.

출처: 구글 AI 엣지 갤럭시 앱

 

 

사용 테스트

실제로 앱을 설치해 AI Chat 기능을 테스트해보았습니다. 아래는 테스트에 사용한 기기 사양입니다.

• 기기 : 갤럭시 S8
• 모델번호 : SM-G950N

현재 AI Chat 기능에서는 4가지 모델을 선택할 수 있으며, 이 중 가장 용량이 작은 Gemma3-1B-IT-q4 모델을 다운로드해 사용해보았습니다. 모델 다운로드를 위해서는 Hugging Face 계정이 필요하며, 로그인 후 모델을 선택하면 자동으로 다운로드가 진행됩니다.

출처: 구글 AI 엣지 갤럭시 앱

 

결과

모델 다운로드가 완료되면 채팅 기능이 활성화되며, 간단한 질문에 대한 응답이 평균 약 6초 이내에 생성되었습니다. 비교적 오래된 기기인 갤럭시 S8에서도 크게 무리 없이 동작하는 모습을 확인할 수 있었습니다.

출처: 구글 AI 엣지 갤럭시 앱

 

---

 

현재 제공되는 SLM(저용량 AI 모델)들은 갤럭시 S8과 같은 구형 기기에서도 충분히 무리 없이 작동하는 모습을 보여주고 있습니다. 이는 생성형 AI 기술이 점점 고성능 서버 환경에서 벗어나, 사용자 개인 기기에서 직접 실행될 수 있는 단계로 진화하고 있음을 보여줍니다.

 

앞으로는 더 많은 앱들이 로컬 AI 기반으로 개발되어, 오프라인 환경에서도 개인정보 보호를 유지하면서 빠르고 유연한 AI 기능을 제공하는 시대가 올 것으로 기대됩니다.

 

감사합니다. 😊