5월 첫째주, AI 소식 전달드립니다.

 최근 기술의 급격한 발전과 인공지능(AI)의 적용 범위 확대는 우리의 일상과 산업 전반에 많은 변화를 가져왔습니다. 이러한 변화는 특히 통신, 엔터테인먼트, 국방, 그리고 개인의 사생활 보호 영역에서 두드러지게 나타나고 있습니다. AI 기술의 발전은 많은 편리함을 제공하지만, 동시에 새로운 윤리적, 법적 문제들을 제기하며, 이에 대한 규제와 새로운 접근 방식이 요구되고 있습니다. 이번 본문에서는 최근의 주요 AI 관련 소식들을 통해 이러한 이슈들을 조명하고자 합니다.

 

 

1. OpenAI 관련 소식

  - 챗GPT '기억 관리 기능' 정식 업데이트

  - 챗GPT-4.5 등장?

  - 'Sora'의 첫 공식 뮤비 공개

2. 애플 관련 소식

  - 5월 'AI 아이패드' 출시 준비

  - 시리의 AI, '에이젝스(Ajax)'

3. 구글 관련 소식

  - 구글 픽셀폰 AI기능 영상 유출

  - AI 위험성 경고, 인간을 설득하는 AI

4. 아마존 기업용 AI 챗봇, '아마존 큐' 출시

5. '킬러 로봇' 규제 필요

6. 딥페이크 탐지하는 '딥브레인 AI' 특허 출원

 

 

---

반응형

 

 

1. OpenAI 관련 소식

1-1) 챗GPT '기억 관리 기능' 정식 업데이트

 오픈AI가 챗GPT의 '메모리 관리' 기능을 출시하여 사용자들이 대화 내용을 기억하게 하여 맞춤형 대응을 가능하게 했습니다. 사용자는 메모리 기능을 통해 대화 내용을 저장하거나 삭제할 수 있으며, 필요하지 않은 경우 메모리 기능을 완전히 끌 수도 있습니다. 이 기능은 특히 기업 사용자에게 유용하며, 문서 작성과 코딩 과정에서 과거의 선호도와 스타일을 반영할 수 있습니다. 또한, 임시 채팅 기능을 통해 메모리 사용 없이 대화를 진행할 수 있으며, 메모리 기능은 특정 기업용 서비스에서도 비활성화할 수 있습니다. GPT에도 독립적인 메모리 기능이 제공되어, 사용자의 선호를 기억하고 필요할 때 적절한 정보를 제공합니다. 이 모든 기능은 사용자가 보다 효과적으로 ChatGPT를 활용할 수 있게 해주며, 개인화된 AI 경험을 제공합니다. 이번 업데이트에서 한국과 EU는 제외되었으며, 이에 대한 구체적인 이유나 활성화 시기는 밝혀지지 않았다고 합니다.

 

Openai blog - https://openai.com/index/memory-and-new-controls-for-chatgpt

관련 기사 - 오픈AI, 챗GPT '기억 관리' 정식 업데이트...한국은 제외

 

1-2) 챗GPT-4.5 등장?

 

 출처를 알 수 없는 AI 챗봇이 'gpt2-chatbot'이라는 이름으로 챗봇 아레나에서 등장하여 뛰어난 성능을 발휘하고, 'GPT-4.5'라는 별명을 얻으며 많은 이목을 끌었습니다. 일부 전문가들은 이 모델이 오픈AI에서 차세대 챗GPT-5를 위해 비밀리에 개발된 것일 수 있다고 추측했으나, 정확한 출처는 아직 불확실합니다. 이 챗봇은 GPT-4와 비슷하거나 그를 뛰어넘는 성능을 보이며, 복잡한 추론과 코딩 문제 해결 능력이 탁월합니다. 또한 사용자들은 이 모델이 규칙을 무시하는 경향이 강하다고 평가합니다. 'gpt2-chatbot'은 그 우수한 문제 해결 능력으로 많은 전문가와 개발자를 챗봇 아레나로 끌어들였습니다. 현재 이 모델은 과도한 트래픽으로 인해 일시적으로 사용 중단된 상태입니다. 'gpt2-chatbot' 모델 뿐만 아니라 다른 언어모델에도 관심 있는 분들은 아래 주소를 통해 다양한 AI모델들을 사용 및 비교해보실 수 있습니다.

챗봇 아레나 사이트

 

챗봇 아레나 사이트 - https://chat.lmsys.org/

관련 기사 - "GPT-4.5의 깜짝 등장인가"...'GPT-4' 능가한다는 정체불명 챗봇 화제

 

1-3) 'Sora'의 첫 공식 뮤비 공개

 오픈AI의 비디오 생성 AI  도구 'Sora'로 제작된 첫 공식 뮤직 비디오가 공개되었습니다. 이 프로젝트는 폴 트릴로 감독과 인디 뮤지션 워시드 아웃이 협력하여, '더 하디스트 파트'라는 곡의 뮤직 비디오를 만들었는데, Sora가 생성한 700개의 클립 중 55개를 선별하여 4분 길이의 비디오를 완성했습니다. 트릴로 감독은 이번 프로젝트에서 Sora의 비디오 생성 기능만을 사용하여 시각효과 작업을 포함한 모든 후처리를 'Sora'에서 처리하였다고 밝혔습니다, 이로써 비용과 시간을 크게 절감했다고 합니다. 그는 이 기술이 뮤직 비디오 제작에 혁신적인 변화를 가져올 것으로 기대했습니다. 그러나 트릴로 감독은 이전에 Sora를 사용해 단편 영화를 제작한 경험에서 기술적 한계를 지적한 바 있습니다. 그는 프롬프트 입력의 일관성 부족과 같은 문제를 들어, Sora가 현재로서는 모든 영화 제작 분야를 대체할 수 없다고 평가했습니다. 하지만, 그는 뮤직 비디오 제작에서는 Sora가 큰 잠재력을 보이고 있으며, 이 분야에서 혁신적인 도구로 자리 잡을 수 있다고 강조했습니다.

 

공식 뮤비 유튜브 - Washed Out - The Hardest Part (Official Video)

관련 기사 - '소라'로 제작한 첫 공식 뮤비 공개..."뮤비는 만족할 수준"

 

 

2. 애플 관련 소식

2-1) 5월 'AI 아이패드' 출시 준비

 애플이 5월 7일 'Let Loose' 이벤트에서 새로운 '아이패드 프로'와 '아이패드 에어', 애플 펜슬 및 매직 키보드를 발표할 예정입니다. 이번 제품군에는 현재 개발 중인 최신 AI 칩인 'M4'가 탑재될 것으로 보도되었습니다. M4는 'M3' 칩의 후속 모델로, AI 기능에 초점을 맞춘 Donan, Brava, Hidra 세 가지 버전이 출시될 예정입니다. 이 칩은 당초 연말에 맥북과 아이맥에 사용될 것으로 예상되었으나, 아이패드에 먼저 사용하기로 결정되었습니다. 애플은 이 칩을 사용하여 아이패드를 '최초의 AI 태블릿'으로 브랜딩할 계획이라고 합니다. 신형 아이패드는 이미 양산이 시작되어 5월 초 출시될 예정이며, 이번 행사는 WWDC에 앞서 진행되는 소규모 온라인 제품 이벤트입니다.

 

관련 기사 - 애플, 5월 출시 아이패드에 최신 AI 칩 탑재...최초의 'AI 태블릿' 시대 연다

 

2-2) 시리의 AI, '에이젝스(Ajax)'

 애플은 오는 5월 10일 세계 개발자 회의(WWDC)에서 iOS 18을 업데이트하며, '에이젝스(Ajax)'라고 알려진 자체 개발 대형언어모델(LLM), '애플GPT'를 활용한 다양한 AI 기능을 소개할 예정입니다. 이 모델은 기본 AI 작업을 온디바이스에서 처리하고, 복잡한 작업은 타사 모델과 협력하는 하이브리드 AI 접근 방식을 채택하고 있습니다. 애플은 이 기술을 통해 아이폰을 포함한 자사 제품군에 온디바이스 AI 기능을 강화하고, 온라인 데이터 처리는 파트너 회사의 인프라를 활용할 계획입니다. 또한, 애플은 대규모 데이터 센터에 추가적인 투자 없이 기존 자원을 효율적으로 사용하겠다는 전략을 밝혔습니다. 이러한 전략은 비용 절감과 개인 정보 보호를 강화하며, 신중한 AI 기술 투자 접근을 유지할 것입니다. 전문가들은 이 방식이 애플에게 유리하며, AI가 큰 판매 증가를 가져올 '슈퍼 사이클'을 기대하지 않는다고 평가하고 있습니다.

 

관련 기사 - 애플, '시리' 로컬 AI는 '에이잭스'가 담당...하이브리드 적용할 듯

 

 

3. 구글 관련 소식

3-1) 구글 픽셀폰 AI기능 영상 유출

 구글의 최신 '픽셀 8a'에 탑재될 AI 기능이 포함된 프로모션 영상이 유출되었습니다. 이 영상에는 '베스트 테이크', '서클 투 서치', '라이브 번역', '오디오 매직 이레이저' 등 네 가지 주요 AI 기능이 소개되었습니다. '베스트 테이크'는 여러 장의 사진 중 최적의 하나를 선택하는 기능이며, '서클 투 서치'는 이미지 내 특정 부분을 원으로 그려 쉽게 검색할 수 있는 기능입니다. '라이브 번역'은 음성 통화를 실시간으로 번역하며, '오디오 매직 이레이저'는 배경 소음을 제거합니다. 이 기능들은 이미 일부 갤럭시 모델에서 선보였거나 새롭게 추가된 것들입니다. 구글은 이 AI 기능들을 5월 14일에 열릴 연례 개발자 회의에서 공식적으로 공개할 계획입니다. 또한, 구글과 삼성은 이 기술을 갤럭시 S24에 적용할 수도 있다는 논의를 지속하고 있습니다.

 

관련 기사 - 구글, 최신 픽셀폰 AI 기능 영상 유출...갤럭시 S24에도 적용하나

 

3-2) AI 위험성 경고, 인간을 설득하는 AI

 구글 딥마인드의 연구진이 '인간을 설득하는 생성 AI'에 대해 경고하며 사용과 개발에 주의를 촉구하는 논문을 발표했습니다. 이 논문은 인간처럼 대화를 이어가며 설득하는 AI의 특성을 조명하고, 이로 인한 잠재적 피해를 예방하기 위한 방법을 탐구했습니다. 연구진은 AI가 잘못된 정보를 제공하거나, 조작적인 방법으로 인간의 결정에 영향을 미칠 수 있음을 지적했습니다. 특히 AI가 인간의 정신적, 법적, 정치적 상황을 이용해 부적절하게 영향을 줄 수 있는 여러 시나리오를 제시했습니다. 이에 따라, AI 설득력을 관리할 수 있는 메커니즘과 보호책의 필요성이 강조되었습니다. 연구진은 AI 설득의 해로운 영향을 완화하기 위해 지속적인 모니터링과 평가, 적대적 테스트를 포함한 여러 대응 방안을 제안했습니다. 사용자가 AI의 조작 가능성을 인지하고 이를 통제할 수 있는 방법도 모색해야 한다고 강조했습니다. 이 연구는 AI의 발전이 인간에게 미치는 영향을 심도있게 이해하고 책임 있는 사용을 위한 기반을 마련하려는 시도 중 하나입니다.

 

관련 논문 -  A Mechanism-Based Approach to Mitigating Harms from Persuasive Generative AI

관련 기사 - '인간을 설득하는 AI' 경고..."챗봇과 상호작용에 주의 필요"

 

 

4. 아마존 기업용 AI 챗봇, '아마존 큐' 출시

 아마존웹서비스(AWS)가 기업용 인공지능(AI) 챗봇 '아마존 큐(Amazon Q)'를 정식 출시했습니다. 이 챗봇은 기업 데이터를 검색하고 문서 작성을 지원하며, 코딩을 몰라도 자연어로 애플리케이션을 생성할 수 있게 돕습니다. '아마존 큐'는 개발자, 비즈니스 사용자, 앱 개발 버전 등 세 가지로 제공되며, 개발자 버전은 기존 '코드위스퍼(CodeWhisper)'와 통합되어 코드 생성을 돕습니다. 비즈니스 버전은 기업 내 데이터를 분석해 답변을 제공하고, 사용자가 필요로 하는 문서 작업을 수행합니다. 아마존 큐 앱은 사용자가 자연어로 애플리케이션을 설명하면 실제 동작하는 앱으로 변환하는 기능을 제공합니다. 이 서비스는 SaaS 구독 모델을 통해 월 50회 무료 상호작용을 제공하며, 추가 기능이 포함된 프로 서비스는 월 19달러에 제공됩니다. 이 챗봇은 AWS 리소스 최적화, 보안 스캔, 문제 해결 등 복잡한 코딩 작업을 자동화하는 데 도움을 줍니다. 아마존 큐의 출시는 마이크로소프트의 '코파일럿'과 구글의 '제미나이'와 같은 기업용 생산성 앱과의 경쟁을 예고하고 있습니다.

 

관련 기사 - 아마존, 기업용 AI 챗봇 ‘아마존 큐’ 정식 출시...MS '코파일럿'과 경쟁 체제

 

 

5. '킬러 로봇' 규제 필요

 143개국 관계자들이 오스트리아 비엔나에서 AI의 군사적 사용을 통제하기 위한 회의를 열었습니다. 이 회의에서는 킬러 드론과 같은 군사 기술의 AI 통합을 논의했으며, 알렉산더 샬렌버그 외무장관은 이를 '오펜하이어 순간'으로 지칭했습니다. 그는 인간이 살고 죽는 결정은 기계가 아니라 인간의 손에 달려 있어야 한다고 강조했습니다. 하지만 AI 기술의 빠른 발전으로 규제 기관은 전장의 AI 기술을 제대로 파악하지 못하고 있으며, 국방에 AI를 통합하는 국제적 노력의 효과에 대해 회의적인 시각이 많습니다. 알렉산더 크멘트는 AI의 군비 통제에 대한 전통적 접근이 효과가 없다며, AI 금지에 대한 국제적 합의가 사실상 불가능하다고 말했습니다. 코스타리카의 아놀드 안드레 티노코 외무장관은 군사용 AI 기술이 테러리스트의 손에 넘어갈 경우 각국이 새로운 법률을 제정해야 할 것이라고 경고했습니다.

 

관련 기사 - '킬러 로봇' 규제 위해 143개국 모였다..."지금은 AI '오펜하이머' 순간"

 

 

6. 딥페이크 탐지하는 '딥브레인 AI' 특허 출원

 생성 AI 전문 딥브레인AI는 '행동 패턴 분석 기반 딥페이크 탐지 기술' 특허를 출원했습니다. 이 기술은 특정 인물의 얼굴과 행동 패턴을 분석하여 영상의 진위를 판단합니다. 이를 통해 테일러 스위프트, 셀레나 고메즈, 조 바이든 등 유명 인사의 딥페이크 영상 판별에 활용될 예정입니다. 다양한 영상 데이터를 기반으로 개발된 이 솔루션은, 행동 패턴 분석을 통해 실제 인물과의 유사도를 측정하고, 이를 바탕으로 최종 판별 결과를 제공합니다. 회사는 향후 엔터테인먼트, 금융업계, 공공 부문으로 사업 영역을 확장할 계획이며, 이 기술을 이용해 고도화된 AI 범죄에 효과적으로 대응할 것이라고 밝혔습니다.

 

관련 기사 - 딥브레인AI, 얼굴·행동 패턴 분석 '딥페이크 탐지' 특허 출원

 

---

728x90

 

 

 이번 포스팅에서는 AI의 급속한 발전이 가져올 수 있는 문제점들과 그 대응 방안에 대해 다루었습니다. AI 기술은 다양한 산업에서 혁신을 촉진하고 있지만, 동시에 새로운 윤리적 및 법적 문제들을 야기하고 있습니다. 편의성과 효율성이 향상되는 것은 분명하지만, 딥페이크 같은 기술의 부작용으로 인해 사회적 혼란이 증가하는 것도 사실입니다. 이에 따라 국제적 협력을 통해 군사적 AI 사용을 통제하고 AI 범죄에 대응할 수 있는 고도의 탐지 기술 개발이 필요하다는 목소리가 높아지고 있습니다. AI 기술의 균형 잡힌 발전을 위해서는 기술의 진보와 동등하게 규제와 윤리적 기준에 대한 국제적 공감대가 형성되어야 합니다. 이는 전 세계적인 노력과 협력을 통해 AI의 긍정적 잠재력을 최대화하고, 발생할 수 있는 부정적인 문제점들을 최소화하는 방향으로 진행되어야 합니다.

 

 

긴 글 읽어주셔서 감사합니다 :)