GPU나 인터넷 없이 동작하는 온디바이스 AI
최근 컨설팅이하면서 많은 AI 업체를 만나게 됩니다. 돈이 많이 드는 AI 산업의 특성상 스타트업이 수익성있는 AI 사업모델을 만들수 있을까 고민을 하고 있는 도중 우연히 페르소나AI 유승재대표의 인터뷰를 듣게 되었습니다. 고민하고 있던 많은 문제가 안개가 걷히는 느낌이어서 이렇게 공유합니다. 물론 다양한 발전이 필요하고 제가 모르는 부분도 있겠습니다만 이미 산업계에 이 BM으로 적용이 되고 협업되고 있다는 부분에서 많은 희망을 봅니다.
내용 요약
페르소나 AI가 개발한 'GPU 없는 AI'는 무엇인가?
GPU나 인터넷 연결 없이도 스마트폰과 같은 디바이스에서 자체적으로 구동되며, 자연어 이해, 이미지 생성 등 다양한 AI 기능을 수행하는 경량화된 AI 엔진입니다.
페르소나 AI의 'GPU 없는 AI'가 가능한 이유는?
•
초거대 언어 모델(LLM)이 아닌 기업 특화 소형 언어 모델(SLM)을 사용
•
7년간의 연구 개발을 통해 엔진 성능을 극대화하고 경량화 기술(양자화)을 적용
•
여러 개의 작은 모델들이 협업하여 답변을 생성하는 MOE(Mixture of Experts) 방식을 도입
목차
이 컨텐츠는 페르소나ai 유승재 대표와의 인터뷰를 통해 국산 온디바이스 ai 기술의 현재 수준과 미래 가능성을 보여줍니다. 특히 gpu 없이 핸드폰에서 작동하는 AI 엔진을 시연하며, 보안과 비용 효율성 측면에서 기업 및 개인 사용자에게 유용함을 강조합니다. 또한, ar 글래스 및 로봇과 같은 미래 디바이스에 탑재될 엣지 AI의 중요성을 역설하며 한국 AI 산업의 나아갈 방향을 제시합니다.
1. 온디바이스 AI 소개
•
유승재대표는 온디바이스 AI에 대해 의심을 가지고 있는 진행자에게 오늘 핸드폰에서 직접 시연할 것이라고 말함.
2. 기술적 배경
•
핸드폰에는 GPU가 없고 비행기 모드로 인터넷이 차단된 상태에서 AI를 시연함.
•
AI에게 "어떻게 살아야 할까?"라는 질문을 던지며, AI가 그림도 그려줄 수 있다고 설명함.
•
일본의 AI 기술은 한국보다 뛰어나며, 특히 촉각 AI 분야에서 강점을 보이고 있다고 언급함.
3. 페르소나 AI의 비즈니스 모델
•
페르소나 AI는 AI 컨택 센터비즈니스( AICC)와 생성형 AI를 주로 다룸.
•
음성 엔진, 자연어 엔진, 대화 엔진 등을 개발하여 금융권과 대기업에 공급함.
4. AI 엔진의 기능
•
AI 엔진은 여러 모델들이 결합되어 사람의 말을 이해하고 판단할 수 있도록 설계됨.
•
이 엔진은 소프트웨어로, 하드웨어가 필요하지 않음.
5. AI의 보안과 비용 문제
•
오픈 AI와 같은 대기업의 AI를 사용하면 데이터 유출과 높은 비용 문제가 발생함.
•
페르소나 AI는 한국어를 학습한 엔진을 사용하여 보안과 비용 문제를 해결함.
6. AI의 성능과 발전
•
페르소나 AI는 7년 동안 100억 원 이상의 투자를 하여 AI 엔진을 개발함.
•
AI의 중심은 언어 모델이며, 언어를 통해 다양한 작업을 수행할 수 있다고 강조함.
7. 금융 분야에서의 AI 활용
•
금융 분야에서 AI를 도입하는 것은 매우 어렵고, 성능과 보안 기준을 통과해야 함.
8. 일본과 한국의 AI 기술 비교
•
유 대표는 한국이 일본보다 AI 기술에서 뒤쳐져 있다고 평가함.
•
일본은 실제 사용할 수 있는 AI 기술을 많이 보유하고 있으며, 다양한 분야에서 상용화되고 있다고 설명함.
9. AI의 미래와 방향성
•
디바이스 혁명이 일어날 것이며, AR 글래스와 로봇이 중요한 역할을 할 것이라고 예측함.
•
AI 기술이 발전하면서 다양한 분야에서 활용될 것이며, 특히 음성 인식 기술이 중요하다고 강조함.
10. 페르소나 AI의 비전
•
페르소나 AI는 일상 생활에서 유용한 AI를 만들기 위해 노력하고 있으며, 한국 AI 기술의 발전에 기여하고자 함.
