스퀴즈비츠, 초거대AI 경량화 솔루션 개발

“AI모델 크기가 10년 사이에 8400배 정도 커졌습니다. 스마트폰 하드웨어만으로 AI 성능을 제대로 낼 수 없죠. 앞으로 AI 모델 경량화는 필수입니다”

AI 스타트업 스퀴즈비츠의 김형준 대표는 “가입자 16억 명의 챗GPT 하루 클라우드 비용이 9억원 정도"라며 “AI 운영비를 줄이기 위한 핵심 대안 중 하나는 AI 모델 경량화"라며 이같이 설명했다. 스퀴즈비츠도 하이퍼엑셀처럼 AI 비용 절감 등 AI 모델 사용의 효율성을 높이는 기술을 개발하고 있다. 구체적으로 AI 경량화 기술을 바탕으로 다양한 AI 기반 서비스를 더 효율적으로 사용할 수 있도록 돕는 기술을 만들고 있다. 경량화 기술을 적용하면 같은 AI 모델도 더 작고 저렴한 하드웨어에서 더 빠르게 구동할 수 있다고 회사 측은 설명했다.

스퀴즈비츠는 포스텍에서 6년간 관련 기술을 연구한 이들이 모여 지난해 6월에 창업했다. 세계적인 AI 학회인 CVPR, ICLR, NeurlPS 등에서 다수의 논문을 발표했다. 김 대표는 "현재 32비트의 데이터를 8비트 등으로 가볍게 만들어 처리하면서도 성능은 유지하는 기술을 개발했다"고 말했다. 실제 스퀴즈비츠의 솔루션을 사용한 A기업은 AI 모델 사용료를 5억원 정도 줄이기도 했다. 스퀴즈비츠는 최근 정부가 운영하는 ‘딥테크 팁스(TIPS)’ 패스트트랙 프로그램에 선정돼 15억원 상당의 연구개발(R&D) 자금을 확보했다.

※ 본문은 기사 내용의 일부만 발췌한 내용이오니, 전문은 아래 링크에서 보실 수 있습니다.


기사원문:  한국경제