노타, 문샷AI '키미 K3' 경량화…구동 GPU 8장에서 4장으로 줄였다
AI 모델 경량화·최적화 기업 노타가 문샷AI의 초거대 AI 모델 '키미 K3(Kimi K3)'를 경량화해 구동에 필요한 그래픽처리장치(GPU) 수를 최대 절반으로 줄였다고 5일 밝혔다.
AI 모델 경량화·최적화 기업 노타가 문샷AI의 초거대 AI 모델 '키미 K3(Kimi K3)'를 경량화해 구동에 필요한 그래픽처리장치(GPU) 수를 최대 절반으로 줄였다고 5일 밝혔다.
AI 경량화·최적화 전문기업 노타가 퓨리오사AI(FuriosaAI)의 데이터센터용 NPU(신경망처리장치)에서 LG AI연구원의 대형 AI 모델 'K-엑사원(EXAONE) 236B' 최적화에 성공했다. 노타는 약 2,360억 개 파라미터 규모인 이 모델의 크기를 약 71% 줄이면서도 주요 벤치마크 3종 단순 평균 기준 원본 대비 약 99.2%의 정확도를 유지했다고 밝혔다.
AI 경량화·최적화 기술 기업 노타(대표 채명수 Nota AI)는 글로벌 임베디드 OS 선도기업 윈드리버(Wind River)의 연례 세일즈 킥오프 행사 '윈드리버 앰플리파이 2026'에 참가해 자사 AI 최적화 기술을 성공적으로 선보였다고 밝혔다.