SKT, 슈퍼컴퓨터 2배로 확대 구축···AI 언어 모델 ‘에이닷’ 진화 뒷받침

[테크수다 기자 도안구 eyeball@techsuda.com] SK텔레콤(대표이사 사장 유영상, www.sktelecom.com)이 거대 AI 언어 모델인 ‘에이닷’의 브레인 역할을 하고 있는 슈퍼컴퓨터 ‘타이탄’을 기존 대비 2배로 확대 구축했다고 12일 밝혔다.

김영준 SKT A.추진단 담당은 “이번 슈퍼컴퓨터 확대 구축을 통해 에이닷이 기존보다 더 정교한 학습이 가능해져 사람과의 대화 흐름과 답변 완성도가 사람 수준에 가깝도록 개선하는데 큰 역할을 할 것으로 기대된다”며 “앞으로도 공격적인 R&D 투자, 인프라 확대, 인재영입 등 통해 AI 기술 리더십을 선도하기 위해 지속 노력할 것 “라고 밝혔다.

수십억 개 이상의 매개변수를 다루는 거대 AI를 구동하기 위해서는 방대한 양의 데이터를 빠르고 정확하게 처리할 수 있는 슈퍼컴퓨터 인프라가 필수적이다.

SKT는 2021년부터 슈퍼컴퓨터를 구축해 자체 운영하고 있으며 이번에 NVIDIA A100 GPU 1040개로 증설했다. 기존 대비 약 2배 이상 규모다.

SKT의 슈퍼컴퓨터는 17.1 페타플롭(Petaflop; 1초당 1천조번의 수학 연산 처리를 뜻함) 이상의 성능을 지원해 글로벌에서 손꼽힐 수준의 성능을 갖추게 됐다고 SKT는 설명했다.

1페타플롭은 1초에 1000조 번 부동소수점(컴퓨터의 실수인식법) 연산이 가능한 속도인데 17.1페타플롭은 초당 1경 7100조 번의 연산처리가 가능한 수치다.

SKT의 슈퍼컴퓨터는 지난 해 전세계 슈퍼컴퓨터 랭킹 ‘Top 500 (top500.org)’에서 국내 통신사 최초로 85위에 오른 바 있다.  Top 500 재단은 매년 2번 성능 집계를 실시하고 이를 토대로 전 세계 슈퍼컴퓨터 성능 순위를 발표하고 있다.

SKT는 이번 슈퍼컴퓨터 확대 구축을 통해 자사의 거대 AI 모델인 ‘에이닷’이 기존보다 더 정교한 학습이 가능해질 것으로 보고 있다.

‘에이닷’은 상용 서비스에 수백억개 이상의 파라미터 모델을 이미 적용하고 있고 이번 컴퓨팅 성능 확대를 통해 현재보다 2배 이상 규모의 모델로 고도화 할 예정이다.

이번 슈퍼컴퓨터 확대 구축을 통해 더 광범위한 데이터를 더 빠르고 정확하게 처리할 수 있는 강력한 컴퓨팅 파워를 갖추게 됐다고 SKT는 설명했다.

SKT는 수년간 내재화한 거대 AI R&D 기술력과 슈퍼컴퓨팅 고도화 등을 기반으로 초거대 AI 범용성을 무한 확장할 계획이다. 이미 에이닷을 통해 FLO, TMAP, 웨이브 등 한국의 대표 미디어 플랫폼과 연동되어 서비스를 제공중이다.

[테크수다 기자 도안구 eyeball@techsuda.com]