서울대 찾은 엔비디아 부사장…"네모트론 오픈소스 생태계 지속"(종합)

서울대 찾은 엔비디아 부사장…"네모트론 오픈소스 생태계 지속"(종합)

브라이언 카탄자로 엔비디아 응용연구 총괄 부사장은 22일 "연구자들이 인공지능(AI) 도구를 효과적으로 활용할 수 있도록 지원하는 것이 중요하다"라며 오픈소스 생태계의 중요성을 강조했다.

카탄자로 부사장은 이날 오후 서울대 AI연구원 초청으로 진행한 특별강연에서 "AI 연구는 오픈 모델과 데이터, 고성능 컴퓨팅 인프라의 결합을 통해 빠르게 진화하고 있다"며 이같이 밝혔다. 이날 행사에는 교수와 학생 등 300여명이 참석했다.

특히 카탄자로 부사장은 네모트론 핵심 성과를 공개하며 엔비디아의 오픈소스 생태계의 중요성을 강조했다.

네모트론은 엔비디아의 오픈소스 AI 모델로 데이터셋, 학습 기법, 소프트웨어를 모두 포함하는 개념이다.

카탄자로 부사장은 AI를 에너지, 칩, 인프라, 모델, 앱 등 5개 층으로 구성된 하나의 키트로 정의했다.

그는 "훌륭한 AI를 구축하기 위해서는 에너지가 기본이며 그 위에 칩과 데이터센터 인프라가 쌓인다"라며 "특히 모델 층에서는 기업이 자신의 데이터 주권과 고유한 플랫폼을 유지하면서 커스터마이징할 수 있는 오픈 AI 모델 기술이 필수적이다"라고 설명했다.

카탄자로 부사장은 AI 확장 패러다임이 네 가지 차원으로 진화하고 있다고 진단했다.

카탄자로 부사장에 따르면 사전 학습 단계를 넘어 인간과의 상호작용을 배우는 사후 학습, 추론 시 사고 과정을 적용하는 추론 연산, 스스로 도구를 사용하는 에이전트 시스템까지 AI의 확장이 이뤄지고 있다.

이날 강연에서 카탄자로 부사장은 네모트론-3 모델에 적용된 기술을 상세히 소개했다.

네모트론-3에 적용된 하이브리드-SSM-트랜스포머 아키텍처는 기존의 트랜스포머 모델보다 높은 정확도와 효율성을 입증했다.

트랜스포머 모델이란 문장 속 단어와 같은 순차 데이터 내의 관계를 추적해 맥락과 의미를 학습하는 신경망을 의미한다.

데이터 통신 비용을 줄이기 위해 토큰을 작은 공간으로 압축하는 MoE(전문가 혼합 모델) 기술과 여러 개의 토큰을 예측해 추론 속도를 높이는 MTP(멀티 토큰 예측) 기술도 소개됐다.

이 밖에 엔비디아의 한국 시장 전략도 이날 강연에서 공유됐다.

네모트론 페르소나 코리아 데이터셋은 한국의 지역적 맥락을 정확히 이해하는 AI를 개발할 수 있도록 약 700만개의 가상 페르소나 정보를 담았다.

데이터셋은 개인정보를 포함하지 않으면서 실제 한국인의 특성을 반영해 AI 모델의 구체성을 높였다.

이날 카탄자로 부사장은 컴퓨팅 자원 확보에 어려움을 겪는 연구진을 위한 조언도 내놨다.

그는 "산업적 규모의 생산 경쟁보다는 새로운 생각과 이론적 토대에 집중하라"며 "AI는 아직 해결되지 않은 문제가 많고 학계의 독창적인 아이디어가 산업계의 기술 방식을 바꾸는 계기가 될 것이다"라고 덧붙였다.

그러면서 "엔비디아는 앞으로도 네모트론으로 전 세계 기업과 협력하며 기술적 성과를 투명하게 공개할 계획이다"라고 강조했다.

서울대는 이번 행사를 계기로 엔비디아를 비롯한 글로벌 AI 선도기업과 협력해 융합연구를 추진하고 AI 인재 양성을 확대할 계획이다.