엔비디아 (NVIDIA)의 AI버블 우려 경감

이번 포스팅은 최근 화두가 되고 있는 엔비디아(NVIDIA, NVDA) 회사와 미래 AI에 대한 이야기를 해보고자 한다. 23년 8월 24일 기점으로 2분기 깜짝 실적을 공개하면서 주식 시장의 AI버블에 대한 논란을 잠시나마 가라앉히게 하는 계기가 된 것으로 보인다. AI관련 된 불씨가 된 것은 최근 ChatGPT를 통해 학습 된 AI 활용으로 사무직의 생산성까지 높일 수 있다는 소식으로 현재도 많은 유튜브, 신문, 방송을 통해 ChatGPT활용, 교육까지 쏟아져 나오고 있다.

심지어 지금 쓰는 포스팅까지 AI를 활용한 작성으로 과연 사람의 윤리성, 감성까지 자극할 수 있을까? 하는 궁금증을 자아내고 있다. 본인이 직접 사용해 본 바로는 실제 생산성을 높일 수는 있지만 아직 구글 등의 Data Base를 활용하여 정보 전달의 한계점이 해결해야 할 숙제로 남아 있어 보였다.

AI와 엔비디아(NVIDIA) 관계

우선 상식으로서 사전적 의미인 AI (Artificial Intelligence)는 아래와 같다.

인공지능 또는 AI는 인간의 학습능력, 추론능력, 지각능력을 인공적으로 구현하려는 컴퓨터 과학의 세부분야 중 하나이다. 정보공학 분야에 있어 하나의 인프라 기술이기도 하다. 인간을 포함한 동물이 갖고 있는 지능 즉, Natural Intelligence와는 다른 개념

많은 사람들이 실제로 우리가 흔히 인간의 고유 능력을 인위적으로 만들어진 기계, 소프트웨어가 익힐 수 있는 가? 또 가능하다면 어느 수준까지 올라왔고, 어떻게 하는 가? 를 눈으로 직접 확인해 보고 싶어 할 것이다. 

그럼 왜? 엔비디아(NVIDIA)와 같은 그래픽 카드 제조사와 이 AI를 계속 연결 하여 이야기 되고 있을까? 사실 실제 위 정의와 같은 기술을 연구 개발 하는 회사들은 많이 있고 아시아 국가 중 중국, 한국, 일본도 이 AI기술 투자를 통해 국가의 핵심 역량으로 키워 나가고 있는 중이다. 

하지만 미국, 유럽과 같은 나라들이 아직은 우위에 있고 특히 이 AI를 위해 연산이라는 복잡한 계산을 해야 하기 때문에 연산 처리 장치 즉 CPU, GPU 등이 필요한 것이다. 특히 대용량의 이미지, 영상 등 복잡한 변환 과정 등을 빠르게 처리 하기 위한 하드웨어가 바로 이 GPU고 전 세계 시장에서 점유율이 가장 높은 회사가 바로 이 엔비디아(NVIDIA)로 주목 받고 있는 것이다. 

이렇게 고성능 GPU를 통해 다량의 AI가 필요한 작업을 할 수 있도록 발전하고 있는 것이고 현재 AI는 GhatGPT와 같이 단순 Text기반도 있지만 영상, 음악 까지도 가능 한 영역으로 발전 하고 있기 때문에 더욱 이 GPU에 대한 필요성은  높아지고 있는 실정이다. 

2023년 Computex Taipai ( 5월 30일 ~ 6월 2일)

매년 열리는 행사 지만 이번 해 엔비디아(NVIDIA)에서 발표한 Superchip에 대한 기술은 앞으로 이 AI시장에서 미래라 할 수 있을 정도로 엄청난 발표였다. 특히 미국의 AI를 개발, 서비스 하는 메타, 구글, 마이크로 소프트 등 굴지의 회사 까지도 이 기술에 거는 기대가 엄청 났을 것으로 예상 된다. 

이번 발표한 내용을 잠깐 보자면 우선 HGX H100 모델의 GPU를 시작으로 개당 한화로 약 5000만원에 해당 하는 Super Graphic Chipset이다. 다만 생산량 공급 부족으로 현재 암시장에서 엄청난 프리미엄을 받고 거래가 될 만큼 구하기 힘든 제품이다. 발표에서 하이라이트로 소개 된 기술이 이 H100을 단독으로 사용할 경우 병목을 해소하기 위한 병렬 처리 CPU가 필요한데 바로 Grace Hopper Superchip과 함께 사용하게 되면 이런 GPU 병목을 더 효율적으로 처리 할 수 있게 되는 것이다. 

이 Grace Hopper Superchip은 Arm 기반의 CPU로 마약 H100과 함께 사용하게 될 경우 고효율을 만들어 낼 수 있을 뿐 아니라 이번에 소개한 서버 PC의 경우 스펙을 보면 4 petaFLOPS, 72 Arm CPUs, 96GB HBM3, 576GB GPU Memory로 클라우드 서비스 회사의 서버 PC를 타겟으로 보여진다. 

DGX GH200 에 대한 기대

이렇게 Grace Hopper Superchip과 HGX H100 기반의 서버 PC에서 멈추지 않고 엔비디아는 미래를 위한 더 고성능의 괴물 서버용 PC를 소개했는데 바로 DGX GH200이다. 쉽게 설명하면 우선 Super chip 여러개 장착한 서버용 PC를 만들고, 이 서버용 PC를 다시 여러개 묶어 더 큰 규격의 서버 PC를 만드는 것으로 앞으로  마이크로소프트, 메타, 구글에서 그냥 쉽게 사다 쓸 수 있도록 제작 할 예정이라고 한다.  스펙을 보면 256 개 GH superchip NVLINK로 연결 되어 있는 구조로 아래와 같다.

 256 개 GH superchip NVLINK로 연결 가능
144TB GPU memory / 230TB/sec NVLINK / 1 exaFLOPS

엄청 난 스펙으로 예상 되며 이 기술이 공개 되는 순간 2D로 촬영되는 이미지가 바로 3D 모델링이 되었고 이 이미지 변환 기술을 통해 앞으로 영상 분야의 AI가 얼마나 더 성장할 수 있을 지에 대한 기대로 정말 인간이 사용할 수 있는 학습 능력치를 뛰어넘는 건 시간 문제가 아닐까? 하는 생각을 했다. 

AI산업을 엔비디아(NVIDIA)가 이끌 수 있을까? 

사실 분야를 좀 더 세분화 해보면 결국 어떤 대상으로 서비스를 하느냐 하는 관점에서 엔비디아의 경우는 오히려 Customer가 될 대상이 괴물 서버PC나 GPU를 활용하는 회사가 더 맞을 것이라는 생각이 든다. 앞서 언급했던 현재 AI서비스를 개발하고 있는 회사들과 이 AI기술을 다양한 산업군에서 활용할 회사까지 넓은 범위에서 해당이 될 것이며 아래와 같은 산업에 활용 될 수 있다. 

우선 이미지나 영상을 주로 사용하는 게임, 영화, 디자인 분야, 의학, 과학 분야 소리를 주로 사용하는 음악, 음향 분야, 제조업 기반 시설에서 활용할 수 있는 Digital Twin, Robotics 분야, 부동산 관련 건축, 인테리어 분야, 가장 기대 되는 모빌리티(Mobility)의 자율주행 분야 까지 우리 인간의 삶 영역 대부분 영향을 받을 것이고 이런 변화에 꼭 필요 한 시뮬레이션 과정에 이 기술 활용이 적합 할 것으로 생각 된다.  

특히 다양 한 제조 산업 군에서 활용 될 수 있는 옴니버스 (Omniverse)의 경우 실 공정과 동일하게 개발, 운영, 유지 관리 할 수 있는 디지털 트윈 (Digital Twin)기술 까지 모두 엔비디아(NVIDIA)를 통해 구현 될 것을 기대하고 있다. 

엔비디아(NVIDIA)의 23년 2분기 실적과 기대감

이렇게 최근 AI시장에서 리더 역할을 하고 있는 엔비디아가 이번 23년 2분기 실적에서 예상치 보다 20%상회 하는 약 18조원 (135억 달러)를 공개하면서 주식 시장에서도 시간외 9% 이상 급등하였다. 가장 기대되는 건 현재 구하기 힘든 H100의 생산량을 최소 4배 이상 생산할 것을 감안한다면 올해 예상 실적을 훨씬 웃도는 결과가 나오지 않을까? 하는 생각이다. 

하지만 반대편에서는 깜짝 실적에도 사기적인 이익률(%)의 이유가 낮은 원가, 높은 판가라는 것이다.  시장의 생리지만 고객 입장에서 보면 현재 또는 앞으로도 대체 제품이 없는 상황이라 최종 End User가 받을 서비스 비용은 계속 상승 할 수밖에 없기 때문에 좀 더 건전한 시장으로 개선 되기 위해서는 현 GPU 경쟁사인 AMD, 인텔 등이 더욱 연구 투자와 노력해야 할 것이라고 생각된다. 

다음 포스팅 : 엔비디아(NVIDIA)와 테슬라(Tesla) 그리고 인공지능(AI) (클릭)

이번 포스팅에서는 현재 이슈가 되는 AI와 꼭 필요한 GPU기술 또 최고의 기술을 보유한 엔비디아(NVIDIA) 까지 주제로 다루었고 미래 AI를 활용 산업과 시장에 대한 우려까지 살펴 보았다.  연결 하여 다음 포스팅에서는 주변에서 가장 많이 오르내리는 분야 중 모빌리티(Mobility)의 미래와 AI 활용으로 가장 시급하고 기대 되는 자율주행에 대한 이야기를 꺼내보고자 한다.