칼럼 | 엔터프라이즈 개발, 왜 이제 엔비디아에 주목해야 할까?

솔직히 말하자면, 은행의 자바(Java) 개발자나 소매업체의 자바스크립트(JavaScript) 개발자는 그동안 하드웨어를 신경 쓸 이유가 거의 없었다. 클라우드가 해결해주는 영역이었기 때문이다. 엔비디아? 게이머나 암호화폐 채굴자, 혹은 대규모 AI 모델을 다루는 연구소의 박사급 연구자들을 위한 것이었다. 실제 기업용 애플리케이션 개발자에게는 별로 상관없는 이야기였고, 하드웨어 칩은 늘 다른 누군가의 문제일 뿐이었다.

하지만 이제는 상황이 달라졌다.

개발자 사이먼 윌리슨은 현대 AI 스택이 엔비디아 GPU와 쿠다(CUDA)를 전제로 설계돼 있다고 여러 차례 지적했다. 이는 더 이상 일부 학계 전문가들만의 문제가 아니다. AI 기능이 거의 모든 애플리케이션에 기본적으로 추가되면서, 이제 모든 개발자의 문제가 되고 있다. 그렇다면 스프링 부트(Spring Boot) 애플리케이션이나 리액트(React) 프론트엔드를 다루는 크로거나 모건스탠리의 개발자가 굳이 칩 제조사에 신경 써야 하는 이유는 무엇일까? 답은 간단하다. 엔비디아가 더 이상 단순한 칩 제조사가 아니기 때문이다. 이제 엔비디아는 소프트웨어 기업이자 플랫폼 업체로, 기존 기업 IT와 점점 더 밀접하게 연결되고 있다.

엔비디아의 다음 행보

엔비디아는 결코 단순하지 않다. 회사는 1조 달러 규모의 시장 기회를 명확히 인식하고 있으며, 반도체가 여전히 수익성 높은 영역이라 하더라도 지속적으로 성장하긴 어렵다는 사실을 알고 있다. 실제 수익이자 고객을 묶어두는 힘은 소프트웨어에 있다. 이는 전형적인 플랫폼 전략이다. 애플이 앱스토어(App Store)를, 아마존웹서비스(AWS)가 방대한 클라우드 서비스 생태계를 구축했듯, 엔비디아는 쿠다를 중심으로 자체 플랫폼을 구축하고 있다.

수년간 쿠다는 사실상 업계 표준으로 자리 잡으며 AMD와 인텔이 넘기 어려운 깊은 기술 장벽을 형성해 왔다. 그러나 쿠다는 배우기 어려운 전문가용 플랫폼으로, 엔터프라이즈 개발자 대부분에게는 시작하기조차 까다로운 영역이었다.

다소 늦긴 했지만, 엔비디아의 영리한 전략은 바로 이런 복잡성을 덜어내는 데 있다. 엔비디아는 저수준 병렬 연산을 새로 배우지 않아도 되는, 엔터프라이즈 개발자 전용 상위 소프트웨어 스택을 기존 스택 위에 구축하고 있다. 즉, GPU 전문가가 되도록 강요하는 대신, 개발자가 이미 익숙한 방식으로 접근할 수 있는 도구를 제공한다. 대표적인 예가 ‘NIM’이다. 복잡하게 들리지만 사실상 익숙한 개념인 API로 제공되는 서비스다. 이는 개발자 친화적이면서도 실용적인 전략이다.

엔터프라이즈 개발자는 대규모 언어 모델이 내부적으로 어떻게 작동하는지 알 필요가 없다. 그저 컨테이너화된 마이크로서비스를 호출하면 된다. 해당 서비스는 단지 엔비디아 하드웨어 위에서 매우 빠르게 실행될 뿐이다. 클라우드 기업들도 이 흐름에 빠르게 동참하고 있다. 오라클(Oracle)을 비롯한 여러 기업이 엔비디아 AI 엔터프라이즈 스택을 자사 클라우드 환경에 네이티브로 제공하기 시작했다.

엔비디아의 목표는 AI를 데이터베이스 쿼리처럼 단순하고 자연스럽게 소비할 수 있는 기능으로 만드는 것이다. 따라서 기업이 이미 사용 중인 개발 도구와 시스템 위에 GPU 가속 기능을 덧입히는 방식으로 접근하고 있다. 이는 대규모 플랫폼 전환을 강요하지 않고, 기존 인프라 위에서 AI를 ‘그냥 쓰게’ 한다.

개발자가 엔비디아에 주목해야 하는 이유

물론 모든 엔터프라이즈 개발자가 엔비디아 플랫폼을 직접 익혀야 하는 것은 아니다. 고객 포털을 담당하는 프론트엔드 웹 개발자나 급여 시스템의 비즈니스 로직을 구축하는 백엔드 개발자라면, 일상 업무에서 GPU를 전혀 다루지 않을 수도 있다. 실제로 자바나 자바스크립트 코드를 수년 동안 작성하면서도, 코드가 어떤 하드웨어 위에서 실행되는지 신경 쓰지 않아도 아무 문제가 없었다. 어차피 GPU를 직접 다루는 일이 없었기 때문이다.

하지만 그 상황이 얼마나 오래 지속될까?

소프트웨어 트렌드는 점점 더 많은 애플리케이션이 ‘스마트’ 기능이나 데이터 기반 요소를 내장하는 방향으로 가고 있다. 앞으로 모든 개발자는 데이터 처리 성능을 높이거나 지능형 기능을 소프트웨어에 통합해야 할 필요성을 마주하게 될 것이다. 예를 들어, 소매 웹사이트는 머신러닝 모델을 활용하는 추천 엔진을 추가하고, 사내 업무용 애플리케이션은 직원용 챗봇 인터페이스를 도입하며, 미디어 기업의 CMS는 AI를 이용해 콘텐츠를 자동 태깅하기 시작했다. 이처럼 한때 단순했던 소프트웨어에도 지능형 기능이 빠르게 스며들고 있다. 해당 기능을 구현해야 하는 개발자들은 결국 ‘어떻게 적용할 것인가’라는 기술적 결정을 내려야 한다. 이때 비록 AI 전문가는 아니더라도 엔비디아 생태계를 이해하고 있다면 큰 가치를 지니게 된다.

하지만 이는 마찰이 생기는 지점이기도 하다. 윌리슨은 “엔비디아와 쿠다의 가파른 학습 곡선이 현실적인 장벽”이라고 지적했다. 엔터프라이즈 개발자는 바쁘고 데이터 과학자가 될 여유가 없다. 실제로 다른 사람의 역할이라고 생각하지 않는가?

엔비디아도 이를 잘 알고 있다. 그래서 회사는 기업용 AI 및 NIM 전략 전체를 개발자 마찰을 해소하기 위한 해법으로 삼고 있다. 복잡한 과정을 단순화하지 않으면 기업은 결국 ‘그럭저럭 괜찮은’ CPU 기반 솔루션을 계속 쓰거나, 주요 클라우드 기업이 더 단순한 형태로 제공해 주길 기다릴 것이다.

어디서부터 시작해야 할까?

그렇다면 현실적인 접근법은 무엇일까? 우선 계산수학 박사과정에 등록할 필요는 없다. 물론 그렇게 해도 되지만, 은행의 사기 탐지 애플리케이션을 만들기 위해서까지 그럴 필요는 없다.

• 작게 시작하라. 엔비디아 개발자 프로그램은 무료다. 런치패드(LaunchPad) 실습 환경을 통해 수천 달러짜리 GPU를 구매하지 않아도 전체 스택을 가이드 형태로 체험할 수 있다.
• 실제 문제 해결에 집중하라. 학습 그 자체를 위해 학습하는 태도는 지양하는 것이 좋다. 아파치 스파크(Apache Spark)에서 데이터 처리 작업이 몇 시간씩 걸린다면, 스파크용 래피즈(RAPIDS) 가속기를 사용해보라. 모델 추론 속도가 느리다면 트라이톤 추론 서버(Triton Inference Server) 구성이 도움이 될 수 있다.
• 통합 기능을 찾아보라. 새로운 기술을 억지로 붙이기보다 이미 사용 중인 플랫폼에서 엔비디아 기능을 활용할 수 있는지 확인할 필요가 있다. 새로 연결해야 할 요소가 적을수록 효율적이다. VM웨어(VMware), 데이터베이스 업체, 혹은 ML옵스 플랫폼이 이미 엔비디아와 연동돼 있다면, 별도의 설정 없이 GPU 가속을 활용할 수 있다.
• 반드시 측정하라. 소규모 파일럿 프로젝트를 진행하고, 성능 지표를 확보해야 한다. 10배 향상된 속도나 큰 폭의 비용 절감 효과를 데이터로 보여줄 수 있다면, 학습 곡선에 대한 투자 명분은 충분히 설득력을 갖게 된다.

이는 엔비디아를 과도하게 추켜세우기 위한 것이 아니다. 업계가 어디로 향하고 있는지를 인식하고, 그 변화의 흐름에 함께 움직여야 한다는 점을 설명하려는 것이다.

그동안 대부분의 개발자는 엔비디아를 신경 쓰지 않아도 큰 문제가 없었다. 하지만 이제는 다르다. AI는 별도의 기술이 아니라 모든 애플리케이션의 기본 기능으로 자리 잡고 있다. 그리고 지금, 고성능 AI를 가장 쉽게 구현할 수 있는 길은 엔비디아의 소프트웨어 스택을 통하는 것이다.

아파치 스파크를 운영하거나 AI 기능을 실제 서비스 환경으로 옮기고 있다면, 지금 엔비디아를 확인해야 한다. 단순한 CRUD 애플리케이션과 보고서 기능만 다루는 개발자라 해도 곧 그 시점이 올 것이다. 그리고 그 ‘곧’은 생각보다 훨씬 빨리 다가올 전망이다. 엔비디아의 진정한 성취는 하드웨어 성능이 아니다. 오히려 가속화를 기업 환경에서 당연하고 지루할 만큼 자연스러운 기능으로 만든 데 있다. 즉, 개발자가 이미 사용하는 콘솔의 서비스 타일, 플러그인, 혹은 라이브러리 임포트 한 줄로 구현할 수 있는 수준까지 단순화한 것이다. 바로 이 점 때문에 오늘날 엔터프라이즈 개발자라면 엔비디아의 기술 생태계를 이해하고 개발 전략에 적극적으로 반영해야 한다.
[email protected]