엔비디아(www.nvidia.co.kr)가 국내 LLM 개발자들을 위해 ‘한국 LLM 개발자 데이(Korea LLM Developer Day)’를 온라인 개최한다. 이번 행사는 12월 4일 월요일 오후 2시부터 5시까지 온라인으로 진행되며, 여기에서 무료로 사전 등록할 수 있다.

‘엔비디아(NVIDIA) LLM 개발자 데이’에서는 LLM 기반 애플리케이션과 서비스를 구축하는 개발자에게 실무적인 지침을 제공한다. 엔비디아는 LLM 개발자 데이를 통해 LLM 개발자가 자신의 사용 사례에 대한 시작점을 평가하고, 이에 필요한 리소스와 도구를 제공받을 수 있도록 기술과 지식 공유의 장을 마련하고 있다.

국내에서 진행되는 이번 한국 LLM 개발자 데이에는 엔비디아 솔루션 아키텍트들이 직접 참석해 프로젝트 전반에 걸쳐 LLM 훈련과 추론을 최적화하는 방법을 공유할 예정이다. 이를 통해 참가자들은 주요 기술과 장단점을 이해하고 애플리케이션 사례를 살펴볼 수 있다. 더불어 준비된 세션에서는 관리형 API, 자체 관리형 LLM, RAG(검색 증강 생성)를 사용해 애플리케이션을 생성, 사용자 지정, 배포하는 방법을 다룬다.

한국 LLM 개발자 데이의 주요 세션은 다음과 같다.

• LLM ASAP: LLM으로 빠르게 개발하기 – 엔비디아 이진호 솔루션 아키텍트가 특정 하드웨어나 모델 학습, 까다로운 배포 없이도 바로 사용할 수 있는 대중적인 LLM API를 사용해 실제 비즈니스 데이터에서 LLM 기반 시스템을 설계하고 구현하는 구체적인 방법을 소개한다.

• 여러분의 활용 사례에 맞게 LLM 조정하기 – 엔비디아 홍광수 솔루션 아키텍트가 LLM을 도메인별 애플리케이션에 맞게 튜닝해 기성 API의 품질 한계를 뛰어넘을 수 있는 방법을 소개한다.

• 나만의 LLM 운영하기 – 엔비디아 소우진 솔루션 아키텍트가 LLM 최적화 및 배포 과정을 통해 가시적인 효율성, 데이터 거버넌스, 비용 개선 효과 등을 알아본다. 또한, 사용자가 LLM을 정의하고 멀티 노드 GPU에서 추론 최적화 텐서RT(TensorRT) 엔진을 빌드할 수 있는 텐서RT-LLM의 최신 기술 업데이트도 함께 살펴본다.

아울러 이번 한국 LLM 개발자 데이에는 기술 업데이트 세션과 함께 솔루션 아키텍트와의 실시간 질의응답 시간도 마련돼 있다. 참가자들은 개발자가 직면하고 있는 일반적인 문제에 대해 자유롭게 이야기하고 엔비디아 기술에 대한 궁금한 점을 묻고 생생한 답변을 받을 수 있다.