AI 데모는 되는데 실무 투입이 어렵다면: GTC Berlin 2026 주요 강연 정리
이 글과 연결된 글 보기
드래그로 이동 · 휠/두 손가락으로 확대 · 방향키로 글 선택 · 0으로 맞춤. 실선: 본문 링크, 점선: 시리즈·주제의 대표 연결.표시된 글 27편 목록
AI를 실무에 넣으려면 모델 선택만으로는 부족합니다. GTC Berlin 2026 주요 강연을 운영 관점으로 묶으면 권한 통제, 실행 기록, 실패 평가, 업무별 모델 선택, 물리 환경 검증, 전력·냉각이라는 여섯 가지 점검 항목이 남습니다.
이 글은 이런 분께 필요합니다
- AI 에이전트가 시연에서는 잘 작동하지만, 회사 데이터와 연결하려니 망설여지는 분
- n8n 같은 자동화 도구로 사내 시스템을 연결하고 운영 책임까지 맡은 분
- 오픈 모델, 합성 데이터, 피지컬 AI가 실제 업무와 어떻게 연결되는지 알고 싶은 분
이 글은 NVIDIA On-Demand의 GTC Berlin 2026 Top Talks 재생목록에 포함된 10개 세션을 정리한 읽기·점검 가이드입니다. 2026년 11월 12일 확인한 공식 세션 설명과 제공된 AI 생성 자막의 핵심 구간을 근거로 작성했습니다. 전편 영상 시청 후기나 도구 설치·성능 실험 보고서는 아닙니다.
발표자의 주장과 데이터팝콘의 적용 제안을 구분했습니다. 아래 점검 순서는 여러 강연을 실무 관점으로 재구성한 것이며, NVIDIA가 정한 공식 도입 단계는 아닙니다.
Step 1. 자동화 하나를 고르고, AI가 접근할 범위부터 확인합니다
에이전트는 답변만 만드는 챗봇과 달리 도구를 호출하고 데이터를 읽거나 변경합니다. 사내 문서 검색과 외부 전송을 같은 권한으로 묶으면, 정상적인 업무 요청도 데이터 유출로 이어질 수 있습니다.
n8n의 Claire Knight는 차량 카메라 데이터를 다루는 가상 엔지니어 사례를 제시했습니다. 야간 보행자 인식을 개선하려는 요청 자체는 정당하지만, 영상이나 메타데이터를 외부 장치로 보내면 개인정보와 데이터 보관 정책을 위반할 수 있다는 상황입니다. 이 사례는 실제 고객 사고가 아니라 개념 설명용 시나리오입니다.
발표의 구조는 에이전트와 데이터 사이에 정책을 집행하는 통로를 두는 방식입니다. 요청을 허용했는지뿐 아니라 어떤 규칙을 적용했는지 기록하고, 차단된 요청에는 내부 환경에서 처리하는 대안을 제시합니다.
이 설계에서 허용·차단은 정해진 규칙이 판단하고, 생성형 모델은 거절 이유와 가능한 대안을 설명합니다. 모델에게 보안 규칙을 지키라고 부탁하는 방식과, 모델 밖에서 실제 접근을 제한하는 방식은 다릅니다.
실무에서는 자동화 하나를 골라 읽을 데이터, 변경할 데이터, 외부로 보낼 데이터를 구분해 보세요. 사내 조회가 허용됐다는 이유로 외부 전송이나 삭제까지 허용하지 않았는지 확인합니다.
발표자는 예제 저장소가 시점에 따른 데모이며 프로덕션용이 아니라고 명시했습니다. 워크플로우 연결만으로 보안 설계와 운영 검증을 대신할 수는 없습니다.
출처: n8n 강연, 자막 03:20–04:48, 12:16–19:47, 25:34–25:55.
Step 2. 정답뿐 아니라, 정답을 만드는 과정도 기록합니다
결과가 맞아도 과정에서 잘못된 시스템에 쓰기 작업을 했다면 안전한 자동화가 아닙니다. 최종 답변만 저장하면 어떤 도구가 호출됐는지, 어디서 시간이 걸렸는지, 어떤 변경이 품질을 떨어뜨렸는지 파악하기 어렵습니다.
Adel El Hallak과 Matt Penn의 강연은 실행 기록을 개선의 출발점으로 삼았습니다. 여기서 트레이스는 요청을 처리하면서 거친 모델 호출, 도구 호출, 시간, 오류 같은 실행 흔적입니다. 모델의 숨은 사고를 모두 읽는다는 뜻은 아닙니다.
강연은 관측 데이터를 모으는 NeMo Relay, 실패 패턴을 분석하는 NeMo Compass, 평가 사례를 보강하는 도구를 소개합니다. 실무에서 먼저 가져올 부분은 제품 목록보다 기록 → 실패 분류 → 평가 추가 → 수정 → 재평가라는 흐름입니다.
예를 들어 긴 파일의 뒷부분이 잘려 답을 놓쳤다면, 더 큰 모델로 바꾸기 전에 파일 읽기와 문맥 전달 방식을 확인해야 합니다. 강연에서도 파일 잘림, 불필요한 도구·스킬 중복, 도구 응답 형식이 개선 지점으로 언급됐습니다.
deepset의 온프레미스 AI 강연도 모델, 도구, 검색 품질이 변하면 배포한 시스템을 계속 조정해야 한다고 설명합니다. 개선 루프를 만들더라도 실행 경계와 샌드박스는 유지한다는 접근입니다.
점검할 항목은 요청 식별자, 사용한 모델, 도구 호출, 정책 판단, 오류, 지연 시간입니다. 다만 관측을 늘린다는 이유로 비밀번호나 개인정보를 로그에 그대로 쌓지 않도록 수집 범위와 보관 정책을 함께 정해야 합니다. 이 마지막 항목은 데이터팝콘의 운영상 제안입니다.
출처: 배포 이후 에이전트 개선, 자막 13:01–20:41, 25:31–26:44. 온프레미스 자기개선 에이전트, 공식 핵심 설명.
Step 3. 오픈 모델은 공개 범위와 라이선스를 따로 확인합니다
오픈 모델을 내려받을 수 있다고 해서 학습 데이터, 학습 코드, 재현 방법까지 모두 공개됐다는 뜻은 아닙니다. 가중치는 모델이 학습한 수치이고, 학습 레시피는 그 결과를 얻기 위한 데이터 처리·학습 절차를 말합니다.
Hugging Face의 Thomas Wolf는 가중치 공개, 허용적인 라이선스, 코드와 학습 레시피 공개, 데이터와 평가까지 공개하는 수준을 구분했습니다. 특히 비상업 라이선스인 모델도 있다는 점을 짚습니다.
모델을 검토할 때는 다음 네 가지를 따로 확인합니다.
- 우리 용도에 맞는 가중치와 실행 코드가 공개됐는가
- 상업 이용과 수정·배포가 허용되는가
- 학습·평가 절차를 어느 범위까지 확인할 수 있는가
- 우리 하드웨어와 운영 인력으로 유지할 수 있는가
마지막 항목은 데이터팝콘의 적용 제안입니다. 자체 호스팅은 통제의 선택지를 늘리지만, 운영 비용과 보안 책임을 없애주지는 않습니다.
Kari Briski와 Justin Boitano의 강연은 오픈 모델, 도구, 스킬, 안전한 런타임을 묶은 NVIDIA Agent Toolkit을 소개합니다. 이를 특정 모델 하나의 발표보다 에이전트를 만들고 배포·최적화하는 구성요소의 묶음으로 읽으면 다른 강연과 연결됩니다.
출처: 오픈 모델의 공개 범위, 자막 05:24–08:24, 19:27–19:50. 운영용 에이전트와 Agent Toolkit, 공식 핵심 설명.
Step 4. 모델을 학습시키기 전에, 비교 기준부터 만듭니다
합성 데이터는 실제 기록을 그대로 모으는 대신, 정한 구조와 사례를 바탕으로 생성한 데이터입니다. 데이터가 부족할 때 출발점이 될 수 있지만, 생성됐다는 이유로 정확하거나 실제 업무를 대표하지는 않습니다.
Stefan Gavrilovic와 Yamini Kagal의 강연은 합성 데이터 생성, 작은 모델의 특화 학습, 배포, 평가 과정을 다룹니다. 발표 초반부터 프롬프트 조정, RAG, 스킬·도구도 개선 방법이며, 파인튜닝만이 정답은 아니라고 설명합니다.
눈여겨볼 부분은 데이터 검증입니다. 생성 데이터에 정답이 노출되는 문제를 모델 평가자가 찾았지만, 규칙 기반 검사로 추가 오류를 발견했다고 소개합니다. 모델이 평가한 결과도 별도로 점검해야 한다는 사례입니다.
비교 실험에서는 기존 모델에도 필요한 정책 정보를 충분히 제공해야 합니다. 비교 대상을 일부러 불리하게 만들면 학습 효과와 정보 제공 효과를 구분할 수 없습니다. 평가에는 학습에 쓰지 않은 데이터와 실제 운영에 가까운 기준이 필요합니다.
질의응답에서 발표자는 데모의 평가 자료도 같은 합성 데이터 생성 레시피에서 만든 데이터 중 일부를 분리한 것이라고 밝혔습니다. 학습에 쓰지 않은 데이터라는 조건은 충족하더라도, 실제 고객 환경에서 성능을 보장하는 결과로 읽으면 안 됩니다. 실제 실행 기록, 예외 상황, 표현이 다른 입력으로 추가 검증해야 합니다.
자동화 하나에 적용한다면 먼저 기존 방식의 성공 기준을 정하고, 실패 유형을 모은 뒤 개선 방법을 비교하세요. 특정 사례에 정답을 냈는지뿐 아니라 다른 업무의 품질을 떨어뜨리지 않았는지도 확인합니다.
출처: 합성 데이터와 특화 에이전트, 자막 03:25–04:55, 21:34–22:42, 24:24–25:07, 35:10–36:45.
Step 5. 현실에서 움직이는 AI는 시뮬레이션과 현장 검증을 구분합니다
피지컬 AI는 로봇처럼 물리 환경을 인식하고 행동하는 AI를 다룹니다. 현실의 데이터 수집은 시간과 비용이 들고 위험할 수도 있어, 가상 환경에서 먼저 학습·시험하는 접근이 중요해집니다.
Rev Lebaredian은 학습용 컴퓨터, 세계를 시뮬레이션하는 컴퓨터, 실제 로봇에서 실행하는 컴퓨터를 구분했습니다. 디지털 트윈은 공장이나 설비를 가상으로 표현하고 설계·운영을 검토하는 연결 고리로 등장합니다.
로봇 기업 패널은 단일 로봇의 시연을 넘어 다른 시설로의 배포, 상호운용성, 안전한 하드웨어, 운영 데이터 회수와 모델 개선을 논의했습니다. 내부 MVP, 개념검증, 파일럿, 대규모 배포를 구분한 대목도 중요합니다.
따라서 로봇 사례를 읽을 때는 가상 환경의 결과인지, 실제 장비 시연인지, 제한된 파일럿인지, 반복 운영 결과인지부터 확인합니다. 시뮬레이션은 현장 검증을 준비하는 방법이지 안전 인증이나 실제 운영의 대체물이 아닙니다. 이 구분은 두 강연을 바탕으로 한 데이터팝콘의 점검 제안입니다.
출처: 오픈 모델과 피지컬 AI, 자막 04:00–04:15, 06:59–07:25, 13:56–14:20. 로봇 자동화와 자율성 패널, 자막 04:42–05:23, 31:48–31:57, 38:42–38:50.
Step 6. AI 인프라는 GPU 밖의 전력·냉각까지 확인합니다
AI 팩토리는 AI 학습과 추론을 수행하는 대규모 인프라를 공장에 비유한 표현입니다. 두 인프라 강연은 GPU만이 아니라 전력, 냉각, 네트워크, 저장장치, 운영 제어를 함께 다룹니다.
Julie Bernauer의 강연은 DSX Sim을 통한 설계, DSX MaxLPS를 통한 전력 관리, DSX OS를 통한 서비스·워크로드 운영을 소개합니다. Vera Rubin 레퍼런스 아키텍처에서도 전력, 액체 냉각, 네트워크를 반복 배포 가능한 구성으로 맞추는 관점이 드러납니다.
Schneider Electric과 NVIDIA의 공동 강연은 전력망과 AI 설비 사이의 연결을 다룹니다. 전기·냉각·제어를 함께 설계하고, 미리 제작·시험한 모듈을 현장에 설치하는 방식을 설명합니다.
이 내용을 작은 팀의 에이전트 운영에 적용하면 어떤 작업을 로컬에서 실행하고 어떤 작업을 원격으로 보낼지, 동시 작업 수를 어떻게 제한할지, 장비가 꺼지거나 연결이 끊기면 어떻게 복구할지라는 질문으로 바꿀 수 있습니다. 이는 기가와트급 설계를 소규모 환경에 그대로 적용한다는 뜻이 아니라, 운영 제약을 먼저 계산하자는 데이터팝콘의 해석입니다.
출처: NVIDIA AI 팩토리 아키텍처, 공식 핵심 설명 및 자막 12:24–14:42. 전력망에서 AI 팩토리까지, 자막 21:12–22:49, 27:13–27:34.
자주 헷갈리는 지점
| 헷갈리는 해석 | 구분해서 읽을 내용 |
|---|---|
| 오픈 모델이면 상업 이용도 자유롭다 | 공개 범위와 이용 라이선스는 별개입니다. |
| 실행 결과가 맞으면 안전하게 처리했다 | 도구 호출과 정책 판단, 부수적인 쓰기 작업도 확인해야 합니다. |
| 자기개선 에이전트는 스스로 권한도 바꾼다 | 개선 루프와 실행 권한의 경계는 별도로 설계해야 합니다. |
| 합성 평가 데이터에서 잘하면 실무 성능도 확보됐다 | 같은 생성 방식의 평가와 실제 운영 데이터 검증은 다릅니다. |
| 로봇 데모가 성공했으니 현장에 바로 넣는다 | 시연, 파일럿, 안전 검증, 반복 운영을 구분해야 합니다. |
| 자체 서버에 올리면 보안과 비용 문제가 해결된다 | 접근 정책, 로그, 유지보수, 전력과 장애 대응 책임이 남습니다. |
먼저 볼 강연 세 개
업무 자동화 담당자라면 n8n의 권한 통제 강연, 배포 이후 에이전트 개선 강연, 합성 데이터 기반 특화 학습 강연 순서를 권합니다. 접근 범위를 정하고, 실제 행동을 기록한 뒤, 개선 효과를 평가하는 흐름으로 읽기 좋습니다.
강연을 읽은 뒤에는 연결된 자동화 하나만 골라 점검해 보세요. 어떤 데이터에 접근했고, 무슨 규칙으로 행동했으며, 변경 후 무엇이 나아졌는가에 답할 수 있는지 확인합니다.
확인 범위와 한계
- 세션 설명과 AI 생성 자막의 핵심 구간을 확인했습니다. 자동 자막에는 제품명·고유명사 오인식이 있어, 세부 명칭은 공식 설명에서 확인되는 범위로 제한했습니다.
- 강연 속 저장소를 설치하거나 데모를 재현하지 않았습니다. 이 글은 설치 가이드가 아니라 강연 읽기와 운영 점검 가이드입니다.
- NVIDIA 및 협력사가 제시한 성능 수치는 독립적으로 검증하지 않았습니다. 비교 조건을 충분히 확인하지 못한 개선율·배수는 핵심 결론에서 제외했습니다.
- 특정 모델이나 런타임을 도입하면 보안, 규정 준수, 실제 업무 성능이 자동으로 보장된다는 뜻은 아닙니다.

