0~15분: Llama-2 발표 당일, 신정규 대표가 직접 돌려본 생생 후기

노정석이 "오늘 아침에 전격 발표됐어요!" 하면서 영상을 열어. 흥분이 역력한데, 옆에 최승준은 좀 더 차분하게 "어디 보자…" 분위기. 오늘의 게스트는 신정규 대표 — 노정석이 "저희 팟캐스트의 영원한 히어로"라고 소개할 만큼 자주 나오는 AI 실무 전문가야.

신정규 대표가 말하길, 모델 신청하니까 34분 만에 링크가 왔고, 풀 모델 사이즈가 330GB인데도 엄청 빠르게 받아졌대. 근데 문제가 있어. 모델 라인업이 7B, 13B, 70B인데 30B짜리가 빠져 있어. 실제로 기업들이 서비스에 쓰기 딱 좋은 크기가 3045B인데, 그게 없는 거야. 일부러 뺐을 수도 있고, 아직 준비가 안 됐을 수도 있다는 거지. 신정규 대표는 "준비가 안 됐는데도 지금 발표한 거면, 이 타이밍이 되게 중요한 이유가 있다는 뜻"이라고 날카롭게 짚어.

15~30분: 왜 하필 지금? Meta의 정치적 계산

신정규 대표가 핵심을 꺼내. "이건 기술적 breakthrough가 아니야. 정치적 발표야." 1년 전인 2022년 11월, Meta는 ChatGPT 나오기 딱 한 달 전에 AI팀을 대규모 감원했어. 메타버스 간다고. 그러다 ChatGPT 터지고 나서 저커버그가 LinkedIn에 "AI팀 다시 모을게요" 공고 냈던 거야. 아찔한 타이밍이지.

노정석이 "적의 적은 친구"라고 한마디로 정리해. OpenAI가 혼자 너무 튀니까, OpenAI가 싫은 애들이 Meta 주변으로 모이는 구조야. Meta는 모델을 무료로 풀어서 "우리 편 합시다" 손 내밀고, 그 맹주 포지션을 가져가는 전략이지. 구글이 Android로 iPhone에 맞섰던 것처럼.

여기서 충격적인 뉴스가 하나 터져. 신정규 대표가 "GPU 가장 많이 주문한 회사가 TikTok"이라고 꺼내거든. NVIDIA H100을 10만 대 주문했대. 최승준이 "10만 대?!" 하고 눈이 커지는 게 느껴져. Inflection(AI 스타트업)이 2만 2천 대로 화제였는데, TikTok이 그 다섯 배를 샀다는 거야. 미중 반도체 수출 금지 직전에 당겨 산 거라 더 충격적이고.

30~45분: AI 시장의 지형도 — 누가 어디서 싸울 건가

노정석이 전체 판을 정리하기 시작해. 여유 있게 말하는 것 같지만 사실 굉장히 구조적인 얘기야.

초거대 모델(GPT-4급) 시장은 OpenAI·Google이 먹고, 그 아래 3070B 시장은 기업(B2B) 고객 대상으로 치열하게 자리 잡는 중이야. 신정규 대표는 "이 3070B sweet spot은 스스로 선택한 게 아니라 강제로 만들어진 거"라고 해. 돈이 없어서, 감당이 안 되서 그 크기에 몰린 거라고. 기차 3등석 비유가 여기서 나와.

신정규 대표가 미래 전망도 제시해. 2년 안에 두 가지 중 하나가 온다 — ① 같은 크기 모델이 더 똑똑해지거나, ② 지금 비싼 큰 모델 돌리는 비용이 지금의 작은 모델 수준으로 싸지거나. 결론은 "기술과 비용은 무조건 좋아진다"야.

45~60분: 한나야, 이건 완전 네 얘기 — 언어 장벽이 무너진다

신정규 대표가 "AI가 가장 먼저, 가장 크게 바꿀 분야"로 콘텐츠 번역·현지화를 꼽아. 봉준호 감독이 수상 소감에서 "1인치 자막의 장벽"을 넘으면 더 넓은 세상이 펼쳐진다고 했잖아. 그 장벽이 AI로 무너지고 있다는 거야.

구체적으로 이런 얘기가 나와. 마블 영화 '토르'를 번역할 때, 영어 원문은 고풍스러운 옛날 말투인데 그냥 한국어로 직역하면 그 느낌이 안 살잖아. 근데 GPT한테 "이 캐릭터는 선비 말투야, 캐릭터 관계도는 이래"라고 프롬프트로 먼저 설명해주면 진짜로 선비 말투 번역이 나온대. 신정규 대표 회사 내부에서 이미 쓰고 있고, 여러 언어를 쓰는 직원들이 AI 번역 덕에 회의 때 말이 훨씬 많아졌다고 해. 두 번째로 혜택 볼 분야로는 영상 편집 툴, 복잡한 소프트웨어들 — "말로 하면 프로그램이 알아서 해주는 시대"가 온다는 거야.

노정석도 "지금은 time gap이 사라졌다"고 거들어. 예전엔 미국에서 뜬 걸 한국에서 따라 하는 비즈니스 모델이 있었는데, 지금은 미국이 뜨면 실시간으로 전 세계가 동기화돼. 시간차 게임이 없어진 거야.

60~75분: GetGPT 데모 & Microsoft의 정체

신정규 대표가 갑자기 재밌는 사이트를 꺼내. GetGPT라는 곳인데, 초등학교 선생님들한테 필수 사이트가 됐대. 학부모 문자 생성기, 생활기록부(세특) 작성 도우미 같은 걸 선생님들이 직접 만들어서 올려놨어. 심지어 시즌에 API 콜이 너무 많이 와서 OpenAI한테 "해킹당한 거 아니냐"고 ban당한 적도 있었대.

노정석이 "학생 이름: 신정규, 오늘 수업 시간에 좀 떠들었어요"를 입력하니까 진짜로 공손한 학부모 문자가 뽑혀나와. 셋이 빵 터짐. 노정석이 정리해 — "사람들이 AI를 쓰는 방식의 80~90%는 이런 거야. 어려운 코딩이나 논문 분석이 아니라."

이어서 Microsoft 얘기가 나와. Microsoft는 자기가 만든 AI 언어모델이 없어. Azure(클라우드)라는 인프라를 갖고, 거기에 OpenAI 모델도, Llama-2도 다 올리게 해주는 "플랫폼 장사"를 하는 거야. 노정석이 비유를 딱 쳐. "청바지 골드러시 때 청바지 파는 사람." GPU 사면 전부 팔리는 시대에 인프라 제공자가 되는 전략이지.

75분~끝: 최승준의 Llama-2 vs GPT-4 직접 대결 테스트

최승준이 직접 테스트한 결과를 보여줘. 논리학 문제("p이면 q이다" 진리표 만들기)를 Llama-2 70B에 시켰는데, 진리표는 만들었지만 역·이·대우 명제 구하기에서 완전히 무너졌어. 같은 걸 GPT-3.5에 시키니까 잘 해냄. 격차가 명확하게 보이는 순간.

최승준이 GPT-4한테는 좀 더 심술궂게 질문해. "뻔한 답 말고 진짜 이유 말해봐"를 반복해서 끌어올리니까 처음에 "학습 데이터" 하던 게 "일반화 능력" "경험을 쌓습니다" "analogy 능력"까지 나와. 자기가 못한다고 했다가, 지적하면 인정하고, 또 끌어올리면 다른 말 해. 최승준이 "이게 GPT-4의 현재 한계이자 능력"이라고 담담하게 정리해.

마지막에 노정석이 "ChatGPT 나온 지 7개월인데 한 달이 1년처럼 지나갔다"고 마무리. 올 연말엔 또 무슨 얘기를 하게 될지 모르겠다며 웃음.

---