0~15분: 새 호스트 김성현 등장 — "나는 프런티어 밖에 있지만, 방향은 말할 수 있어"

노정석이 반갑게 소개한다. 네이버 HyperCLOVA(네이버 자체 AI 모델)에서 일하는 AI 엔지니어 김성현. 최승준은 "요즘 새 모델 나오면 기술 보고서 읽기 전에 성현 님 페이스북부터 본다"며 찐팬 인증을 한다. 분위기는 스터디 모임에 진짜 고수가 와준 느낌.

김성현이 조심스럽게 시작한다. "프런티어(최전선) 얘기는 프런티어에 있는 사람이 해야 맞는데, 걔네들은 말 안 해요." 그러면서 작년의 Q* 소동을 꺼낸다. 다들 'Q-러닝이니 A* 알고리즘이니' 추측했지만 거의 다 틀렸고, 결국 맞은 건 "search 말고 RL(강화학습) 해"라고 했던 Denny Zhou 같은 프런티어 인사들뿐이었다는 거야. 그래도 추측 자체가 의미 없진 않았어 — 방향이 맞으면 방법은 나중에 찾으니까. 결국 DeepSeek R1이 그 방향의 결실이었지.

15~35분: "전반전은 끝났다" — 방법의 시대에서 평가의 시대로

김성현이 핵심 주장을 꺼낸다. OpenAI 연구자 Yao Shunyu가 쓴 "The Second Half(후반전)" 개념 — 전반전은 문제가 고정되고 방법을 찾는 시대였어. 이미지 분류, 텍스트 감정 분석 같은 거. 근데 이제 방법(강화학습)은 찾았으니 후반전은 평가를 만드는 시대라는 거야.

최승준이 "Goodhart's Law(구드하트의 법칙)가 걱정된다"고 끼어든다. 지표를 목표로 삼으면 지표만 올리게 된다는 경제학 개념이야 — 인스타 팔로워 수만 KPI로 삼으면 팔로워 수만 늘고 진짜 팬은 안 생기는 것처럼. 김성현도 "영원한 문제"라고 인정하면서도, 강화학습이 가능해진 이상 평가 설계가 곧 학습을 결정한다는 관점이 지금 OpenAI 내부 컨센서스에 가깝다고 말한다.

hallucination(AI가 사실을 지어내는 현상) 이야기도 나온다. OpenAI가 최근 논문에서 이걸 "평가의 인센티브 문제"로 봤다는 거야. '모른다'고 하는 것보다 찍어서라도 답 내는 게 점수에 유리하니까 AI가 거짓말을 배웠다는 거지.

35~55분: 환경 스케일링 — 지금 빅테크가 실제로 하는 일

"환경 스케일링"이라는 말이 나온다. RL(강화학습)을 시키려면 세 가지가 필요해: ①지시(어떤 웹앱 만들어줘), ②환경(실제로 코딩할 수 있는 공간), ③보상(unit test 통과하면 점수). 이 세 묶음을 최대한 많이 만드는 게 환경 스케일링이야.

노정석이 탁 정리한다. "이것만 한다고 봐야죠." 빅테크들이 지금 하는 일의 핵심이라는 거야. xAI(일론 머스크 회사)가 "STEM tutor"라는 직종으로 수학 올림피아드 수상자, 이공계 박사들을 시간당 최대 100달러에 고용하는 것도 이 때문이야. AI 훈련용 문제 환경을 만드는 데 그 사람들이 필요한 거지.

그런데 문제가 있어 — 너무 비싸고, 만들기 어렵다는 거야. 그래서 요즘은 모델이 환경을 스스로 만들게 하는 "합성 환경" 연구도 한창이야. Kimi K2(중국 Moonshot AI 모델), Alibaba 논문 등에서 비슷한 시도가 나오고 있어.

ICPC(국제 대학생 프로그래밍 대회) 이야기도 나온다. 인간 최강 팀이 11문제를 풀 때, AI(GPT-5 + IMO급 모델 조합)가 12문제를 다 풀었다는 거야. 가장 어려운 문제는 240분을 붙잡고 있었어. 최승준이 "약간 섬뜩하다"고 했고, 그 말이 딱 맞는 분위기였어.

55~70분: 앞으로 풀어야 할 6가지 — 자율 학습·장기 기억·멀티 에이전트

김성현이 중국 팟캐스트에서 가져온 6가지 전망을 공유한다. 중국 StepFun의 Zhang Xiangyu와 OpenAI 출신 Yao Shunyu — 두 진영이 놀랍도록 비슷한 문제를 고민하고 있다는 게 포인트야.

자율 학습: 지금은 사람이 환경을 다 설계해서 줘야 해. 근데 사람은 스스로 실험해보고 환경을 만들잖아. AI도 그럴 수 있어야 하지 않을까? 내적 보상(내가 이게 좋다는 걸 스스로 느끼는 것)이 없으면 페르마의 마지막 정리처럼 수십 년짜리 문제는 절대 못 풀어.

장기 기억(메모리): 진짜 에이전트가 되려면 기억이 필요해. 가중치를 업데이트해야 하는지, 컨텍스트(대화창)에 넣으면 되는지는 아직 모름. 컨텍스트가 10억 토큰짜리가 된다면 그걸로 풀릴 수도 있어.

멀티 에이전트: Noam Brown이 OpenAI 멀티 에이전트 팀에 있는데 아무 말도 안 해. "기존 멀티 에이전트 접근과 우리 건 완전히 다르다"는 말만 남기고. Anthropic이 웹 검색 에이전트를 만들면서 "리드 에이전트 + 요약 에이전트 + 메모리 에이전트" 구조를 사용한다는 건 알려졌어. 여기서 중요한 건 이 시스템 전체를 강화학습으로 학습시킬 수 있다는 거야. 에이전트들이 서로 더 잘 협력하는 법을 스스로 배우게 되는 거지.

노정석이 웃으면서 "에이, 모르겠다. 이놈들아, 다 해 먹어라" 하고 툭 던진다.

7076분: "The Fog of Progress" — 안개는 12년 앞에 이미 깔려 있어

힌튼이 강의에서 한 말 — 안개 속 고속도로에서 앞차 후미등이 가까울 때는 보이지만, 거리가 멀어질수록 기하급수적으로 어두워진다. 기술 발전의 불확실성도 이와 같다는 거야.

근데 김성현이 힌튼과 다른 점을 짚는다. 힌튼은 "510년은 보이고 30년은 안 보인다"고 했는데, 지금은 **36개월은 보이고 1~2년이 안 보인다**는 거야. 안개의 규모가 이미 몇 년이 아니라 몇 달 단위로 줄었어.

Zhang Xiangyu는 "지금 얘기한 문제들, 1~3년 안에 풀릴 것 같다"고 했다는 것도 공유해. 노정석이 "그럼 지금 열심히 만드는 게 다 의미 없어지는 거 아니냐"는 말을 꺼내고, 그러면서도 "오늘 내가 사과나무 한 그루를 심는 건 여전히 옳은 자세"라는 결론을 낸다.

마무리는 훈훈해. 노정석·최승준이 "성현 님 포스트는 그냥 뉴스 조합이 아니라 씹어 먹고 내놓는 생각"이라고 진심으로 칭찬하고, 김성현은 "우려했는데 의견 공유는 즐겁다"고 답한다.

---