새 소식
전체
배준익 학생, NeurIPS 2025 PokéAgent 챌린지 스피드런 트랙 우승
세계적인 인공지능 학회 NeurIPS 2025에서 열린 포켓몬 게임 기반 AI 대회인 PokéAgent 챌린지에서, 본교 컴퓨터공학부 4학년 배준익 학생이 스피드런(speedrun) 트랙 우승을 차지했다. 이번 챌린지는 포켓몬 에메랄드 환경을 기반으로 강화학습(RL)과 대형 언어 모델(LLM)을 결합한 새로운 형태의 에이전트를 평가하기 위해 설계되었다. 스폰서로는 구글 DeepMind가 참여했으며, Princeton, CMU, UT Austin 등 주요 연구 기관의 연구진이 공동으로 대회를 기획했다. 총 상금 규모는 1만 5천 달러를 상회하며, 우승팀에게는 NeurIPS 워크숍 발표 초청과 대회 보고서 공동 저자 참여 기회 등이 제공된다.스피드런 트랙은 에이전트가 포켓몬 에메랄드를 가능한 한 빠르게 엔딩까지 진행하도록 설계된 과제로, 부분 관측(partial observability) 환경에서 수천 타임스텝에 걸쳐 일관된 전략을 유지해야 하는 long-horizon planning 문제라는 점이 특징이다. 배준익 학생이 개발한 에이전트는 약 40분 만에 게임을 완주해, 약 70분을 기록한 2위 팀을 큰 격차로 앞서며 스피드런 트랙 1위를 기록했다.우승 에이전트의 핵심은 LLM 기반 코드 생성(code generation)을 활용한 계층적 계획 방식에 있다. 먼저 LLM이 주어진 장기 목표를 여러 하위 목표(subgoal)로 자동 분해하고, 각 하위 목표를 처리하기 위한 파이썬 코드 형태의 루틴을 생성한다. 이렇게 생성된 코드 루틴은 에이전트가 어떤 상태에서 어떤 행동을 택해야 할지에 대한 구조화된 힌트나 보상 신호 역할을 하며, 강화학습이 더 빠르고 안정적으로 수렴하도록 돕는다. 계획이 코드로 남기 때문에 사람이 에이전트의 의사결정 과정을 추적하고 수정하기에도 비교적 수월하다는 장점이 있다.배준익 학생은 이번에 개발한 LLM+RL 하이브리드 에이전트를 샌드박스형 시뮬레이션 게임 등 다른 복잡한 환경으로 확장해 실험할 계획이다. 나아가 로보틱스와 같이 복잡한 장기 의사결정이 요구되는 분야로 응용 범위를 넓히는 후속 연구도 추진할 예정이다. 본 연구는 연세대학교 이영운 교수와 서울대학교 박재식 교수의 지도 하에 컴퓨터공학부 학부 졸업논문으로 정리될 계획이다....
박연홍 박사, 2025 MLCommons ML and Systems Rising Stars 선정
우리 학부 박연홍 박사(지도교수 이재욱)가 2025 Machine Learning and Systems Rising Stars 프로그램에 선정되었다. 이 프로그램은 MLCommons에서 주관하며, 머신러닝 시스템 분야에서 탁월한 연구 성과와 잠재력을 지닌 젊은 연구자를 선정하는 세계적 프로그램이다.올해는 전 세계 150여 명의 지원자 가운데 단 38명만이 최종 선정되었으며, 선정자들은 지난 5월 미국 메타(Meta) 본사에서 열린 2일간의 워크숍에서 자신의 연구를 발표하고, 패널 및 네트워킹 세션을 통해 학계와 산업계 연구자들과 교류하는 시간을 가졌다.박연홍 박사는 대규모 머신러닝 시스템의 경량화 및 메모리 사용 최적화 연구를 수행해왔으며, OSDI, ICML, VLDB, MICRO 등 최우수 국제 학술대회에 다수의 논문을 게재하였다. 박연홍 박사는 올해 프로그램에서 유일한 아시아 기관 소속 연구자이며, 올해로 3회째를 맞은 해당 프로그램이 시작된 이래 한국 기관 소속 연구자가 선정된 것은 이번이 처음이다. - 2025년 프로그램 소개 홈페이지: https://mlcommons.org/2025/06/2025-mlc-rising-stars/...
박재식 교수 연구진, 복잡한 실세계 문제 해결하는 AI 플래닝 기술 TDP 개발
기존 AI 플래너의 한계를 극복하는 제로샷(zero-shot) 테스트 시간(test-time) 플래닝 프레임워크 개발탐색(Exploration)과 활용(Exploitation)의 균형을 맞추는 트리 탐색(tree search) 기반의 이중(bi-level) 샘플링 접근법 제시미로 탐색, 로봇 팔 제어 등 복잡한 문제에서 기존 최신 기술 대비 뛰어난 성능 입증박재식 교수 연구진이 복잡하고 예측 불가능한 환경에서도 AI가 최적의 행동 계획을 수립할 수 있는 새로운 기술, TDP(Tree-guided Diffusion Planner)를 개발하였다. 사전 학습된 확산 모델(diffusion model)을 활용한 AI 플래닝은 주어진 문제를 해결하기 위한 일련의 행동 순서를 생성하는 효과적인 접근법이다. 기존 기술들은 보상(reward) 구조가 단순하고 미분 가능한 볼록(convex)한 문제에서는 잘 작동했지만, 여러 개의 상충하는 목표가 있거나(non-convex), 특정 규칙을 반드시 지켜야 하는(non-differentiable) 복잡한 실제 환경에서는 최적의 해를 찾지 못하고 국소 최적해(local optima)에 머무르는 한계를 보였다. 또한, 새로운 문제에 적용하기 위해 추가적인 학습이나 전문가 데이터가 필요하여 유연성이 떨어졌다.연구진은 이러한 문제를 해결하기 위해, 추가 학습 없이 테스트 시간에 바로 적용 가능한 제로샷(zero-shot) 플래닝 프레임워크인 TDP를 제안하였다. TDP는 행동 계획 수립을 트리 탐색 문제로 재구성하여, 광범위한 가능성을 탐색(Exploration)하는 단계와 주어진 목표에 맞춰 계획을 구체화하는 활용(Exploitation) 단계를 유기적으로 결합했다. TDP의 핵심적인 이중(bi-level) 샘플링 과정은 다음과 같다:상위 가지 생성 (Parent Branching):훈련 없이 사용 가능한 파티클 유도(particle guidance) 방식을 통해 서로 다른 다양한 초기 경로들을 생성하여 탐색 공간을 넓힌다.하위 트리 확장 (Sub-Tree Expansion):생성된 다양한 부모 경로들을 바탕으로, 주어진 목표(task objective)에 최적화된 자식 경로들을 빠르고 정교하게 다듬는다.이러한 이중 샘플링 구조를 통해 TDP는 기존의 단순한 그래디언트 기반 안내(gradient guidance) 방식이 빠지기 쉬운 국소 최적해 문제를 효과적으로 해결한다. 연구진은 (1) 미로 속 중간 목표물 찾기, (2) 로봇 팔을 이용해 최적 위치에 블록 쌓기, (3) 개미형 로봇의 여러 목표 지점을 순서대로 방문해야 하는 탐색 등 세 가지 복잡한 테스크에서 TDP가 기존 최첨단 기술들을 모두 능가하는 성능을 보임을 실험적으로 입증했다. 본 연구는 인공지능 분야 최고 권위 학술대회 중 하나인 NeurIPS2025에 정식 논문으로 채택되어 12월 중 발표될 예정이며, 이 논문을 포함하여 박재식 교수 연구실에서는 총 4편의 논문을 NeurIPS에 발표할 예정이다....
송현오 교수 연구진 NeurIPS oral presentation 논문 선정 (상위 0.35%, 77/21575)
NeurIPS 2025 3편 (이중 1편은 Oral Presentation, 최상위 0.35% = 77/21,575 선정) 및 TMLR 1편 게재문맥 복원 기반 중요도 정량화를 활용한 질의 비의존적 KV 캐시 압축 기법 개발 (oral)최적 비트 할당을 위한 분수 비트 LLM 양자화기 집합 및 혼합 비트 양자화 기법 개발강화 자기학습을 통한 언어 모델 기반 탐색 기법 개발대규모 시스템에서 표적 변수에 대한 인과 변수들을 효율적으로 추론하는 기계학습 기반 인과 추론 기법 개발송현오 교수 연구진이 질의 비의존적 KV 캐시 압축, 최적 비트 할당을 위한 분수 비트 LLM 양자화기, 강화 자기학습을 통한 언어 모델 기반 탐색 기법, 기계학습 기반 인과 추론 기법을 개발하였다.1. 질의 비의존적 KV 캐시 압축 [1] (Oral Presentation, 최상위 0.35%): 본 논문은 LLM 추론 과정의 메모리와 답변 속도 향상을 위한 KV 캐시 압축 기법인 KVzip을 제안한다. ChatGPT와 같은 Transformer LLM은 사용자 정보나 이전 대화 내용과 같은 맥락 정보를 KV 쌍의 형태로 캐싱한다. KVzip은 이러한 맥락 정보를 담고 있는 KV 쌍의 중요도를 측정하고, 중요도가 낮은 KV 쌍을 캐시로부터 방출 함으로써 압축을 수행한다. 기존 기법들의 경우 압축 과정에서 LLM 추론 성능이 크게 감소하지만, KVzip은 30% 압축 수준까지 임의의 하위 태스크에 대한 성능을 유지한다. 특히 LLaMA, Qwen, Gemma와 같은 최첨단 언어모델의 수십 GB에 달하는 KV 캐시의 크기를 최대 4배까지 무손실로 줄이며, 디코딩 속도를 2배 향상하는 데 성공하였다. 아울러 KVzip은 NVIDIA의 KV 캐시 압축 라이브러리인 KVPress에 통합되어 최고 수준의 성능을 보이며, 사용자는 KVPress를 이용하여 간편하게 KVzip을 사용할 수 있다. 본 기술은 기업 규모의 대규모 검색 증강 (RAG) 시스템, 사용자의 개인화된 맥락을 사용하는 시스템 등에서 특별히 유용하게 적용될 수 있다.2. 최적 비트 할당을 위한 분수 비트 LLM 양자화기 [2]: 본 논문은 LLM 경량화를 위해 분수 비트 양자화기 집합 Q-Palette와 이를 활용한 혼합 비트 양자화 기법을 제안한다. 최근 모델 가중치의 이상치를 완화하기 위해 가중치를 회전 변환하는 기법이 활발히 연구되고 있다. 본 연구에서는 회전 변환을 통해 가우시안화된 가중치 분포를 전제로 정보이론적으로 최적의 비트 할당을 분석하고, 이에 가까운 비트 할당을 위해 더욱 조밀한 분수 비트를 지원하는 양자화기 집합 Q-Palette를 개발하였다. 또한 비트 할당 과정에서 레이어 병합까지 함께 고려하는 혼합 비트 양자화 기법을 통해 추론 속도를 더욱 향상시켰다. 그 결과, 기존 NormalFloat 대비 적은 정확도 손실로 디코딩 속도를 36% 향상하는 데 성공하였다.3. 강화 자기학습을 통한 언어 모델 기반 탐색 [3]: 본 논문은 거대 언어 모델의 탐색 효율을 향상시키기 위한 강화학습 알고리즘인 Guided-ReST를 제안한다. OpenAI o1과 같은 추론 특화 모델은 광범위한 탐색을 통해 높은 성능을 달성하지만, 이는 종종 비효율적인 탐색 경로와 불필요한 토큰 소모를 야기하는 한계가 있다. 이러한 문제를 해결하기 위해, 본 연구는 고품질의 합성 탐색 데이터를 생성하고 이를 바탕으로 모델이 스스로 더 나은 탐색 전략을 학습하도록 유도하는 새로운 강화 학습 알고리즘을 개발했다. 제안된 기법은 고난도 연산 추론 벤치마크인 Countdown에서 정확도와 추론 효율을 각각 10%, 50%씩 크게 향상시켰고, MATH-500과 AMC-23 같은 더욱 복잡한 실제 수학 문제에서도 그 확장성을 입증하였다.4. 대규모 시스템에서도 효율적인 인과 추론 [4]: 본 논문은 대규모 시스템에서 전체 인과 그래프 추론 없이 표적 변수(target variable)의 인과 변수(causal variable)를 추론하는 지도학습 기반 인과 추론 방법을 제안한다. 기존 인과 추론 기법은 전체 인과 그래프 추론을 필요로 해 변수 수가 많은 거대 규모 시스템에서 연산 부담이 컸다. 본 연구는 시뮬레이션 데이터로 학습한 신경망 모델과 샘플링 기반 추론(subsampled inference) 전략을 적용해 변수 수 증가에 따라 알고리즘 복잡도가 선형적으로 확장될 수 있도록 설계하였다. 그 결과 대규모 유전자 조절 네트워크에서 최첨단의 인과 발견 성능을 달성하는 데 성공하였다.해당 연구들은 머신러닝 최우수 학회인 NeurIPS 2025와 저널인 TMLR에 발표될 예정이다.[1] “KVzip: Query-Agnostic KV Cache Compression with Context Reconstruction”, Jang-Hyun Kim, Jinuk Kim, Sangwoo Kwon, Jae W. Lee, Sangdoo Yun, Hyun Oh Song, NeurIPS 2025[2] “Q-Palette: Fractional-Bit Quantizers Toward Optimal Bit Allocation for Efficient LLM Deployment”, Deokjae Lee, Hyun Oh Song, NeurIPS 2025[3] “Learning to Better Search with Language Models via Guided Reinforced Self-Training”, Seungyong Moon, Bumsoo Park, Hyun Oh Song, NeurIPS 2025[4] “Large-Scale Targeted Cause Discovery with Data-Driven Learning”, Jang-Hyun Kim, Claudia Skok Gibbs, Sangdoo Yun, Hyun Oh Song, Kyunghyun Cho, TMLR...
이영기 교수, 2026년 ACM MobiSys 프로그램위원장 선임
이영기 교수가 세계적인 모바일 시스템 학술대회인 ACM MobiSys 2026의 프로그램위원장(Technical Program Committee Co-Chair)으로 선임됐다. 이 교수는 2026년 열리는 MobiSys 학술대회에서, 논문 심사와 프로그램 구성을 총괄하는 핵심 역할을 맡는다. 그는 전 세계 연구자들로 구성되는 프로그램위원회(TPC)를 조직하고, 학회에 제출되는 수백 편의 논문 중에서 발표작을 선정하는 중요한 과정을 주도할 예정이다.ACM MobiSys(International Conference on Mobile Systems, Applications, and Services)는 ACM SIGMOBILE의 대표 국제 학회로, 모바일·IoT·AI 기술 기반의 차세대 시스템과 서비스를 다룬다. 컴퓨팅 기술의 미래를 제시하고, 창의성과 기술력을 함께 평가받는 학술대회다. 이영기 교수는 온디바이스 AI 시스템, 증가상 현실, 인터렉티브 AI 에이전트 등 다양한 분야에서 활발한 연구를 이어오고 있다. 특히 인공지능 기술과 사용자 경험을 융합한 차세대 컴퓨팅 플랫폼 연구를 선도하고 있으며, 관련 분야 국제 학회와 산업계에서도 폭넓은 협업을 이어가고 있다. 이번 프로그램위원장 선임은 이 교수의 국제적 연구 역량과 학계 내 입지를 반영하는 것으로 평가된다. 2026년 MobiSys 학회는 전 세계 연구자들의 주목 속에 차세대 모바일·IoT 시스템 기술의 방향성을 제시하는 자리가 될 전망이다....