저는 전체 상태를 다 보지 못한 채 행동해야 하는 에이전트를 연구합니다. 환경은 시간에 따라 변하고, 무엇이 최적인지는 누구도 알지 못합니다.
사람도 전체 그림을 다 보고 결정하지는 않습니다. 일단 결정하고, 결과가 들어오는 대로 고쳐 나갑니다. 에이전트도 그럴 수 있어야 합니다.
소개
서울대학교 산업공학과 박사과정이며, DSBA 연구실에서 강필성 교수님의 지도를 받고 있습니다. 산업공학을 공부하면서, 문제를 볼 때 현장에서 실제로 어떻게 돌아가는지부터 확인하는 습관이 생겼습니다.
연구는 주로 방법이 가정하는 환경과 사람들이 실제로 놓인 환경 사이의 틈에서 시작합니다. ContAccum은 제한된 메모리로 큰 배치의 대조학습을 해야 했던 데서 시작했습니다. gradient accumulation으로는 부족했고, GradCache는 구현이 까다로웠습니다. AlienLM은 기존 프라이버시 방법론이 전통적인 머신러닝을 전제로 만들어져, LLM API와 텍스트를 주고받을 때의 연산량, 데이터 크기, 모달리티를 고려하지 못한다는 점에서 출발했습니다.
지금은 복잡하고, 부분적으로만 관측되며, 시간에 따라 변하는 산업 공정과 닮은 환경을 만들고 그 안의 에이전트를 연구합니다. 이런 환경에서는 최적의 결정이 무엇인지 아무도 모르기 때문에, 평가하는 쪽도 매 단계를 탐욕적으로만 채점할 수 있습니다. 에이전트가 이런 곳에서 일하려면 추론, 검색, 강화학습이 모두 필요해서, 셋을 이 환경 안에서 함께 다루고 있습니다.
어려운 문제일수록 단순한 문장으로 말하고 싶고, 능력을 개선하기 전에 그 능력이 무엇을 뜻하는지부터 알고 싶어 합니다.
Thought for 10 semesters연구 방향
요즘 계속 붙들고 있는 세 가지 방향입니다.
추론과 강화학습
모델이 어떻게 추론하는지, 그리고 RL을 long-horizon 행동을 연구하는 방법으로서 관심을 둡니다. 더 어려운 질문은 보통 reward 이전에 옵니다. 에이전트의 역할, action space, 환경의 동역학, 피드백 구조를 현실적으로 정의하는 일이요. 추론 품질을 유지하면서 효율을 지키는 rationale reduction과 decoding 전략도 함께 연구합니다.
검색
저는 retrieval을 넓게, 외부 정보를 언어 모델로 연결하는 통로로 봅니다. 변하는 환경에서는 새로 쌓인 로그나 측정값을 통해 무엇이 바뀌었는지 알아내는 수단이 되기도 합니다.
시간 속에서 작동하는 에이전트
대부분의 에이전트 벤치마크는 에이전트가 과제를 끝낼 수 있는지를 묻습니다. 저는 그 일을 계속 해낼 수 있는지에 더 관심이 있습니다. 환경이 바뀐 것을 알아차리고, 언제 개입할지 판단하고, 끝이 분명하지 않은 목표를 계속 이어갈 수 있는지가 궁금합니다.
The output is not the answer. The output is the trajectory. 지금은 산업 공정을 본뜬 환경을 만들어 이 문제를 연구하고 있습니다.
대표 연구
-
AlienLMICML 2026
text-only 환경에서 general task에 적용 가능한 최초의 API 경계 프라이버시 방법론입니다. 모델에게는 여전히 쓸모 있지만 외부 관찰자는 복원하기 어려운 외계어로 텍스트를 변환하며, 평문 대비 81% 이상의 성능을 유지합니다.
-
ContAccumNeurIPS 2024
대조학습을 비교 대상뿐 아니라 비교 기준이 되는 query까지 누적해 개선합니다. 검색(retrieval) 모델을 제한된 GPU 환경에서도 큰 배치 효과를 내며 안정적으로 학습할 수 있습니다.
-
CheckEvalEMNLP 2025
LLM-as-a-judge를 human correlation이 아니라 모델과 샘플 변화에 대한 안정성 중심으로 다시 봅니다. 모델이나 데이터가 바뀌어도 일관된 자동 평가가 필요한 실제 서비스 환경에서 유용합니다.
소식
- 2026-10step 9과제 성과와 리뷰어 활동을 반영해 CV를 업데이트했습니다. [CV]
- 2026-07step 8브라우저에서 tokenizer 데모를 직접 실행할 수 있는 AlienLM 프로젝트 페이지가 공개되었습니다. [프로젝트 페이지] [arXiv] [코드]
- 2026-05step 7AlienLM이 ICML 2026에 accept되었습니다.
- 2026-05step 6새 under-review 원고와 정리된 논문을 반영해 CV를 업데이트했습니다.
- 2026-03step 5belief-shift reward와 반도체 장비 로그 retrieval 관련 원고가 under review입니다.
전체 궤적 보기
연구 밖에서
연구 외에는 책과 영화를 즐기고, 스쿠버다이빙과 프리다이빙으로 시간을 보냅니다. 두 마리 고양이 Luce와 hoyang과 함께 지냅니다.
연락
LLM reasoning, RL, agent, retrieval 분야를 연구하거나 실제 서비스에 적용하려는 조직과의 협업에 관심이 있습니다. 특히 공정처럼 복잡하고, 측정하기 어렵고, 시간에 따라 변하는 과정을 다루는 곳에서의 연구 인턴십을 찾고 있으니 편하게 연락 주세요.
주소를 누르면 복사되고, 메일 앱으로 바로 보낼 수도 있어요.
읽어주셔서 감사합니다.
↺ keep generating