연구자료실

설비 연결, 품질 검사, 생산 분석과 제조 업무에 관련된 외부 논문입니다.

연구자료 검색

새 논문 요약

요점은 편집자가 정리한 메모입니다. 원저자의 표현과 다를 수 있으니 원문을 확인하세요. 2026-11-20 갱신.

  1. 189AI Research Agents

    AutoResearchClaw

    • 더 나은 가설 수립과 결과 분석을 위한 멀티 에이전트 토론을 활용한다.
    • 실험이 실패할 때 방향을 전환하거나 개선하는 자가 치유 실행을 지원한다.
    • 가짜 수치와 환각된 인용을 피하기 위한 검증 가능한 보고를 제공한다.
    • 7가지 개입 모드를 갖춘 휴먼 인 더 루프 제어를 제공한다.
    • 과거의 실수를 미래의 안전장치로 바꾸는 실행 간 메모리를 갖춘다.
  2. 188LLMs / Pretraining / Efficiency

    Efficient Pre-Training with Token Superposition

    • 대형 언어 모델의 사전학습은 대규모에서 종종 엄청나게 비싸고 비효율적이며, 높은 데이터 처리량을 달성하기 위해 복잡하고 침습적인 수정이 필요하다.
    • 이 논문은 병렬화, 옵티마이저, 토크나이저, 데이터, 모델 구조를 수정하지 않고도 사전학습 중 FLOPs당 데이터 처리량을 크게 향상시키는 간단한 드롭인 방법인 토큰 중첩 학습(TST)을 제시한다.
    • TST는 두 단계로 이루어진다. 첫째는 다수의 연속된 토큰을 하나의 묶음으로 결합하여 멀티핫 교차 엔트로피(MCE) 목적함수로 학습하는 매우 효율적인 중첩 단계이고, 둘째는 표준 학습으로 되돌아가는 복구 단계다.
    • 저자들은 270M 및 600M 파라미터 규모에서 TST를 광범위하게 평가하고 3B 및 10B A1B 전문가 혼합 모델에서 검증하여, 다양한 설정에서 매우 견고함을 입증한다.
    • 궁극적으로 TST는 베이스라인 손실과 다운스트림 평가를 일관되게 능가하며, 동일 손실 설정에서 10B A1B 규모의 총 사전학습 시간을 최대 2.5배까지 단축한다.
  3. 187Agents / Memory / Multi-Agent

    The Memory Curse: How Expanded Recall Erodes Cooperative Intent in LLM Agents

    • 긴 기억이 협력을 촉진한다는 고전 게임 이론의 예측과, 과도한 인간의 기억이 협력을 저해할 수 있다는 행동심리학의 발견을 조화시키는 것이 문제다.
    • 상호작용 이력 길이의 변화가 LLM 멀티 에이전트 사회적 딜레마에서 협력에 어떤 영향을 미치는지에 대한 체계적이고 대규모적인 연구가 부재하다.
    • 기존 LLM 에이전트 연구는 종종 짧은 상호작용 지평을 사용하여, 이력 축적이 협력적 의도에 미치는 장기적 영향을 놓쳤을 가능성이 있다.
    • 7개의 LLM을 대상으로 4가지 반복 사회적 딜레마 게임에서 500라운드에 걸쳐 광범위한 실험을 수행하며, 접근 가능한 메모리 길이를 0라운드부터 80라운드까지 체계적으로 변화시켰다.
    • 378,000개가 넘는 사고 연쇄(Chain-of-Thought) 추론 추적을 어휘 분석으로 분석하여 미래 지향 대 피해망상이라는 전략적 의도를 정량화했다.
    • 표적화된 미세조정, 메모리 정화, 비대칭 메모리 실험을 수행하여 그 메커니즘을 인과적으로 규명하고 완화 전략을 개발했다.
  4. 186Agents / Self-Improvement / Reasoning

    Harnessing Agentic Evolution

    • 기존의 에이전트형 진화 방법은 절차 기반이든 에이전트 기반이든 장기 탐색에 어려움을 겪으며, 종종 국소 최적해에 정체되거나 '컨텍스트 표류'에 시달린다.
    • 절차 기반 진화는 경직되어 있어, 탐색 공간의 특성이 바뀔 때 적응하지 못하는 고정된 규칙에 의존하므로 지속적 개선이 제한된다.
    • 축적된 증거인 후보, 피드백, 실패를 조직하고 이를 사용해 진화 메커니즘 자체를 수정할 안정적이고 체계적인 메커니즘이 부재하다.
    • 이 논문은 모든 후보, 피드백, 추적, 비용의 축적된 이력이 관찰 가능한 프로세스 수준 상태를 구성하는, 인터랙티브 환경으로서의 에이전트형 진화를 정식화한다.
    • 외부 메타 에이전트가 이 프로세스 수준 상태를 관찰하여 '메타 행동'을 생성하는 통제된 메타 편집 프레임워크 AEVO를 도입한다.
    • 이러한 메타 행동은 새 후보를 직접 생성하는 대신, 향후 진화가 진행되는 방식을 제어하는 메커니즘을 전략적으로 편집한다. 예를 들어 절차나 에이전트 운영 컨텍스트를 수정한다.
  5. 185Agents / Science / Math

    AI co-mathematician: Accelerating mathematicians with agentic AI

    • 수학 연구는 형식적 증명을 넘어 광범위한 탐색, 직관 형성, 지속적 수정이 필요한 복잡하고 반복적인 과정이다.
    • 기존 수학용 AI 도구들은 자율 증명기나 발견 엔진처럼 전문화되어 있지만, 장기적이고 협업적인 워크플로를 위해 이러한 역량들을 조율할 통합적이고 상태를 유지하는 시스템이 없다.
    • 수학자들은 현재 작업의 여러 측면에 대해 다양한 AI 도구와 계산 자원을 수동으로 통합해야 하며, 포괄적이고 인터랙티브한 AI 어시스턴트가 없다.
    • AI 공동 수학자는 Gemini 언어 모델 위에 구축된 AI 에이전트의 계층 구조를 사용하여 수학 연구 과제를 관리하고 실행하는 인터랙티브 워크벤치다.
    • 이 시스템은 프로젝트 코디네이터 에이전트를 사용해 사용자 의도를 정교화하고, 문헌 조사·코딩·증명·계산적 탐색 같은 특화된 하위 에이전트를 활용하는 병렬 워크스트림 코디네이터 에이전트에 과제를 위임한다.
    • 이 시스템은 내부 링크, 출처 표시를 위한 여백 주석, 반복적인 AI 주도 검토 과정을 갖춘 '살아있는 워킹 페이퍼'를 생산하는 데 중점을 두며, 비동기적 상호작용과 유연한 사용자 조정을 지원한다.
  6. 184Reasoning / Test-Time Scaling

    LLMs Improving LLMs: Agentic Discovery for Test-Time Scaling

    • 대형 언어 모델(LLM)을 위한 테스트 타임 스케일링(TTS) 전략은 통상적으로 수작업 설계와 휴리스틱 튜닝으로 개발된다.
    • 이러한 인간의 직관에 대한 의존은 복잡한 연산 배분 정책의 탐색을 제한하며 인간의 인지 편향에 취약하다.
    • 수작업 방식은 종종 특정 과제나 모델에 한정된 전략을 낳아, 더 넓은 범위에 걸쳐 최적이 아닌 정확도-비용 트레이드오프를 초래한다.
    • AutoTTS는 테스트 타임 스케일링(TTS)을 컨트롤러 합성 문제로 정식화하며, 여기서 탐색자 LLM이 코드로 정의된 정책을 반복적으로 제안하고 개선한다.
    • 이 방법은 오프라인 리플레이 환경을 활용해 추론 궤적을 사전에 수집함으로써, 실시간 LLM 호출 없이도 후보 컨트롤러를 저렴하고 결정론적으로 평가할 수 있게 한다.
    • 이 프레임워크는 하이퍼파라미터의 탐색 공간을 단순화하기 위해 베타 파라미터화를 도입하고, 견고한 발견을 위한 피드백으로 세밀한 실행 추적을 제공한다.
  7. 183Agents / Multi-Agent / Survey

    Beyond Individual Intelligence: Surveying Collaboration, Failure Attribution, and Self-Evolution in LLM-based Multi-Agent Systems

    • 개별 LLM 에이전트는 다양한 역할과 환경에 걸친 지속적 협응, 적응, 다단계 과제에서 한계에 부딪힌다.
    • LLM 기반 에이전트에 관한 기존 연구는 개별 역량, 멀티 에이전트 협업, 자기 진화를 개별 주제로 따로 다루는 식으로 파편화되어 있어, 이들의 상호의존성에 대한 총체적 이해를 가로막는다.
    • 긴밀하게 결합된 멀티 에이전트 시스템에서 오류 전파와 연쇄적 실패는 자동으로 진단하기 어려우며, 현재 시스템에는 진단적 통찰을 구조적 자기 개선으로 전환하는 메커니즘이 없다.
    • 운영 생애주기를 인과적으로 연결된 네 단계, 즉 역량 기반 구축(Lay), 협업을 통한 에이전트 통합(Integrate), 원인 규명을 통한 결함 발견(Find), 자율적 자기 개선을 통한 진화(Evolve)로 구조화하는 'LIFE 진행' 프레임워크를 제시한다.
    • 개별 에이전트 구성 요소, 멀티 에이전트 협업 메커니즘, 실패 원인 규명 방법, 자기 진화 메커니즘에 대한 분류 체계를 포함하여 각 단계를 체계적으로 검토하고 정형화한다.
    • 실패 진단이 협업 재구성이나 에이전트 행동 개선과 같은 구조적 적응에 직접 반영되는 '폐루프 자기 개선 프레임워크'를 제안하고 분석한다.
  8. 182LLMs / Memory / Architecture

    $δ$-mem: Efficient Online Memory for Large Language Models

    • 대형 언어 모델(LLM)은 확장된 컨텍스트 윈도우의 2차 계산 비용과 '컨텍스트 열화' 문제 때문에 긴 상호작용 이력을 효율적으로 활용하기 어렵다.
    • 현재의 메모리 메커니즘인 텍스트 기반, 외부 채널, 파라메트릭 방식은 정보 손실, 검색 노이즈, 통합 오버헤드, 또는 동적으로 적응하지 못하는 한계 등의 문제를 안고 있다.
    • 전체 모델 미세조정이나 대규모 구조 변경 없이 LLM에 연속적이고 적응 가능한 메모리를 제공하는 방법이 필요하다.
    • δ-mem은 연속적인 과거 정보를 고정 크기의 연관 메모리 온라인 상태(OSAM)로 압축하여 효율적이고 동적인 저장을 가능하게 한다.
    • 이 방법은 순차적인 읽기-조정-쓰기 주기로 동작하며, OSAM에서 읽은 신호로 동결된 백본의 어텐션 메커니즘에 대한 저랭크 보정을 생성하고, 게이트형 델타 규칙으로 OSAM을 갱신한다.
    • 이 시스템은 다양한 맥락과 백본 용량에 맞춰 메모리 갱신을 조정할 수 있도록 서로 다른 쓰기 단위인 Token-State, Sequence-State, Multi-State Write를 제공한다.
  9. 181Agents / Coding / RAG

    Is Grep All You Need? How Agent Harnesses Reshape Agentic Search

    • 기존 연구는 LLM 에이전트의 검색 전략을 완전한 반복적 에이전트 워크플로 안에서가 아니라 고립된 상태로 평가하는 경우가 많다.
    • 검색 전략, 에이전트 구조(맞춤형 대 공급자 네이티브 CLI), 도구 호출 패러다임(인라인 대 파일 기반 결과 전달) 간의 상호작용은 대체로 충분히 탐구되지 않은 채 남아 있었다.
    • 검색 전략이 코퍼스 노이즈가 증가할 때 어떻게 작동하는지에 대한 이해가 제한적이었는데, 이는 실세계 에이전트 배치에서 중요한 측면이다.
    • 어휘적 검색(grep)과 의미적 검색(벡터)을 다양한 에이전트 하네스와 도구 호출 구조 전반에서 비교하는 다면적 실증 연구를 수행했다.
    • 평가에는 LongMemEval 벤치마크의 116문항 부분집합을 사용했으며, 무관한 교란 콘텐츠의 수준이 다양한 다중 세션 대화에 초점을 맞췄다.
    • 다섯 개의 다양한 LLM을 평가했으며, 보조 LLM 채점기를 통해 모든 실험 조건에서 에이전트 정확도를 일관되고 객관적으로 평가하도록 보장했다.
  10. 180LLMs / Architecture / Long Context

    Long Context Pre-Training with Lighthouse Attention

    • 스케일드 닷-프로덕트 어텐션(SDPA)의 2차 시간·메모리 복잡도(Θ(N²))는 극히 긴 시퀀스 길이(예: 128K, 1M+)에서 인과적 트랜스포머를 훈련하는 것을 연산적으로 감당 불가능하게 만든다.
    • 사전학습용 기존 희소 어텐션 기법들은 비대칭적(키와 값만 풀링)이거나 구조적으로 얽혀 있어, FlashAttention 같은 고도로 최적화된 밀집 어텐션 커널의 재사용을 막는 맞춤형 희소 어텐션 연산자를 요구하는 경우가 많다.
    • 희소 어텐션으로 사전학습된 모델이 추론 시 완전한 밀집 어텐션 모델로 효과적으로 기능하도록 보장하는 것은 큰 난제다.
    • 어텐션 커널을 감싸 표준 FlashAttention이 동적으로 압축된 하위 시퀀스에서 작동할 수 있게 하는 4단계 파이프라인(피라미드 구성, 점수화 및 선택, 수집-시퀀스 어텐션, 산포-복원 재구성)을 도입한다.
    • 여러 피라미드 레벨에 걸쳐 쿼리·키·값에 대칭적 평균 풀링을 적용하고, 매개변수 없는 투영-노름 점수기와 미분 불가능한 상위 k개 선택 과정을 결합하여 준-2차 처리를 수행한다.
    • 두 단계 훈련 방식을 사용한다. 즉, 효율을 위해 Lighthouse Attention으로 1차 훈련한 뒤, 추론을 위해 완전한 밀집 SDPA를 사용한 짧은 재개 단계로 모델의 완전한 어텐션 역량을 복원하고 최적화한다.
  11. 179Agents / Security / Skills

    Skills as Verifiable Artifacts: A Trust Schema and a Biconditional Correctness Criterion for Human-in-the-Loop Agent Runtimes

    • 에이전트 스킬은 모델 자체를 수정하지 않고 대규모 언어 모델(LLM)을 보강하는, 지시·스크립트·참조 자료의 구조화된 패키지로서, 편의 기능에서 일급 배포 산출물로 격상되었다.
    • 이를 로드하는 런타임은 패키지 관리자와 운영체제가 늘 직면해온 것과 동일한 문제를 물려받는다. 즉, 어떤 콘텐츠가 특정 동작을 한다고 주장하면, 런타임은 그것을 믿을지 결정해야 한다.
    • 이 논문은 핵심 논지를 처음부터 분명히 한다. 스킬은 검증되기 전까지 신뢰할 수 없는 코드이며, 이를 로드하는 런타임은 서명, 권한 등급, 출처 레지스트리로부터 신뢰를 추론하는 대신 그 기본값을 강제해야 한다.
    • 스킬 검증이 없으면 모든 비가역적 호출마다 사람 개입(HITL) 게이트가 발동해야 하는데, 이는 운영상 지속 불가능하며 비자명한 규모에서는 형식적 승인으로 전락한다.
    • 스킬 검증을 별도의 게이트형 절차로 다루면 HITL은 미검증 대상에 대해서만 발동하고 시스템은 지속 가능해진다.
    • 저자들은 모든 스킬 매니페스트에 명시적 검증 수준을 포함하는 신뢰 스키마, HITL 정책이 해당 검증 수준의 함수로 결정되는 역량 게이트, 임의의 후보 검증 절차가 적대적 앙상블 시험에서 충족해야 하는 쌍조건적 정확성 기준, 그리고 작동하는 오픈소스 참조 구현에서 추상화한 열 가지 규범적 지침을 담은 이식 가능한 런타임 프로파일을 제시한다.
  12. 178Agents / Interpretability / AutoML

    Agentic-imodels: Evolving agentic interpretability tools via autoresearch

    • 기존의 해석가능 머신러닝(IML) 도구는 인간의 해석을 위해 설계되어, AI 에이전트가 안정적으로 파싱하고 활용하기 어려운 출력(예: 시각화)을 산출한다.
    • 이 불일치는 자율 에이전트 데이터 과학(ADS) 시스템에서 신뢰할 수 없는 분석과 가려진 추론과 비효율적 워크플로로 이어진다.
    • 에이전트 해석가능성에 대한 자동화되고 모델 비종속적인 지표가 부재하여 AI 중심 해석가능성 도구의 개발을 저해한다.
    • 에이전트 기반 자가 연구 루프는 예측 성능과 새로운 LLM 채점 해석가능성 점수로부터의 피드백에 기반하여 Python 모델 구현을 반복적으로 수정한다.
    • 모델의 문자열 표현으로부터 모델에 대해 추론하는 LLM의 능력을 200개의 개별 자동화 테스트를 사용해 정량화하는 새로운 '에이전트 해석가능성 점수'를 도입한다.
    • 이 프레임워크는 높은 예측 성능(65개 데이터셋 전반의 순위화된 RMSE)과 높은 에이전트 해석가능성 점수(LLM 테스트 통과율)라는 결합된 목표에 맞춰 모델을 최적화한다.
  13. 177Agents / Memory

    Contextual Agentic Memory is a Memo, Not True Memory

    • 현재의 LLM 에이전트 "메모리"는 주로 외부 조회 메커니즘에 의존하는데, 이는 진정한 학습 및 전문성 발달과 잘못 동일시된다.
    • 조회 기반 에이전트는 조합적으로 새로운 과제에 효과적으로 일반화하지 못하고, 내재적 지식을 발달시키지 못한 채 정보만 축적한다.
    • 기존 에이전트 메모리 구조는 일시적 프롬프트 주입이 영속적으로 저장되고 조회될 수 있어 지속적인 보안 침해에 취약하다.
    • 이 논문은 LLM 에이전트의 "메모리"를 재정의하여, 사례 기반 조회(맥락 엔지니어링)와 규칙 기반의 가중치 인코딩 학습(theta-학습)을 구분한다.
    • 조회 기반 메모리의 한계를 조합적 과제에 대한 "일반화 격차 정리"로 이론적으로 정식화한다.
    • 빠른 일화적 조회와, 증류된 경험을 주기적이고 오프라인으로 모델 가중치에 인코딩하는 "통합 채널"을 결합한 "공존 구조"를 제안한다.
  14. 176Agents / Data / Infrastructure

    Synthetic Computers at Scale for Long-Horizon Productivity Simulation

    • 실세계의 긴 호라이즌 생산성 궤적을 대규모로 수집하는 것은 민감한 사용자 데이터에 따른 프라이버시 문제와 이질적 사용자 환경의 복잡성으로 인해 어렵다.
    • AI 에이전트는 풍부한 사용자별 맥락과 지속적 행동이 결여된, 현실적이고 긴 호라이즌의 생산성 업무(정보 수집, 분석, 협업, 산출물 생산)에서 어려움을 겪는다.
    • 에이전트 훈련용의 일반적이고 장난감 수준인 워크플로는 실세계 생산성 과제의 맥락 집약적 특성을 충분히 반영하지 못해 에이전트의 효과를 제한한다.
    • "Synthetic Computers at Scale" 방법론은 표집된 페르소나를 구체화하여 디지털 작업공간을 채움으로써, 다양하고 산출물이 풍부하며 사용자별로 특화된 합성 컴퓨터 환경을 생성한다.
    • 이 환경 안에서 긴 호라이즌 생산성 시뮬레이션(약 한 달치의 인간 업무를 모사)을 수행하며, 목표와 협업자를 정의하는 설정 에이전트와 반복적 계획 수립 및 일일 실행을 담당하는 작업 에이전트를 사용한다.
    • 이 시뮬레이션에서 풍부한 경험적 학습 신호(과정 수준과 결과 수준 모두)를 추출하여 에이전트의 자기 개선과 강화학습을 촉진한다.
  15. 175Agents / Reinforcement Learning

    On Training Large Language Models for Long-Horizon Tasks: An Empirical Study of Horizon Length

    • 상호작용 에이전트로 배치된 대규모 언어 모델(LLM)은 다단계의 긴 호라이즌 실세계 과제에서 어려움을 겪는다.
    • 선행 연구는 LLM 훈련 동역학에 영향을 미치는 근본 요인으로서의 내재적 과제 호라이즌 길이를 대체로 간과하며, 종종 다른 복잡성 요인과 혼동한다.
    • 더 긴 호라이즌은 오차 누적, 상태-행동 매핑 복잡성의 기하급수적 증가, 희소하고 지연된 피드백으로 인한 모호한 신용 할당 같은 난제를 악화시킨다.
    • 추론 복잡성을 일정하게 유지하면서 내재적 과제 호라이즌 길이를 분리하고 변화시키도록 설계된 통제된 과제 환경(스도쿠, 러시아워)을 사용하여 체계적 실증 연구를 수행했다.
    • 이 연구는 '호라이즌 축소' 원리, 구체적으로 매크로 액션(에이전트가 한 스텝에 여러 원자적 행동을 생성하도록 허용)과 하위 목표 분해(과제를 검증 가능한 하위 목표로 나누고 조밀한 중간 보상을 부여)를 도입하고 평가한다.
    • LLM 에이전트는 지도 미세조정(SFT) 이후, 견고한 학습을 위한 오프폴리시 안정화 기법을 결합하여 재평가된 REINFORCE 알고리즘을 사용한 강화학습(RL)으로 훈련된다.
  16. 174Agents / Multi-Agent / Architecture

    Coordination as an Architectural Layer for LLM-Based Multi-Agent Systems

    • LLM 기반 멀티 에이전트 시스템은 모호성과 정렬 불일치 같은 협응 결함으로 인해 실제 운영 환경에서 높은 실패율(41~87%)을 보인다.
    • 특정 협응 구성을 예측 가능한 실패 양상 시그니처에 매핑하는 원리적 프레임워크가 부재하여, 선제적 시스템 설계를 저해한다.
    • 멀티 에이전트 구조에 대한 기존 실증 비교는 구조적 효과를 정보 접근성 증가와 혼동하는 경우가 많아, 진정한 구조적 영향을 규명하기 어렵게 만든다.
    • 이 논문은 협응을 에이전트 로직 및 정보 접근과 구별되는 구성 가능한 구조적 계층으로 다룰 것을 제안하며, 통신 토폴로지와 집계 규칙을 포함한 일곱 가지 요소로 최소한으로 명세한다.
    • LLM, 도구 스택, 프롬프트 템플릿, 출력 상한을 엄격히 고정하고 협응 계층만 변화시키는 "정보 통제" 실험 방법론을 설계하고 구현했다.
    • 예측 시장 테스트베드(Polymarket)를 사용하여, 객관적 실제 결과 해소와 엄격히 적정한 채점 규칙(Brier 점수, Murphy 분해)을 활용해 예측 신뢰도와 해소에 대한 구조적 효과를 평가하고 진단했다.
  17. 173Agents / Coding / Evaluation

    Frontier Coding Agents Can Now Implement an AlphaZero Self-Play Machine Learning Pipeline For Connect Four That Performs Comparably to an External Solver

    • 기존 AI 역량 벤치마크는 재귀적 자기 개선(RSI)에 대한 충분히 이른 경고 신호를 제공하지 못할 수 있다.
    • 확립된 AI 연구 성과에 기반하여 종단간 머신러닝 파이프라인을 자율적으로 구현하는 AI의 역량을 측정할 필요가 있다.
    • 고도화된 AI 시스템의 평가는 샌드배깅이나 의도적인 성능 저하 같은 잠재적 전략 행동으로 인해 복잡해진다.
    • 소비자용 하드웨어에서 3시간의 제한 시간 내에 커넥트 포를 위한 AlphaZero 방식 자가 대국 ML 파이프라인을 자율적으로 구현하도록 프런티어 코딩 에이전트에게 과제를 부여하는 벤치마크를 개발했다.
    • 격리된 샌드박스 Docker 환경에서 네 개의 프런티어 코딩 에이전트(Gemini 3.1 Pro, Claude Opus 4.6, Claude Opus 4.7, GPT-5.4)를 평가했다.
    • 다양한 프롬프트 전략(예: 'Hobbyist' 대 'RSI Alert')과 실행 환경을 사용하여 GPT-5.4에 대한 샌드배깅 프로브를 수행함으로써 이상한 시간 예산 사용 양상을 조사했다.
  18. 172LLMs / Pretraining / Safety

    Self-Improving Pretraining: using post-trained models to pretrain better models

    • 기존 LLM 훈련은 안전성, 사실성, 품질, 복잡한 추론 같은 핵심 행동의 도입을 사후학습 단계로 미룬다.
    • 초기 사전학습 중에 학습된 패턴은 이러한 바람직한 속성에 대한 명시적 안내가 부족하여, 나중에 완전히 교정하기 어려운 지속적 약점을 야기한다.
    • 사전학습 데이터에는 명시적 추론 흔적이 대체로 결여되어 있어, 복잡한 추론 능력 습득이 비용이 큰 사후학습에 주로 의존하게 되어 효율이 제한된다.
    • "자기 개선 사전학습" 프레임워크는 사전학습을 시퀀스 생성 과제로 재정의하며, 더 강력한 사후학습 모델을 데이터 품질과 안전성을 개선하는 접미사 재작성기이자 훈련용 보상 신호를 제공하는 접미사 판정기로 활용한다.
    • "사고 중간학습" 단계는 사전학습 데이터에 "사고"를 교차 삽입하여 보강하고 지도 미세조정을 적용한 뒤, 후속 텍스트 예측에서 생성된 사고의 유용성을 최적화하기 위해 강화학습을 수행한다.
    • DPO나 RF-NLL 같은 온라인 강화학습 알고리즘을 사용하여, 판정기가 제공하는 보상에 기반해 더 높은 품질과 안전성과 사실성을 갖춘 접미사를 생성하도록 정책 모델을 훈련한다.
  19. 171Agents / Multi-Agent / Orchestration

    Learning to Orchestrate Agents in Natural Language with the Conductor

    • 복잡한 과제를 위한 최적의 프롬프트 엔지니어링 전략과 멀티 에이전트 워크플로를 수작업으로 설계하는 것은 시간이 많이 들고 어렵다.
    • 어떤 단일 모델도 보편적으로 최적이지 않기 때문에, 다양한 LLM의 특화된 강점을 효과적으로 활용하기는 어렵다.
    • 기존의 멀티 에이전트 협응 방식은 사람이 설계한 스캐폴드, 사전 정의된 라우팅, 고정된 도구 사용 패턴에 의존하는 경우가 많아 유연성과 적응성이 제한된다.
    • Conductor라는 7B LLM은 종단간 강화학습(GRPO 알고리즘)으로 훈련되어, 워커 LLM과 하위 과제와 통신 패턴을 명시하는 에이전트 워크플로를 자연어로 생성한다.
    • Conductor는 일곱 개의 강력한 워커 LLM으로 구성된 다양한 풀(상용 및 오픈소스)을, 문제를 동적으로 분해하고 맞춤형 지시와 함께 목표 하위 과제를 위임함으로써 오케스트레이션한다.
    • 이 프레임워크는 재귀적 자기 호출을 포함한 유연한 통신 토폴로지의 출현을 허용하여, 테스트 시점에 협응 전략의 동적 개선과 적응적 자원 할당을 가능하게 한다.
  20. 170Reasoning / Agents / Coding

    HeavySkill: Heavy Thinking as the Inner Skill in Agentic Harness

    • 복잡한 LLM 에이전트 오케스트레이션 프레임워크 내부에서 성능을 이끄는 구체적 메커니즘은 대체로 규명되지 않은 채 남아 있다.
    • 현재의 LLM 에이전트 설계는 핵심 추론 과정에 대한 명확한 추상화 없이 광범위한 시스템 엔지니어링에 의존하는 경우가 많다.
    • 기존의 테스트 시점 스케일링(TTS) 전략은 특화된 구조적 변경이나 대규모 사후학습을 수반하는 경우가 많아, 보편적이고 이식 가능한 '스킬' 표현이 부족하다.
    • K개의 독립적인 궤적을 생성하는 병렬 추론과 이 궤적들을 처리하고 합성하는 순차적 숙고로 구성된 2단계 추론 파이프라인 HEAVYSKILL을 제안한다.
    • 추론 궤적을 저장하고 정리하는 직렬화된 메모리 캐시를 구현하여, 맥락 관리를 용이하게 하고 숙고 과정에서의 위치 편향을 방지한다.
    • 집중 사고 워크플로를 읽을 수 있는 스킬 문서로 증류하여, 임의의 LLM 오케스트레이터가 맥락 내 지시에 기반해 자율적으로 실행할 수 있게 함으로써 이식성을 높인다.
  21. 169Agents / Skills / Self-Improvement

    Co-Evolving LLM Decision and Skill Bank Agents for Long-Horizon Tasks

    • 복잡하고 장기적인 환경에서 구조화된 스킬을 발견·보존·재사용함으로써 지속적으로 개선할 수 있는 자율 에이전트를 구축한다.
    • 현재의 LLM 에이전트는 스킬 습득을 위해 큐레이션된 인간 데이터셋이나 광범위한 외부 피드백에 의존하는 경우가 많아 확장성과 적응성이 제한된다.
    • 다양하고 미래의 과제에 걸쳐 스킬을 조직·정제하고 신뢰성 있게 검색하는 것은 기존 에이전트 아키텍처에 도전 과제가 된다.
    • COS-PLAY 프레임워크는 궤적을 생성하는 의사결정 에이전트(LLM)와 이를 재사용 가능한 구조화된 스킬로 변환하는 스킬 뱅크 에이전트를 갖춘 멀티 에이전트 공진화 시스템을 도입한다.
    • 스킬은 요약, 사전 조건, 계획, 성공/중단 기준 등의 프로토콜을 포함하는 재사용 가능하고 시간적으로 확장된 행동 추상화로 정의되며, 동적으로 진화하는 스킬 뱅크에 저장된다.
    • 두 에이전트는 각각의 LoRA 어댑터와 함께 Group Relative Policy Optimization(GRPO)으로 최적화되어, 개선된 스킬이 의사결정을 향상시키고 더 나은 롤아웃이 스킬 학습을 정제하는 폐루프 공진화를 촉진한다.
  22. 168Agents / RAG / Reasoning

    When to Retrieve During Reasoning: Adaptive Retrieval for Large Reasoning Models

    • 대형 추론 모델(LRM)은 광범위한 다단계 사고 사슬을 생성하지만, 외부 지식이 필요할 때 사실적 부정확성과 증가한 환각률에 시달린다.
    • 전통적인 검색 증강 생성(RAG) 시스템은 단일 사전 검색을 사용하는데, 이는 LRM의 다단계 추론 중 출현하는 동적이고 예측 불가능한 지식 공백과 근본적으로 어긋난다.
    • 표준 LLM을 위해 설계된 기존 반복 검색 방법은 입도 불일치, 블랙박스 모델에서 사용할 수 없는 내부 신호 의존, 긴 추론 사슬에 대한 과도한 효율 비용 때문에 LRM과 호환되지 않는다.
    • 추론 인식형 검색 프레임워크인 ReaLM-Retrieve는 동적 검색을 순차적 의사결정 문제로 정식화하여, 토큰이나 문장 수준이 아니라 논리적 추론 단계 입도에서 개입한다.
    • 언어화된 불확실성, 개체 기반 엔트로피, 일관성 신호를 결합한 Reasoning Step Uncertainty Score(RSUS)를 도입하여, 블랙박스 호환 방식으로 지식 공백과 검색 필요성을 탐지한다.
    • REINFORCE로 학습된 검색 개입 정책은 언제 검색할지를 동적으로 결정하고, 관련 질의를 구성하며, 암묵적 압축·추측적 캐싱·KV-캐시 보존 같은 기법을 사용해 검색된 콘텐츠를 효율적으로 통합한다.
  23. 167Agents / Memory / Multimodal

    OCR-Memory: Optical Context Retrieval for Long-Horizon Agent Memory

    • LLM은 유한한 컨텍스트 윈도를 가지므로, 장기 과제에서 에이전트가 효과적으로 보존하고 활용할 수 있는 과거 상호작용 이력의 양이 제한된다.
    • 기존의 텍스트 기반 메모리 압축 기법은 디버깅 같은 복잡한 에이전트 작업에 결정적인 세밀한 구조적·절차적 세부 정보를 종종 잃게 한다.
    • 텍스트 전용 검색 방법은 파편화되었거나 의미적으로 유사하지만 논리적으로 무관한 정보를 제공할 수 있고, 생성형 검색은 잘못된 증거를 환각할 위험이 있다.
    • 이 프레임워크는 에이전트의 전체 상호작용 궤적을 고밀도 이미지로 시각적으로 인코딩한 뒤, OCR 모델을 사용해 이를 간결한 시각 토큰으로 압축한다.
    • Locate-and-Transcribe 검색 패러다임은 시각적으로 표시된 메모리에서 특정 세그먼트 인덱스를 예측하여, 원문 그대로의 텍스트를 결정론적으로 가져오고 환각 위험을 완화한다.
    • 적응형 다해상도 전략은 저장된 메모리의 시각적 충실도를 경과 시간에 따라 동적으로 조정하여 시각 토큰 비용을 줄이는 한편, 능동적 회상을 통해 필요 시 고충실도 세부 정보를 복원할 수 있게 한다.
  24. 166Agents / Distillation / Efficiency

    Latent Agents: A Post-Training Procedure for Internalized Multi-Agent Debate

    • 명시적 멀티 에이전트 토론은 LLM 정확도를 높이고 환각을 줄이지만, 여러 차례 모델을 호출하고 장황한 출력을 요구하여 계산 비용이 크고 비싸다.
    • LLM 추론을 내재화하는 기존 방법은 주로 단일 에이전트의 명시적 추론 단계에 초점을 맞추며, 멀티 에이전트 토론의 복잡한 상호작용은 다루지 않는다.
    • 바람직하지 않은 LLM 행동을 억제하는 것은 거친 제어 메커니즘 때문에 일반적 모델 능력의 저하(정렬세, alignment tax)로 이어지는 경우가 많다.
    • 전체 멀티 에이전트 토론 궤적에 대한 지도 파인튜닝(SFT)에 이어 동적 보상을 사용하는 강화학습(RL)으로 구성된 2단계 파인튜닝 파이프라인 IMAD를 개발했다.
    • RL 단계는 점진적으로 명시적 토론 언어화에 대한 유인을 줄이는 동시에 출력 길이 한도를 좁혀 가며 정답에 보상하는 동적 보상 함수를 사용하여, 잠재적 내재화를 강제한다.
    • 내재화된 모델 내에서 식별된 에이전트 부분공간에 활성화 스티어링을 적용하여, 악의적 특성 억제를 포함한 특정 행동을 제어한다.
  25. 165Agents / Skills

    From Skill Text to Skill Structure: The Scheduling-Structural-Logical Representation for Agent Skills

    • 에이전트 스킬은 주로 텍스트 위주의 산출물로 표현되어, 자연어 설명 안에 호출 인터페이스, 실행 구조, 도구 사용을 뒤섞어 놓는다.
    • 스킬 정보의 암묵적 특성은 자동화 시스템이 대규모 스킬 저장소에서 관련 능력을 파싱·검증·신뢰성 있게 재사용·효율적으로 발견하는 것을 저해한다.
    • 제3자 스킬의 실행 전 보안 위험 평가는 구분되지 않은 텍스트 형식 때문에 어렵고, 위험 관련 증거를 검사·감사하기가 까다롭다.
    • 비정형 SKILL.md 문서로부터 스킬 정보를 명시적으로 구조화하기 위해, 타입이 지정된 3계층 JSON 그래프인 Scheduling-Structural-Logical(SSL) 표현을 제안했다.
    • SSL은 스킬 속성을 Scheduling Layer(스킬 수준 인터페이스), Structural Layer(장면 수준 실행 단계), Logical Layer(원자적 동작 및 자원 증거)로 분리한다.
    • SKILL.md 파일을 SSL 스키마로 변환하는 LLM 기반 정규화기(DeepSeek-V3.2 사용)를 개발했으며, 원본 산출물에 대한 엄격한 근거 보장과 검증·재시도를 통한 높은 충실도를 확보했다.
  26. 164Agents / Multi-Agent

    From Skills to Talent: Organising Heterogeneous Agents as a Real-World Company

    • 현재의 멀티 에이전트 시스템은 고정된 팀 구조와 강하게 결합된 조정 로직에 의존하여, 새롭고 개방형인 프로젝트에 대해 비유연하고 취약한 것으로 드러난다.
    • 기존 프레임워크는 호환되지 않는 런타임과 세션에 묶인 학습 문제에 직면하여, 지속적인 지식 축적과 다양한 에이전트 간 상호 운용을 저해한다.
    • 통합적 조직 추상화가 부재하여 복잡한 실세계 과제를 위한 AI 에이전트 인력의 체계적 관리·조정·진화가 어렵다.
    • OneManCompany(OMC)는 이질적인 에이전트를 직원으로 통합하는 Talent-Container 아키텍처를 채택하며, 이식 가능한 정체성을 갖추고 다양한 런타임 환경을 추상화한다.
    • 프로젝트 실행은 Explore-Execute-Review(E2R) 트리 탐색으로 정식화되어, 구조화된 계획·실행·평가를 제공하며 과제 종료와 교착 상태 없음에 대한 형식적 보증을 제공한다.
    • OMC는 개별 에이전트 수준과 조직 수준 모두에서 체계적인 자기 진화 메커니즘을 구현하며, 자기 성찰, 갱신된 표준 운영 절차(SOP), 지속적 학습을 위한 인사(HR) 성과 관리를 포함한다.
  27. 163Agents / Multi-Agent / Efficiency

    Recursive Multi-Agent Systems

    • 단일 LLM은 광범위한 추론이나 다양한 전문성이 필요한 복잡한 과제에서 어려움을 겪는 경우가 많다.
    • 기존 멀티 에이전트 시스템(MAS)은 명시적 텍스트 기반 상호작용에 의존하여 높은 지연 시간, 증가한 토큰 사용량, 시스템 수준 최적화 시 기울기 불안정성을 초래한다.
    • 학습을 통해 MAS 내 에이전트 전체를 최적화하는 것은 계산 비용이 크며, 프롬프트 기반 적응은 핵심 에이전트 능력 향상에 한계가 있다.
    • 전체 멀티 에이전트 시스템을 협업적 추론의 반복적 정제를 위한 통합된 잠재 공간 재귀 계산으로 정식화하는 프레임워크 RecursiveMAS를 개발했다.
    • 에이전트 간 효율적인 잠재 상태 전달과 정제를 가능하게 하는 경량 잔차 RecursiveLink 모듈(에이전트 내부용 inner, 에이전트 간용 outer)을 도입했다.
    • 베이스 LLM 파라미터는 동결한 채 RecursiveLink만 배타적으로 최적화하는 2단계 inner-outer 루프 학습 알고리즘을 구현하여 안정적인 시스템 수준 공동 최적화를 촉진했다.
  28. 162Agents / Survey

    Agentic World Modeling: Foundations, Capabilities, Laws, and Beyond

    • 다양한 AI 분야에 걸쳐 세계 모델 개념이 파편화되어 정의와 평가 관행이 일관되지 않고 진척을 비교하기가 어렵다.
    • 세계 모델에 관한 기존 서베이는 대개 모달리티와 도메인을 가로지르는 일관된 능력 진행 단계나, 대형 생성 모델을 시뮬레이터로 분석할 정밀한 프레임워크가 부족하다.
    • 신흥 에이전트형 AI 응용(예: 웹 에이전트, 멀티 에이전트 시스템)에서 세계 모델링이 하는 역할은 통합 프레임워크 안에서 과소 대표되는 경우가 많다.
    • 세계 모델링 능력을 세 수준(L1 Predictor, L2 Simulator, L3 Evolver)과 네 가지 지배 법칙 영역(물리·디지털·사회·과학)으로 조직하는 포괄적인 수준 × 법칙 분류 체계를 도입한다.
    • L2의 장기 일관성 및 개입 민감도, L3의 증거 기반 진단 등, 한 수준에서 다음 수준으로 능력을 끌어올리기 위한 명확하고 검증 가능한 경계 조건을 정의한다.
    • 의사결정 중심 평가 지표(예: Action Success Rate, Counterfactual Outcome Deviation)로의 전환을 제안하고, 정의된 능력 수준에 맞춰 평가 프로토콜을 표준화한다.
  29. 161LLMs / Agents / Efficiency

    AgenticQwen: Training Small Agentic Language Models with Dual Data Flywheels for Industrial-Scale Tool Use

    • LLM 기반 에이전트의 산업 배포는 매우 크거나 독점적인 파운데이션 모델에 따르는 높은 계산 비용과 지연 시간 때문에 제약된다.
    • 견고한 다단계 에이전트 능력과 도구 상호작용에 특화되어 최적화된 소형 언어 모델이 부족하다.
    • 에이전트 강화학습에 사용되는 정적 합성 데이터셋은 데이터 동질성과 학습 신호의 빠른 포화를 초래하는 경우가 많아 추가적인 성능 향상을 제한한다.
    • Reasoning RL과 Agentic RL을 결합한 다회차 강화학습 접근법으로 소형 AgenticQwen 모델(8B 및 30B-A3B)을 학습시켰다.
    • Reasoning Data Flywheel과 Agentic Data Flywheel로 구성된 이중 데이터 플라이휠 메커니즘을 도입하여 점점 더 복잡하고 다양한 학습 데이터를 반복적으로 생성한다.
    • 강력한 LLM(Qwen3-235B)이 사용자와 도구를 모두 모델링하는 완전 시뮬레이션 학습 환경을 활용하여, 데이터 합성 및 시뮬레이션에서 외부 독점 API에 대한 의존을 제거했다.
  30. 160Agents / Infrastructure

    Agentic Harness Engineering: Observability-Driven Automatic Evolution of Coding-Agent Harnesses

    • 코딩 에이전트 하네스(시스템 프롬프트, 도구, 미들웨어)를 수동으로 설계·최적화하는 것은 시간이 많이 들고 LLM의 빠른 발전 속도를 따라잡기 어렵다.
    • 기존 자동 최적화 방법은 주로 개별 하네스 구성요소를 다듬는 데 집중하여, 상호작용하는 구성요소 전체를 함께 진화시키지 못한다.
    • 이질적인 행동 공간, 긴 에이전트 궤적에서 실행 가능한 신호를 추출하는 어려움, 편집 효과의 복잡한 귀인 문제로 인해 하네스의 공동 진화를 자동화하기는 어렵다.
    • AHE는 베이스 LLM은 고정한 채, 편집 가능한 모든 하네스 구성요소를 폐루프 안에서 지속적으로 최적화하는 진화 에이전트를 도입한다.
    • NexAU 하네스 기반을 통한 구성요소 관측성 축을 활용하여, 일곱 가지 구성요소 유형을 명시적인 파일 단위 요소로 분리해 국소화된 행동 공간을 만든다.
    • 경험 관측성 축은 Agent Debugger를 사용해 원시 에이전트 궤적을 구조화된 실행 가능 증거 코퍼스로 변환하며, 결정 관측성은 Evolve Agent가 증거 기반 편집을 생성해 버전 관리되는 변경 매니페스트에 기록함으로써 구현된다.

연구에서 제품 적용까지

운영 중인 기능, 시범 적용과 개발 중인 기술을 구분해 정리했습니다.

보유기술 보기