cs.CL · 발표 2026-08-27임팩트
CritICL: 소형 언어 모델의 실패 모드를 활용한 추론 시점의 약-강 일반화
Yufan Wu, Yinghui He, Zhengyi Hu, Lang Wei, Ruichen Li, Qifan Yang, Ting Zhu
인용 1
- 대규모 언어 모델(LLM)의 추론 성능 향상 기법들은 반복 생성이나 외부 검증에 의존합니다.
- CritICL은 LLM의 실패 모드가 모델 규모에 따라 구조화된 패턴을 보인다는 점에 착안합니다.
- 이 프레임워크는 약한 모델의 실패 모드를 비판 기반의 문맥 내 예시로 활용하여 추론에 통합합니다.
- CritICL은 동적(dynamic) 및 정적(static) 두 가지 변형으로 제안되며, 각각 적응적 예측과 전역 프로파일을 사용합니다.
- CritICL은 기존 문맥 내 학습보다 우수하며, 적은 생성과 토큰 비용으로 테스트 시점 확장 기법과 경쟁력 있는 성능을 보입니다.
TLDR (Semantic Scholar): Experimental results show that CritICL consistently outperforms standard in-context learning and achieves performance competitive with or superior to test-time scaling methods, while requiring significantly fewer generations and lower token cost.
#LLM#추론 시간 학습#실패 모드#문맥 내 학습
cs.CV, cs.AI, cs.LG, cs.MM, cs.RO · 발표 2026-08-26최신
VBVR-Pro: 원시 시각 추론을 위한 확장 가능하고 검증 가능한 스위트
Junxiang Xu, Ruisi Wang, Fanyi Pu, Maijunxian Wang, Ran Ji, Tongxi Zhou, Chenyang Gu, Jing Zuo 외 44명
Nanyang Technological University · MMLab@NTU, Nanyang Technological University
HF upvotes 250
- 시각적 추론은 시각적 생성을 추론의 매개체로 활용하지만, 확장 가능한 훈련 작업이 부족했습니다.
- 본 연구는 시각적 생성을 통해 원시 시각 추론을 훈련, 검증, 최적화하는 VBVR-Pro를 제안합니다.
- VBVR-Pro는 300개의 절차적으로 생성된 작업 공간과 검증 가능한 보상 평가기를 제공합니다.
- VBVR-Pro로 훈련된 모델은 7개 외부 벤치마크에서 강력한 전이 학습 성능을 보였습니다.
- 이 연구는 시각적 추론에 필수적인 시각-원시 궤적의 존재를 시사하며, 모든 데이터를 공개합니다.
TLDR (Semantic Scholar): This work introduces VBVR-Pro, a closed-loop testbed that makes native visual reasoning through generation trainable, verifiable, optimizable, and experimentally controllable, and identifies recurring failure modes of the prevalent VLM-as-a-judge paradigm.
#시각 추론#생성 모델#강화 학습#벤치마크