math.OC, cs.LG · 발표 2026-09-17임팩트
비쌍대 설정에서 립시츠 볼록 최적화의 1차 오라클 복잡도
David Martínez-Rubio, Brian Bullins, Cristóbal Guzmán, Mathieu Molina
인용 1
- $\ell_p$-볼에서 $\ell_q$-노름 립시츠 볼록 함수 최적화의 수렴 속도 개선 가능성을 탐구합니다.
- 새로운 온라인 학습 게임을 제안하며, 비교 대상은 관찰된 아핀 손실의 최댓값으로 평가됩니다.
- 이 게임의 가치는 순차적 팻-섀터링 차원(sequential fat-shattering dimension)으로 상한과 하한이 결정됩니다.
- $\ell_1$-볼에서 유클리드-립시츠 볼록 최적화 시 기존 $O(1/\sqrt{T})$에서 $\widetilde O(1/T)$로 속도가 향상됩니다.
- 이 연구는 볼록 최적화의 수렴 속도에 대한 기하학적 영향을 밝히고 벤델 정리의 정량적 버전을 제시합니다.
#볼록 최적화#온라인 학습#수렴 속도#립시츠 함수
cs.AI · 발표 2026-09-15최신
LimiX-2: 일반 구조화 데이터 지능을 위한 문맥 메커니즘 네트워크
Xingxuan Zhang, Gang Ren, Hao Yuan, Hao Zou, Hongze Tan, Hui Wang, Jianhao Song, Jiansheng Li 외 52명
Beijing University of Posts and Telecommunications · Shanghai University of Finance and Economics
HF upvotes 182
- 기존 모델은 특정 데이터셋에 집중하거나 예측에만 초점을 맞춰 구조화 데이터 분석에 한계가 있었습니다.
- LimiX-2는 문맥 메커니즘 네트워크(CMN)를 도입하여 데이터 생성의 공동 구조를 학습합니다.
- 문맥 조건부 마스킹 모델링(CCMM) 방식으로 다양한 합성 데이터셋을 활용해 사전 학습했습니다.
- TabArena, TALENT, BCCO 평가에서 기존 모델들을 능가하는 성능을 보였습니다.
- 이 모델은 예측 성능 외에 인과 관계를 파악하고 인과 골격 복구도 가능하게 합니다.
#구조화 데이터#인과 추론#기계 학습#문맥 학습