cs.HC, cs.AI · 발표 2026-08-06임팩트
대규모 언어 모델을 활용하여 전개 중인 음모론에 대한 믿음 줄이기
Thomas H. Costello, Nathaniel Rabb, Michael Nicholas Stagnaro, Gordon Pennycook, David Rand
인용 2영향력 인용 1
- 주요 사건 발생 후 나타나는 음모론은 심각한 사회적 문제로, 이를 해결할 방법이 필요합니다.
- 본 연구는 대규모 언어 모델(LLM)과의 대화가 실시간으로 전개되는 음모론에 대한 믿음을 줄일 수 있는지 실험했습니다.
- LLM은 Donald Trump 암살 시도와 Charlie Kirk 암살 사건 직후 음모론적 견해를 가진 참가자들과 대화했습니다.
- LLM 치료 그룹은 대조군(무관한 주제 대화 또는 정적 팩트 시트)보다 음모론 믿음이 유의미하게 감소했습니다.
- LLM 기반 개입은 새로운 음모론 확산을 막고, 대규모로 적용 가능한 오정보 대응책이 될 잠재력이 있습니다.
#음모론#대규모 언어 모델#오정보#사회심리학
cs.AI, cs.LG · 발표 2026-08-06최신
AgentOPSD: 에이전트 강화 학습을 위한 재귀적 자기 증류
Zi-Han Wang, Zhengxi Lu, Zhiyuan Yao, Jinyang Wu, Jie Wu, Zhengzhou Cai, Yueqing Sun, Ziang Ye 외 5명
HF upvotes 85
- 기존 강화 학습은 장기적인 에이전트 작업에서 핵심 결정에 대한 보상 할당에 어려움이 있습니다.
- 이 연구는 에이전트 강화 학습에서 턴(turn) 단위 보상 할당을 위한 AgentOPSD를 제안합니다.
- AgentOPSD는 토큰 수준의 확률 차이를 턴 수준 증거로 모아 베이즈 신념 상태를 재귀적으로 갱신합니다.
- ALFWorld, WebShop 등에서 Qwen2.5 모델로 평가한 결과, ALFWorld에서 89.1% 성공률을 달성했습니다.
- 이 방법은 비평가(critic)나 추가 탐색 없이 작동하며, 턴 단위 보상 할당의 효율성을 높입니다.
TLDR (Semantic Scholar): This work proposes AgentOPSD, a critic-free, recursive method for turn-level credit assignment in agentic reinforcement learning that aggregates token-level teacher-student log-probability gaps into turn-level evidence and recursively updates a Bayesian belief state in log-odds space.
#강화 학습#자기 증류#보상 할당#에이전트 AI