인과효과(causal effect)라는 개념은 많은 과학 분야 전반에 걸쳐 근본적이다. 전통적으로 양적 연구자들은 변수 수준에서 인과효과를 연구해 왔는데, 예컨대 특정 약물의 용량(W)이 환자의 혈압(Y)에 인과적으로 어떤 영향을 미치는지와 같은 문제를 다루는 방식이다. 그러나 많은 현대 데이터 영역에서는 이미지의 픽셀이나 언어 모델의 토큰(token)처럼 원시 변수(raw variables)가 의미론적 구조를 갖추지 못하므로, 의미 있는 인과 질문을 공식화하기 어렵다. 본 논문에서는 확률론에서 독립(independence)과 같은 핵심 개념이 사건(event)과 시그마-대수(sigma-algebras) 수준에서 먼저 주어지고 그 후에 확률변수(random variables)가 등장한다는 점에서 영감을 받아, 사건 수준에서 인과효과를 연구함으로써 보다 세밀한 관점을 제시한다. 인과 공간(causal spaces)의 계측론적(measure-theoretic) 틀 안에서, 최근에 도입된 인과성의 공리화(axiomatisation)에 기반하여, 우리는 먼저 인과효과의 존재 여부를 결정하는 몇 가지 이원적(binary) 정의를 소개하고, 개입(intervention) 측정에 따라 인과효과를 (비)독립성(in)dependence과 연결하는 몇 가지 성질을 증명한다. 나아가 사건에 대한 인과효과의 강도와 성격을 포착하는 계량 척도들을 제공하고, 그러한 척도들이 치료효과(treatment effect)에 대한 통상적 측정값을 특수한 경우로서 복원할 수 있음을 보인다.

본 논문에서는 대규모 언어 모델을 기반으로 구조화된 상식 지식을 문맥화(contextualization)하는 과정을 효과적으로 안내하기 위한 COCONUT을 제안한다. COCONUT은 문맥화 지시(prompting) 방식을 활용하여 대규모 언어 모델로부터 고품질의 문맥화 예시를 수집한다. 이후 이러한 예시는 소규모 언어 모델로 증류(distill)되어 문맥화 능력을 향상시킨다. 광범위한 평가 결과, CO-CONUT은 다양한 벤치마크, 모델 및 환경 전반에서 상식 추론 성능을 현저히 향상시키며, 문맥화된 상식 지식을 생성하는 데 있어 유연성과 보편성을 보인다. 특히 COCONUT은 평균 5.8%로 기존의 최신 기술(state-of-the-art) 기법을 일관되게 능가한다. Q. 사람들이 만년필(fountain pen)에서 새로 나온 잉크를 흡수하기 위해 사용하는 것은 무엇인가?