추론 시스템의 규칙 철회
추론 시스템에서 핵심적인 과제는 단순히 주어진 사실들로부터 결론을 도출하는 것이 아니다. 여러 규칙들이 동시에 적용되면서 발생하는 모순을 어떻게 처리하고 조정할 것인지, 더 나아가 이미 적용한 규칙을 철회해야 하는 상황에서 시스템을 어떻게 안정적으로 유지할 것인지가 본질적인 문제다. 이러한 문제의식은 비모노토닉 추론을 다루는 연구들—예를 들어 Reiter의 기본 논리 이론인 Default Logic [Reiter (1980)]—에서도 중심적으로 논의된다.
이 논의의 전제는 ‘심볼(symbol)’이 단순한 기호가 아니라 진리값 또는 보다 일반적인 평가(evaluation)를 담고 있다는 점이다. 즉, 동일한 심볼에 대해 서로 다른 추론 경로가 각자 고유한 방식으로 값을 부여할 수 있으며, 규칙(rule)이란 특정 조건이 충족될 때 그 심볼에 특정 값을 할당할 수 있는 가능성의 장치다. 이러한 관점은 표현의 다중성과 평가의 충돌을 다루는 의미론적 이론들—예를 들어 Dung이 제시한 Argumentation Framework Dung (1995)—과도 연결된다. 문제는 규칙의 종류가 매우 다양하며, 그에 따라 하나의 심볼이 동시에 서로 다른 값들을 부여받게 된다는 점이다.
따라서 최종적으로 심볼의 값을 결정해야 하는 상황에서는 단순한 규칙 적용만으로는 충분하지 않고, 어떤 값을 선택할 것인가를 정하는 가치 함수(value function)가 필요하다. 심볼에 대한 가능한 평가들을 나열해 검토하는 일과, 실제로 그 중 하나를 최종값으로 선택하는 일은 본질적으로 다르다. 이는 인지과학에서 제한된 자원을 효율적으로 사용해 판단을 내린다는 Resource Rationality Lieder & Griffiths (2020) 개념과도 연결된다. 어떤 심볼은 그 값의 결정이 매우 중요하거나 계산적으로 난해해서 신중한 고려가 필요하지만, 또 어떤 심볼은 그 중요도가 낮아 빠르게 평가가 이루어져도 문제되지 않는다.
현실적인 추론에서는 이 최종값의 결정을 위해 여러 차례 반복(iteration)을 거치며 가치 함수에 기반한 연산을 누적하게 된다. 그렇다면 여기서 “규칙을 적용한다”는 행위와 “규칙을 철회한다”는 행위는 무엇을 의미하는가? 규칙 철회는 크게 두 가지 이유에서 발생할 수 있다. 하나는 초기 정보나 조건이 불완전했기 때문에 일시적으로 규칙을 적용했으나 더 이상 유지할 수 없게 된 경우, 또 하나는 외부의 반박이나 공격을 받아 규칙이 정당성을 잃는 경우다. 이러한 구조는 비모노토닉 추론 및 지식 갱신 연구—예를 들어 Alchourrón, Gärdenfors, Makinson의 AGM 이론 AGM (1985)—에서 다뤄지는 신념 수정(belief revision) 문제와 직접적으로 연결된다.
따라서 규칙을 철회했을 때, 그 규칙이 기여했던 추론 결과들을 어떻게 수정하고 제거할 것인지, 그리고 그 과정이 시스템 전체에 어떤 추가적 효과를 가져올지는 철회의 원인과 맥락에 따라 달라진다. 궁극적으로 추론 시스템은 규칙의 적용과 철회, 심볼에 대한 평가와 최종 결정 사이에서 균형을 유지해야 한다. 이러한 구조적 안정성이 확보될 때 비로소 복잡한 규칙 환경에서도 일관된 판단을 내릴 수 있는 추론 체계가 성립한다.