Optimality Theory

생성음운론의 시작인 촘스키-할레의 『영어의 음성패턴』(The Speaking Pattern of English, 이하 SPE)에서 제시된 규칙 기반 모형(Rule-based model)이 생성음운론의 여러 문제점이 발전 과정에서 지적되자, 그 대안으로서 Prince and Smolensky의 "Optimality Theory: constraint interaction in generative grammar"와 McCarthy and Prince의 "Generalized Alignment"와 "Prosodic Morphology Ⅰ: constraint interaction and satisfaction" 등에서 제약 상호작용(constraint interaction)으로서 음운 현상을 설명하고자 하는 최적성 이론(Optimality theory)이 제안되었으며, 현재 음운론 연구에 있어서 지배적인 이론으로 자리 잡았다.

최적성 이론은 오로지 제약만을 사용하며, 그 어떠한 규칙도 상정하고 있지 않다. 최적성 이론에서 사용하는 기본적인 도구들에는 유표성 제약(Markedness Constraint), 충실성 제약(Faithfulness Constraint), Gen 함수 등이 있다. 기존의 규칙 기반 체계(rule-based system)는 기저형이 여러 개의 음운 규칙을 순서대로 적용받아 표면형을 산출해내는 일종의 컨베이어 벨트 시스템과 같았다면, 최적성 이론의 경우, 입력값(input) 혹은 기저형에 상응하여 Gen 함수가 상상할 수 있는 모든 산출값을 생성하고, 제약들을 가장 잘 만족하는 산출값(output)을 표면형으로 실현하는 모델이다.

규칙 기반 이론과 최적성 이론의 이러한 차이점은 음운론 학자들의 임무도 바꾸어 놓았다. 규칙 기반 문법이 음운론 연구의 주된 방법이었을 때는, 음운론을 연구하는 사람들의 주된 업무는 올바른 규칙과 규칙순을 밝혀내는 것이었다. 그런데 최적성 이론이 음운론 연구의 주된 방법으로 자리 잡고 난 이후에는, 올바른 제약과 그 제약의 순위(ranking)를 밝혀내는 것이 주된 업무가 되었다. 따라서 규칙을 인정하지 않고 오로지 제약만을 통해서 설명함으로써 제약과 규칙이 포착하고자 하는 바가 겹치는 중복 문제나 공모 문제를 해소할 수 있었다.

또한, 기존의 규칙 기반 모델은 많은 경우 “The phonology of Language X”와 같이 개별 언어의 음운론을 형태소 구조 제약(MSC)와 바꾸어 쓰기 규칙(rewrite rule)으로 분석하고 설명하는 논문이 주를 이루었다. 규칙 기반 모델에서는 일반적으로 각 언어마다 개별적인 규칙들이 있기에 다른 언어의 사례를 많이 보지 않아도 충분한 기술이 가능하였다. 그런 까닭에 규칙 기반 음운론의 이론 및 체계 자체에 대한 의견 제시는 적었다. 즉, 언어 분석과 음운론 전체 체계에 대한 연구는 분리되어 있었다는 것이다. 그러나 최적성 이론의 경우, 한 언어만 봐서는 제약들을 찾아내기 어려우므로 다른 언어들을 살펴보고 그러한 제약이 있음에 대한 합리적인 이유를 제시해야 한다. McCarthy의 "Doing Optimality Theory"(p.31)에 따르면, 한 언어의 분석자는 주어진 제약들을 배열하는 것뿐만 아니라 때때로 옛 제약들을 수정하거나 새로운 제약을 제시해야 한다. 다시 말해, 개별 언어 분석을 위해서는 보편적 이론에 대한 인식과 평가가 필요하다는 점에서 최적성 이론에서는 분석과 이론화가 하나이다. 더 나아가, 여러 언어들의 분석으로부터 보편적 제약을 추론해낸다는 점에서, 보편 문법의 이념을 보다 제대로 실현하는 이론이라고 할 수 있다.

유표성 제약(markedness constraint)은 회피해야 할 나쁜 형태를 표현하는 제약으로서, 그러한 형태를 제외한 나머지 모든 출력값 형태는 좋다고 주장하는 제약이다. 반면에 충실성 제약(faithfulness constraint)은 산출값을 입력값에 최대한 충실하게 하라는 제약이다. 유표성 제약은 일반적으로 언어 유형론적인 유표적 값(marked value)과 무표적 값(unmarked value) 분석에 기반 하여 분석된다. 무표적 형태 혹은 값은 언어들에 보편적으로 나타나는 경향이 있는 것인 반면에, 유표적 형태 혹은 값은 많은 언어들에서 회피되는 것이다. 예컨대, 전설 평순 모음 [i]와 [e]는 모든 언어에서 나타나지만, 전설 원순 모음 [y]와 [ø]는 일부 언어에서만 나타나는데, 이때 전설 모음에 있어 [round] 자질에 대해 보다 유표적인 것은 [+round]라고 할 수 있다. 최적성 이론은 이러한 유표성에 대하여, 1) 유표적 요소는 잘못된 것이 아니라, 그 언어의 특성을 보여주는 언어 간의 대조되는 부분이며, 2) 유표적인 것과 무표적인 것은 임의적인 것이 아니라, 조음 또는 지각적 체계에 뿌리를 둔 것이라는 가정에 기반 한다. 따라서 유표성 제약을 음운론의 이론 체계에 제시하기 위해서는, 조음 또는 지각적 근거를 제시해야 한다.

유표성 제약은 조음과 지각의 한계 때문에, 즉 발음의 경제성 등에 의해 선호되는 발음이 있다는 것을 반영한 것이며, 충실성 제약은 의미의 대립을 위해 언어는 최소한의 형식적 대립이 필요하다는 것을 반영한 제약이다. 이러한 제약들은 충분히 모순적일 수 있다. 먼저 유표성 제약은 입력값의 어떠한 형태가 나쁘므로 회피하라는 제한을 가할 수 있고, 동시에 충실성 제약은 입력값의 어떠한 형태를 그대로 유지하라는 제한을 가할 수 있다. 즉, 최적성 이론은 같은 입력값에 대해 반대 방향의 두 힘이 작용하는, 내재적으로 모순적인 힘들에 대한 체계라는 것이다. 따라서 이러한 서로 모순되는 제약들 중 하나는 위배되어야 하므로, 최적성 이론은 위배될 수 있는 제약들 간의 이론이다. 최적성 이론의 문법은 반드시 이러한 보편적 제약들 사이의 갈등을 조절해야 하는데, 이러한 갈등 조절 메커니즘이 바로 보편적 제약들 사이의 순위(ranking)이다. 최적성 이론에서는 더 순위가 높은 이론의 만족을 위해서 더 낮은 순위의 제약이 위배될 수 있으며, 더 높은 순위의 제약 위배는 낮은 순위의 제약의 충족에 의해서 보상되지 않는다. 바로 이러한 보편 제약들 간의 순위 차이가 각 언어들에 나타나는 음운 현상 차이의 원인이라고 최적성 이론은 주장한다.

영어의 복수형 접미사 /-əz/에 대해, 어근의 마지막 자음이 치찰음일 때 [-əz]로 실현되고, 그렇지 않고 치찰음이 아닌 유성자음이나 모음으로 끝날 때는 /z/로 실현된다. 최적성 이론은 이러한 음운 현상을 몇 가지 제약과 그 순위로 설명해낸다.[1]

이 때, [baksəz] > [baksz]이고 [baksəz] > [bakz]이므로(A > B는 A가 B보다 최적인 형태라는 것을 의미), *SS >> DEP이고 MAX >> DEP이다. *SS와 MAX 제약 간의 순위는 주어진 현상 자료로는 매길 수 없다. 따라서 이 세 제약 간의 순위는 *SS, MAX >> DEP이다. 이러한 제약과 그 순위가 올바른 형태를 추론해낼 수 있음을 보여주는 표(tableau)는 아래와 같다.

최적성 이론은 이러한 제약들과 그 순위를 통해서 여러 가지 음운 현상, 음소 간의 대립, 변이음 교체, 음소 배열론 등 다양한 현상을 설명하고자 하며, 실제로 큰 성공을 거두었다. 특히 규칙 기반 음운론에서 단순한 예외라고 기술될 수밖에 없었던 수많은 사례들을, 그것이 예외가 아니라 일관적 제약 순위로 설명해낼 수 있음을 보였다. 즉, 그 언어의 일반적인 제약을 위배하거나 응당 받아야할 규칙의 적용을 받지 않은 사례에 대해, 기존의 규칙 기반 음운론은 이를 예외로 기술하며 설명하기 곤란해 했지만, 최적성 이론은 이에 대한 적절한 제약 순위를 제시함으로써, 그러한 현상이 예외가 아니라 더 높은 순위를 준수하기 위해 더 낮은 순위의 제약을 위배한 것이라는 설명을 제시할 수 있다는 것이다.

그러나 이러한 최적성 이론에도 문제점이 있는데, 과잉생성(overgeneration)과 과소생성(undergeneration)이 대표적이다.

과잉생성의 경우, 하나의 문제에 대해 너무 많은 해결책이 이론적으로 가능하다는 것이다. 이에 대한 예시는 다음과 같다. 일반적으로 어말 유성음은 유표적인 것으로서 많은 언어에서 회피된다.

그런데 독일어나 네덜란드어와 같이 이러한 제약의 순위가 높은 어떤 언어에서 그 입력값에 /neb/와 같이 어말 유성 자음이 나타난다고 할 때, 이 제약을 회피하고자 할 것인데, 최적성 이론에서는 그 가능한 회피 방법이 다양하다. 예컨대 MAX 제약의 순위가 더 낮다면 어말의 유성 자음을 탈락시킬 수도 있을 것이며, DEP 제약의 순위가 더 낮다면 어말에 모음을 추가시킬 수도 있을 것이다. 그러나 그러한 음운 현상은 그 어떤 언어에서도 나타나지 않고, 오로지 유성 자음을 무성음화시키는 현상만 나타난다. 즉, 한 유표성 문제에 대해서 한 해결책만 있는 경우가 있는 것 같고, 왜 그 한 가지 해결책만 나타날 수 있는지 최적성 이론은 적절한 답을 하기 어렵다는 것이다.

반대로 과소생성은, 최적성 이론이 실제 나타나는 음운 현상을 설명할 수 없다는 것이다. 과거 규칙 기반 음운론에서 규칙순(rule ordering)으로 설명했던 현상들이 바로 이러한 문제점을 보여주는데, 대표적인 예가 한국어의 폐쇄음 이후 된소리화(post-obstruent tensing, 이후 된소리화로 표기)와 자음군 탈락(consonant cluster reduction)이다. 한국어에서는 /입고/가 [입꼬]로 발음되는 것과 마찬가지로 음절을 경계로 폐쇄음 다음에 예사소리가 올 때 두 번째 자음이 된소리화 된다. 그러나 앞 자음이 유음일 때는 뒤의 자음이 된소리화 되지 않는다. 또한, /값/이 [갑]으로 발음되는 것처럼 어말에 자음군이 올 때 자음 하나를 탈락시킨다. /밟고/의 경우, 구어에서는 [발꼬]라고 발음되는 경우가 많은데, 이러한 현상에 대해 규칙 기반 음운론은 규칙순으로 설명할 수 있다. 기저형 /밟-고/에서 먼저 된소리화가 적용되어 [밟꼬]가 된 이후, 자음군 탈락 규칙이 적용되어 [발꼬]의 표면형으로 실현되었다는 설명이다.

그러나 최적성 이론의 방법론으로는 이를 분석해낼 수 없다. 먼저, /입고/가 [입꼬]로 실현된다는 것을 설명하기 위해서는, 폐쇄음 뒤에 오는 예사소리가 된소리가 아니면 안 된다는 유표성 제약(TENSING)과 그것에 반하여 한 분절음의 된소리 여부(tensing)를 유지하라는 충실성 제약(IDENT[tense])이 필요할 것이다. 이때 [입꼬] > [입고]이므로 TENSING >> IDENT[tensing]이다. 다음으로, /값/이 [갑]으로 실현된다는 것을 설명하기 위해서는, 자음군 연속을 금지하는 제약(*COMPLEX)과 그것에 반하여 입력값의 요소들을 출력값에서 보존하라는 제약(MAX)이 필요할 것이다. 이때 [갑] > [값]이므로 *COMPLEX >> MAX이다. 된소리화를 설명하는 제약 집합과 자음군 탈락을 설명하는 제약 집합 사이의 순위는 알 수 없다(물론 순위가 있다고 하더라도 최적값의 결과는 변하지 않는다).

이를 바탕으로 /밟고/의 최적 출력값을 추론해보면 다음과 같다.[2]

[발꼬]가 아닌 *[발고]가 예측이 되는데, 이렇듯 최적성 이론의 틀 안에서는 마땅히 도출되어야 할 음운 현상들을 설명해낼 수 없다는 과소생성의 문제가 발생한다. 이러한 문제를 해결하기 위해, 최적성 이론을 제시한 학자 중 한명인 McCarthy는 규칙 기반 모델의 규칙순(rule-ordering)의 개념을 받아들이는 OT-CC를 제안하는 등, 최적성 이론의 문제 해결을 위한 새로운 이론을 제시하고는 있지만, 최적성 이론만큼의 호응을 얻고 있지는 못하고 있다.