정치제도론 1. 제도 연구의 출발점: 제도란 무엇인가? - 고전적 제도주의에서 신제도주의까지의 여정

제도의 정의와 범주

정치학에서 '제도'만큼 자주 언급되면서도 그 의미가 모호한 개념도 드물다. 누군가는 의회나 법원 같은 공식 조직을 제도라고 부르고, 다른 이들은 선거법이나 헌법 같은 규칙을 제도라고 한다. 또 어떤 학자들은 문화적 관습이나 비공식적인 행동 패턴까지도 제도의 범주에 포함시킨다. 이처럼 제도란 개념의 다의성 때문에 정치학자들은 제도를 어떻게 정의하고 분류할 것인가를 두고 오랫동안 고민해왔다.

가장 협소한 정의에서 제도는 명문화된 규칙과 절차를 의미한다. 헌법, 법률, 규정 같은 것들이 여기에 해당한다. 중간 범위의 정의는 이런 공식적 규칙뿐만 아니라 그것을 집행하는 조직까지 포함한다. 의회, 행정부, 법원 같은 국가기관들이 바로 제도의 핵심적인 구성요소가 된다. 가장 광범위한 정의는 여기서 한 걸음 더 나아가 비공식적 규범, 관습, 문화적 전통까지도 제도의 범주에 넣는다. 정치적 후견주의, 부패 네트워크, 암묵적인 권력 분배 규칙 등이 이에 해당한다.

제도의 분류와 유형화

제도를 어떻게 분류할 것인가도 중요한 문제다. 가장 일반적인 구분은 공식적 제도와 비공식적 제도의 이분법이다. 공식적 제도는 헌법이나 법률처럼 명시적으로 규정되고 공적인 권위를 갖는 것들이다. 반면 비공식적 제도는 관행이나 불문율처럼 명문화되지 않았지만 실제 정치 행위를 규율하는 것들을 말한다.

또 다른 분류 기준으로는 제도의 기능을 들 수 있다. 권력을 분산시키는 제도(삼권분립, 연방제), 권력을 통합하는 제도(의원내각제, 단일정부), 대표성을 확보하는 제도(선거제도, 정당), 책임성을 강화하는 제도(탄핵, 국정조사) 등으로 나눌 수 있다.

제도의 변화 가능성에 따라 분류하기도 한다. 헌법처럼 변경이 매우 어려운 경성 제도와 일반 법률처럼 상대적으로 변경이 쉬운 연성 제도로 구분할 수 있다. 이런 구분은 제도의 안정성과 유연성 사이의 긴장 관계를 이해하는 데 도움이 된다.

고전적 제도주의의 유산

20세기 초반까지 정치학은 주로 제도 연구에 집중했다. 이 시기의 학자들은 헌법 구조, 정부 형태, 법률 체계를 상세히 기술하고 비교하는 데 많은 노력을 기울였다. 그들에게 정치란 곧 제도였고, 정치학은 제도학이나 다름없었다.

고전적 제도주의자들은 제도를 정치 현상의 근본 원인으로 보았다. 예를 들어 우드로 윌슨은 의회제와 대통령제의 차이가 정치적 책임성과 효율성에 결정적인 영향을 미친다고 주장했다. 제임스 브라이스는 미국과 영국의 정치 체제를 비교하면서 제도적 차이가 정치 문화와 관행의 차이를 낳는다고 분석했다.

하지만 고전적 제도주의는 지나치게 형식적이고 정태적이라는 비판을 받았다. 제도의 공식적 측면만 강조하고 실제 작동 방식은 소홀히 했다는 것이다. 또한 제도가 왜 그런 형태를 갖게 되었는지, 어떻게 변화하는지에 대한 설명이 부족했다.

행태주의 혁명과 제도의 망각

1950-60년대에 정치학계를 휩쓴 행태주의 혁명은 제도 연구를 주변부로 밀어냈다. 행태주의자들은 개인의 정치적 태도, 신념, 행동을 연구의 중심에 놓았다. 여론조사, 투표 행태, 정치 문화 같은 주제들이 각광받았고, 제도는 단지 행위의 배경이나 맥락으로만 취급되었다.

알몬드와 버바의 정치문화론이 대표적이다. 그들은 민주주의의 성공 여부가 시민들의 정치적 태도와 가치관에 달려있다고 보았다. 제도는 중요하지만 그것을 작동시키는 것은 결국 사람들의 문화적 성향이라는 것이다.

데이비드 이스턴의 시스템 이론도 비슷한 관점을 취했다. 그는 정치 체계를 투입(요구와 지지)과 산출(정책과 결정)의 순환 과정으로 파악했다. 여기서 제도는 투입을 산출로 전환하는 '블랙박스'에 불과했다. 중요한 것은 시스템 전체의 작동 방식이지 개별 제도의 특성이 아니었다.

신제도주의의 등장

1980년대에 들어서면서 제도에 대한 관심이 다시 살아났다. '신제도주의'라 불리는 이 움직임은 행태주의의 한계를 극복하면서도 고전적 제도주의의 단순함을 넘어서려 했다. 마치와 올센은 "제도는 중요하다"라는 선언으로 이 새로운 조류의 시작을 알렸다.

신제도주의자들은 제도가 단순히 개인 행위의 배경이 아니라 행위를 형성하고 제약하는 능동적 요인이라고 주장했다. 제도는 행위자들에게 인센티브를 제공하고, 선택의 범위를 한정하며, 심지어 선호 자체를 형성하기도 한다는 것이다.

또한 신제도주의는 제도의 형성과 변화 과정에 주목했다. 제도는 어떻게 만들어지는가? 왜 어떤 제도는 지속되고 다른 제도는 사라지는가? 제도 변화의 메커니즘은 무엇인가? 이런 동태적 질문들이 연구의 중심이 되었다.

제도는 규칙인가 조직인가?

제도 연구에서 끊임없이 제기되는 논쟁 중 하나가 "제도는 규칙인가 조직인가"하는 문제다. 어떤 학자들은 제도를 본질적으로 규칙의 체계로 본다. 더글러스 노스가 대표적인데, 그는 제도를 "게임의 규칙"이라고 정의했다. 이 관점에서 의회나 법원 같은 조직은 제도가 아니라 제도적 규칙 하에서 활동하는 행위자다.

반면 다른 학자들은 조직 자체가 제도의 핵심이라고 주장한다. 새뮤얼 헌팅턴은 정치 발전을 "정치적 조직과 절차의 제도화"로 정의했다. 이 관점에서는 정당, 군대, 관료제 같은 조직들이 얼마나 안정적이고 자율적이며 적응력이 있는가가 제도화의 척도가 된다.

이 논쟁은 단순한 개념 정의의 문제가 아니다. 제도를 어떻게 보느냐에 따라 연구의 초점과 방법이 달라지기 때문이다. 규칙 중심의 접근은 제도 설계와 개혁에 관심을 갖는 반면, 조직 중심의 접근은 제도의 생존과 적응에 주목한다.

세 가지 신제도주의

신제도주의는 단일한 이론이 아니라 서로 다른 전제와 방법을 가진 여러 접근법의 총칭이다. 크게 역사적 제도주의, 합리적 선택 제도주의, 사회학적 제도주의로 나눌 수 있다.

역사적 제도주의는 제도의 경로의존성과 역사적 맥락을 강조한다. 한번 형성된 제도는 쉽게 바뀌지 않으며, 초기의 선택이 이후의 발전 경로를 제약한다는 것이다. 또한 제도는 권력관계를 반영하고 재생산한다고 본다.

합리적 선택 제도주의는 제도를 합리적 행위자들의 전략적 상호작용의 산물로 이해한다. 제도는 집합행동 문제를 해결하고 거래비용을 줄이기 위해 만들어진다. 이 관점에서 제도는 균형의 결과이며, 참여자들의 이익이 변하면 제도도 변한다.

사회학적 제도주의는 제도의 문화적·인지적 측면을 부각시킨다. 제도는 단순히 효율성 때문이 아니라 정당성과 적절성 때문에 채택되고 유지된다. 조직들은 생존을 위해 제도적 환경의 규범과 기대에 순응한다.

제도 연구의 현대적 의의

제도 연구는 단순한 학문적 관심사를 넘어 현실적 중요성을 갖는다. 민주화, 경제 발전, 거버넌스 개혁 등 현대 정치의 핵심 과제들은 모두 제도 문제와 직결되어 있다. 왜 어떤 나라는 민주주의가 공고화되고 다른 나라는 권위주의로 회귀하는가? 왜 비슷한 자원을 가진 나라들 사이에 경제 성과의 차이가 나는가? 이런 질문들에 답하려면 제도의 역할을 이해해야 한다.

특히 제도 설계와 개혁의 문제는 실천적 함의가 크다. 선거제도를 어떻게 바꿀 것인가? 부패를 줄이기 위해 어떤 제도적 장치가 필요한가? 권력 분립과 견제의 최적 균형점은 어디인가? 이런 질문들은 제도 이론의 도움 없이는 답하기 어렵다.

제도와 행위자의 상호작용

현대 제도 연구의 핵심 과제 중 하나는 제도와 행위자의 관계를 이해하는 것이다. 제도는 행위자를 제약하지만, 동시에 행위자는 제도를 변화시킨다. 이 양방향적 관계를 어떻게 개념화할 것인가?

앤서니 기든스의 구조화 이론은 이 문제에 대한 하나의 해답을 제시한다. 그는 구조(제도)와 행위가 상호 구성적이라고 본다. 행위자들은 제도적 규칙과 자원을 활용해 행동하지만, 그 과정에서 제도를 재생산하거나 변형시킨다.

피에르 부르디외의 아비투스 개념도 비슷한 통찰을 제공한다. 아비투스는 제도화된 성향으로, 행위자들이 제도적 환경에 적응하면서 내면화한 행동 패턴이다. 이를 통해 제도는 행위자의 실천 속에 체화된다.

제도의 다층성과 복잡성

현실의 제도는 단일하고 일관된 체계가 아니라 여러 층위와 영역에 걸쳐 있는 복잡한 구성물이다. 국제 제도, 국가 제도, 지방 제도가 중첩되고, 정치 제도, 경제 제도, 사회 제도가 상호작용한다.

이런 제도적 복잡성은 때로 모순과 갈등을 낳는다. 예를 들어 국제 인권 규범과 국내 주권 원칙이 충돌하거나, 시장 논리와 민주적 가치가 긴장 관계에 놓일 수 있다. 이런 제도 간 상호작용과 모순을 어떻게 이해하고 관리할 것인가는 중요한 연구 과제다.

비교 제도 분석의 중요성

제도 연구에서 비교 방법은 특히 중요하다. 단일 사례 연구만으로는 제도의 효과를 파악하기 어렵기 때문이다. 비교를 통해 우리는 어떤 제도적 배열이 어떤 결과를 낳는지, 제도의 이식 가능성은 어느 정도인지를 알 수 있다.

하지만 제도 비교에는 방법론적 난점도 있다. 제도는 역사적·문화적 맥락과 분리될 수 없기 때문에 단순한 비교가 오해를 낳을 수 있다. 같은 이름의 제도라도 실제 작동 방식은 나라마다 다를 수 있다. 따라서 형식적 유사성을 넘어 기능적 등가성을 찾아내는 것이 중요하다.

제도 연구의 미래 과제

제도 연구는 계속 진화하고 있다. 최근에는 제도의 미시적 기초, 즉 개인들이 어떻게 제도를 인지하고 해석하며 활용하는지에 대한 관심이 커지고 있다. 또한 디지털 기술의 발전이 제도에 미치는 영향, 글로벌 거버넌스의 제도화, 비공식 제도의 역할 등이 새로운 연구 주제로 부상하고 있다.

제도 변화의 메커니즘을 더 정교하게 이해하는 것도 중요한 과제다. 급진적 변화와 점진적 변화, 내생적 변화와 외생적 변화, 의도된 변화와 의도하지 않은 변화 등 다양한 변화 유형과 경로를 체계화해야 한다.

무엇보다 제도 연구는 규범적 차원을 간과해서는 안 된다. 좋은 제도란 무엇인가? 정의롭고 효율적이며 지속가능한 제도는 어떻게 만들 수 있는가? 이런 질문들은 단순히 기술적인 문제가 아니라 가치와 이상의 문제이기도 하다.