경제사회학 3. 신제도주의 경제학의 핵심 - 제도와 규범이 경제 거래에 미치는 제약과 영향

신제도주의는 1970년대 이후 경제학과 사회학 모두에서 주목받기 시작한 이론적 접근법이다. 기존 신고전파 경제학이 가정하는 완전한 시장과 합리적 행위자라는 전제에 의문을 제기하면서, 실제 경제 활동이 다양한 제도적 틀 안에서 이루어진다는 점을 강조한다. 제도란 단순히 법률이나 공식적 규칙만을 의미하는 것이 아니라, 인간의 행동을 안내하고 제약하는 모든 형태의 사회적 구조를 포괄한다.

신제도주의의 등장 배경과 문제의식

전통적인 경제학 모델에서는 거래비용이 0이고 정보가 완전하며 모든 행위자가 합리적으로 행동한다고 가정한다. 하지만 현실에서는 정보를 수집하고 처리하는 데 비용이 들고, 거래 상대방의 행동을 감시하고 계약을 이행시키는 데도 상당한 비용이 발생한다. 더욱이 사람들은 항상 완전히 합리적으로 행동하지 않으며, 제한된 인지능력과 불완전한 정보 속에서 의사결정을 내린다.

신제도주의 학자들은 이러한 현실적 제약을 인정하고, 제도가 이러한 문제들을 해결하는 데 중요한 역할을 한다고 주장한다. 제도는 거래비용을 줄이고, 예측 가능성을 높이며, 신뢰를 구축하는 기능을 수행한다. 동시에 제도는 경제 행위자들의 선택을 제한하기도 하고 특정한 방향으로 유도하기도 한다.

이러한 접근법은 경제 발전의 차이를 설명하는 데도 유용하다. 같은 자원과 기술을 보유하고 있어도 국가나 지역마다 경제 성과가 다른 이유는 제도적 차이 때문이라는 것이다. 효율적인 제도를 갖춘 사회는 빠른 경제 발전을 이루지만, 비효율적인 제도에 갇힌 사회는 정체를 벗어나기 어렵다.

제도의 정의와 유형

신제도주의에서 말하는 제도는 공식적 제도와 비공식적 제도로 구분할 수 있다. 공식적 제도는 법률, 규정, 정부 정책처럼 명문화되고 공식적으로 인정받는 규칙들이다. 반면 비공식적 제도는 관습, 전통, 사회적 규범, 문화적 가치처럼 명문화되지 않았지만 사람들의 행동을 강력하게 제약하는 요소들이다.

흥미롭게도 비공식적 제도가 때로는 공식적 제도보다 더 강한 영향력을 행사한다. 예를 들어 한국의 연고주의 문화는 법적으로 명시되지 않았지만 채용, 승진, 거래 관계 등에서 중요한 역할을 한다. 이러한 비공식적 제도는 거래비용을 줄이는 긍정적 기능을 하기도 하지만, 때로는 공정한 경쟁을 저해하는 부정적 효과를 낳기도 한다.

제도는 또한 인지적 차원과 규범적 차원, 규제적 차원으로 나누어 볼 수 있다. 인지적 차원은 사람들이 현실을 어떻게 인식하고 해석하는지에 관련된다. 규범적 차원은 무엇이 적절하고 바람직한 행동인지에 대한 사회적 기준을 의미한다. 규제적 차원은 명시적인 규칙과 제재 메커니즘을 가리킨다.

거래비용 이론과 제도의 경제적 기능

신제도주의의 핵심 개념 중 하나는 거래비용(transaction cost)이다. 올리버 윌리엄슨이 발전시킨 이 개념은 시장에서 거래를 성사시키기 위해 발생하는 모든 비용을 의미한다. 여기에는 정보 수집 비용, 협상 비용, 계약서 작성 비용, 이행 감시 비용, 분쟁 해결 비용 등이 포함된다.

만약 거래비용이 0이라면 모든 경제 활동이 시장을 통해 이루어질 것이다. 하지만 실제로는 거래비용이 상당하기 때문에 기업, 정부, 각종 조직 같은 대안적 거버넌스 구조가 등장한다. 기업 내부의 위계적 조직은 시장 거래보다 효율적일 수 있고, 장기계약이나 전략적 제휴도 거래비용을 줄이는 방법이다.

제도는 이러한 거래비용을 줄이는 중요한 역할을 한다. 확립된 법적 시스템은 계약 이행을 보장함으로써 거래 당사자들의 불안을 줄인다. 신용평가 시스템은 거래 상대방에 대한 정보를 제공해 정보 수집 비용을 절약한다. 업계 관행이나 표준은 매번 새롭게 협상할 필요를 없애 협상 비용을 줄인다.

하지만 제도가 항상 효율적인 것은 아니다. 기득권을 보호하거나 변화를 저해하는 제도적 경직성도 존재한다. 또한 제도를 유지하고 운영하는 데도 비용이 들기 때문에, 제도의 편익과 비용을 종합적으로 고려해야 한다.

경로의존성과 제도 변화

신제도주의의 또 다른 핵심 개념은 경로의존성(path dependence)이다. 이는 과거의 선택이나 우연한 사건이 현재와 미래의 제도적 발전 경로를 제약한다는 의미다. 한번 특정한 제도적 경로에 들어서면 자기강화 메커니즘(self-reinforcing mechanism)에 의해 그 경로에서 벗어나기 어려워진다.

예를 들어 QWERTY 키보드 배열은 타자기 시대의 기술적 제약에 맞춰 개발되었지만, 컴퓨터 시대에도 계속 사용되고 있다. 더 효율적인 키보드 배열이 개발되었음에도 불구하고, 기존 사용자들의 학습비용과 네트워크 효과 때문에 변화가 어렵다. 이처럼 제도는 한번 정착되면 강한 제도적 관성을 보인다.

하지만 제도가 영원히 변하지 않는 것은 아니다. 외부 충격이나 위기는 기존 제도의 한계를 드러내고 변화의 기회를 만든다. 1997년 외환위기는 한국의 기업지배구조와 금융시스템을 크게 바꾸는 계기가 되었다. 2008년 금융위기도 전 세계적으로 금융규제 제도의 개편을 가져왔다.

제도 변화는 혁명적 변화와 점진적 변화로 나누어 볼 수 있다. 혁명적 변화는 급속하고 근본적인 제도 전환을 의미하며, 보통 정치적 혁명이나 전쟁, 심각한 경제위기 등과 함께 일어난다. 점진적 변화는 기존 제도의 틀 안에서 조금씩 이루어지는 변화로, 일상적인 제도 운영 과정에서 나타나는 제도적 학습과 적응의 결과다.

제도와 경제 발전

신제도주의는 경제 발전의 차이를 설명하는 새로운 관점을 제시한다. 더글러스 노스를 비롯한 학자들은 제도의 질(institutional quality)이 경제 성장의 핵심 요인이라고 주장한다. 효율적인 제도는 투자를 장려하고 혁신을 촉진하며 인적자본 축적을 돕는다. 반면 비효율적인 제도는 경제 활동을 위축시키고 자원을 낭비하게 만든다.

재산권(property rights)은 가장 기본적이면서도 중요한 제도다. 재산권이 확실하게 보장되지 않으면 사람들은 투자나 생산 활동에 소극적이 된다. 언제든지 재산을 빼앗길 수 있다면 장기적인 투자는 의미가 없기 때문이다. 역사적으로 재산권이 잘 보장된 사회일수록 경제 발전이 빨랐다.

법치주의(rule of law)도 마찬가지로 중요하다. 법이 예측 가능하고 공정하게 적용되는 사회에서는 거래비용이 낮아지고 장기적인 경제 계획이 가능해진다. 반대로 자의적이고 부패한 법 집행은 경제 활동을 위축시킨다.

정치제도도 경제 발전에 중요한 영향을 미친다. 포용적(inclusive) 정치제도는 다양한 사회 집단의 이익을 반영하고 경제적 기회를 확대한다. 반면 추출적(extractive) 정치제도는 소수 엘리트의 이익에 봉사하며 경제 발전을 저해한다.

사회적 규범과 신뢰의 역할

제도는 공식적인 규칙만이 아니라 사회적 규범(social norms)도 포함한다. 신뢰, 호혜성, 협력의 문화는 거래비용을 현저히 줄이고 경제 활동을 원활하게 한다. 로버트 푸트남이 이탈리아 연구에서 보여준 것처럼, 사회적 자본이 풍부한 지역일수록 경제 성과가 좋다.

신뢰(trust)는 특히 중요한 사회적 규범이다. 거래 상대방을 신뢰할 수 있다면 복잡한 감시 시스템이나 법적 보장 장치가 필요 없다. 이는 거래비용을 대폭 줄이고 새로운 형태의 경제 활동을 가능하게 한다. 현대의 온라인 거래나 공유경제가 성공할 수 있는 것도 평판 시스템을 통한 신뢰 구축 때문이다.

하지만 신뢰는 하루아침에 만들어지지 않는다. 오랜 기간의 반복적 상호작용과 긍정적 경험의 축적을 통해 서서히 형성된다. 한번 깨진 신뢰를 회복하는 것은 더욱 어렵다. 이는 제도 설계에서 신뢰 구축 메커니즘을 중요하게 고려해야 하는 이유다.

제도적 다양성과 비교제도 분석

신제도주의는 하나의 최적 제도가 존재한다고 보지 않는다. 각 사회의 역사적 배경, 문화적 특성, 발전 단계에 따라 적합한 제도가 다를 수 있다는 제도적 다양성(institutional diversity)을 인정한다. 서구의 제도를 그대로 이식한다고 해서 같은 결과가 나오는 것은 아니다.

예를 들어 기업지배구조만 봐도 미국식 주주자본주의, 독일식 이해관계자 자본주의, 일본식 관계적 자본주의 등 다양한 모델이 존재한다. 각각은 해당 사회의 제도적 맥락에서 나름의 효율성을 보인다. 중요한 것은 다른 요소들과의 제도적 상호보완성(institutional complementarity)이다.

비교제도 분석(comparative institutional analysis)은 서로 다른 제도적 배치의 성과를 비교 분석한다. 이를 통해 제도 설계의 원리를 찾고 제도 개혁의 방향을 모색할 수 있다. 하지만 단순한 모방보다는 자국의 맥락에 맞는 창조적 적응이 중요하다.

제도 개혁의 과제와 한계

신제도주의적 관점에서 볼 때 제도 개혁은 단순히 새로운 법이나 규정을 만드는 것으로 끝나지 않는다. 비공식적 제도와의 조화, 기존 이해관계자들의 저항, 의도하지 않은 부작용 등을 종합적으로 고려해야 한다.

특히 제도적 공백(institutional void)이나 제도적 갈등이 발생할 수 있다. 공식적 제도는 바뀌었지만 비공식적 제도가 그대로 남아있어 혼란이 생기는 경우가 대표적이다. 또한 서로 다른 제도 영역 간의 정합성(coherence)도 중요한데, 한 영역의 개혁이 다른 영역에 예상치 못한 영향을 미칠 수 있다.

제도 개혁의 순서와 속도도 중요한 고려사항이다. 너무 급진적인 개혁은 사회적 혼란을 야기할 수 있고, 너무 점진적인 개혁은 기득권의 저항에 무력화될 수 있다. 성공적인 제도 개혁을 위해서는 정치적 리더십, 사회적 합의, 단계적 접근 등이 필요하다.

결론

신제도주의는 경제 현상을 이해하는 데 있어 제도의 중요성을 부각시켰다. 시장이 효율적으로 작동하기 위해서는 적절한 제도적 뒷받침이 필요하며, 경제 발전의 차이도 상당 부분 제도적 차이로 설명할 수 있다는 통찰을 제공했다.

제도는 경제 행위자들의 선택을 제약하기도 하고 가능하게 하기도 한다. 효율적인 제도는 거래비용을 줄이고 신뢰를 구축하여 경제 활동을 촉진한다. 하지만 제도는 경로의존성과 관성을 가지고 있어 변화가 쉽지 않다.

신제도주의적 관점은 경제정책 수립과 제도 개혁에도 중요한 시사점을 제공한다. 단순히 좋은 제도를 도입하는 것만으로는 충분하지 않으며, 기존 제도적 맥락과의 조화, 사회적 수용성, 단계적 접근 등을 종합적으로 고려해야 한다. 결국 제도와 규범이 경제 거래에 미치는 제약과 영향을 이해하는 것은 현대 경제를 분석하고 바람직한 방향으로 발전시키는 데 필수적인 과제인 것이다.