위키독:중국어 방 역설 - 대체 누가 중국어를 이해하고 있는가?

중국어 방 역설.

중국어 방 논증.

존 설의 중국어 방.

Chinese Room Argument.

모라벡의 역설, 일라이자 효과와 함께 인공지능분야에서 다뤄지는 유명한 논증 중 하나. 존 설이 튜링 테스트1의 불완전성을 비판하기 위해 제안한 사고 실험이다. 설은 튜링테스트의 질문&답변 체계를 정면으로 반박하고 있다. 기계가 어떠한 질문에 대해 사람처럼 답변을 할 수 있더라도 그것이 지능의 유무를 판단하는 기준이 될 수 없다는 것이다.

튜링 테스트

생각하는 기계를 제안한 앨런 튜링이 고안한 테스트.

튜링 테스트의 목적은 기계가 인간과 얼마나 비슷하게 대화할 수 있는지 알아보는 것으로 기계에 지능이라고 할 만한 것이 있는지 알아내는 테스트이다. 튜링 테스트는 매년 열리고 있으며 많은 공학자들이 여기에 합격하기 위해 도전했지만 아직 최고상을 수상한 사람은 없다고 알려져 있다. 다만 동상은 매년 누군가가 타간다.

튜링이 최초로 제안한 방법은 다음과 같다. 심사위원은 인간과 인공지능 중 랜덤으로 배정받아 대화를 시작하게 된다. 이 게임의 핵심은 인공지능쪽은 자신이 인간이라고 믿게 만드는 것이고 인간쪽은 자신이 인공지능이라고 속여야된다는 것. 튜링 테스트를 통과하는 기준은 심사위원 10명 중 3명, 즉 30%를 속이는 것이다. 고작 30%라고? 하겠지만 아직까지 최고상을 받은 사람이 없을 정도로 상당히 하드한 난이도를 자랑한다. 더군다나 기계를 인간이라고 했다가 튜링 테스트에 통과한 기계가 나와버리면 최초로 튜링 테스트 최고상을 받게 해준 심사위원이라는 불명예(?)도 있기 때문에 심사위원들은 아주 필사적이다!

이 튜링 테스트는 앨런 튜링이 제안한 것으로 원조 이미테이션 게임OIG(Original Imitation game)이라고 하며 요즘은 표준 튜링 테스트STT(Standard Turing Test)로 바뀌었다. 심판과 도전자 단 두 명이 수행하게 되며 심판은 대화를 통해 상대가 인간인지 판단하는 것이다. 튜링은 이 테스트를 통과한 기계가 있다면,(즉 사람과 구분할 수 없는 대화 능력을 가지고 있다면) 그 기계는 지능을 가지고 있다고 판단해도 좋다고 하였다.

튜링 테스트가 시작된 순간부터 중국어 방 논증과 같이 다양한 논증으로 이 테스트에 대한 비판이 쏟아지고 있지만 마땅히 인공지능의 지능을 측정할 수 있는 다른 방법이 없어서 울며 겨자먹기 식으로 계속 되고 있다.

중국어 방 논증

존 설의 사고 실험

John Rogers Searle, (1932.7.31 ~ )

2017년 현재 84세이며 현재 캘리포니아 버클리 대학의 철학과 명예교수로 있다. 명성에 비해 이 사람의 근황은 참 거시기한데, 2017년 3월에 그의 연구원인 24세 여성을 성폭행한 혐의로 기소되었다.(...)

이 논증은 1980년에 Behavioural and Brain Sciences에 발표된 그의 논문 『마음, 두뇌 및 프로그램Minds, Brains, and Programs』에서 철학자인 존 설John Searle에 의해 처음 발표되었다.

그가 제안한 사고 실험은 다음과 같다.

이때 존 설은 묻는다. "이 방 안에는 중국어를 할 줄 아는 사람이 없는데도 아무런 문제없이 중국어로 대화가 이루어지고 있다. 즉, 중국어를 이해하지 못하더라도 중국어를 이해하는 것처럼 대화를 할 수 있는 것이다. 이것을 튜링 테스트에 적용시켜보자. 단순히 사람과 대화를 할 수 있다고 해서 그 기계가 지능이 있다고 판단할 수 있는가?"

중국어 방과 컴퓨터, 그리고 인간

중국어 방	컴퓨터	인간
방	하드웨어	뇌
방 안의 사람	소프트웨어	뉴런
질문	입력	소리(자극)
답변	출력	말(반응)
매뉴얼	데이터베이스	기억 및 학습

재미있게도 존 설은 단순히 튜링 테스트를 반박하기 위해 이 사고실험을 제안했지만 중국어 방에 대한 논의는 철학적인 물음에까지 번졌다. 그의 논리를 따르자면 인간 또한 이해하는 것은 아무것도 없다는 결론에 이르기 때문이다.

특이점주의자로 알려져 있는 미래학자 레이 커즈와일은 그의 저서 『특이점이 온다.』에서 이 중국어방 논증을 반박하여 다음과 같은 논리를 폈다.

「인간은 뇌가 있기 때문에 생각이란 것을 할 수 있다. 하지만 뇌는 결국 뉴런들의 집합일 뿐이며 이 부품(뉴런) 하나하나는 생각을 할 수 없다. 뉴런 하나는 단순히 물리, 화학 법칙을 따라서 작동할 뿐이다. 다만 이 부품들이 모여서 뇌라는 하나의 시스템을 이룰때 비로소 생각이라는 것을 할 수 있게 되고 중국어를 이해할 수 있게 되는 것이다.

이렇게 생각해보면 중국어 방 논증 또한 시스템을 구성하는 요소들, '방', '방 안의 사람', '매뉴얼'은 중국어를 이해하지 못해도 괜찮다. 이것들이 모여서 '중국어 방'이라는 하나의 체계를 이뤄서 중국어로 아무 문제 없이 소통할 수 있다면 이 '시스템'은 중국어를 이해하고 있다고 해도 무방한 것이다.」

실제로 현재 인공지능을 개발하고 있는 사람들은 이러한 중국어방 논증을 바탕으로 인공지능을 제작하고 있다. 이미 우리는 중국어방이 적용된 인공지능들을 가지고 있는데 애플의 시리나 삼성의 빅스비, LG의 Q보이스, SK텔레콤의 누구 등이 대표적이다. 사실 이 녀석들을 쓰는 사용자들에겐 얘네들이 실제로 우리의 말을 이해하건 안하건 상관이 없긴 하다. 인식오류없이 잘 알아듣고 원하는 행동을 해주면 그만인 것.

함께보기

모라벡의 역설 - 어려운 것은 쉽고, 쉬운 것은 어렵다.

일라이저 효과 - 기계가 사람처럼 느껴질 때