프랑켄슈타인은 왜 자신이 만든 존재에게서 도망쳤을까

1. 눈을 뜬 순간 실험은 끝나지 않았다

먼저 이름부터 바로잡자. 프랑켄슈타인은 피조물에게 붙은 이름이 아니라, 그를 만든 빅터의 성이다. 1818년 처음 출간된 이 소설에서 창조자는 이름을 갖고, 피조물은 자신의 이야기를 들려주면서도 고유한 이름을 얻지 못한다. 그 비대칭을 생각하며 읽으면 익숙한 괴물 이야기가 조금 다르게 보인다.

1831년 개정판의 탄생 장면에서 빅터는 피조물의 외모를 견디지 못해 달아난다. 훗날 피조물은 자신이 겪은 고립을 말하며 창조자에게 의무를 요구한다. 독자는 실험실에서 무슨 일이 가능했는지에 이어, 그 뒤에 누구의 삶이 어떻게 달라졌는지를 듣게 된다. 여기서 살펴보는 장면은 1831년판 제5장과 제10장 (새 창)에 근거한다.

이 소설을 ‘위험한 발명은 하지 말라’는 경고로만 읽으면, 빅터가 달아나는 장면의 불편함을 충분히 보지 못한다. 그는 존재를 탄생시킬 능력은 얻었지만, 탄생 이후의 관계는 준비하지 않았다. 적어도 이 장면은 그렇게 읽을 수 있다. 실패를 기술의 성능에서만 찾던 시선이 창조자의 행동으로 옮겨간다.

물론 피조물의 고통이 이후의 폭력을 정당화해 주는 것은 아니다. 작품 속 인물의 자기 설명을 곧바로 작가의 판결로 받아들일 수도 없다. 오히려 독자가 머무를 자리는 그 사이에 있다. 누군가의 책임을 묻는 일과 그를 무조건 면책하는 일은 얼마나 다른가. 만들어진 존재의 행동을 비판하면서도, 만든 사람이 외면한 몫을 함께 물을 수 있을까.

여기서 오늘의 AI를 곧장 피조물과 동일시할 필요는 없다. 소설 속 존재에게 부여된 감각과 고통을 실제 소프트웨어가 지녔다고 가정하는 순간, 비유가 증거를 대신하게 된다. 지금 가져올 수 있는 것은 질문의 순서다. 성공을 선언하기 전에, 성공 뒤에 남을 사람과 관계를 바라보는 순서.

2. 태엽을 감으면 수도사가 기도한다

이번에는 실험실에서 시간을 거슬러 올라가 보자. 스미스소니언 국립미국사박물관에는 16세기의 수도사 모양 자동인형이 있다. 태엽장치로 몸과 눈, 입이 움직이고 팔은 묵주를 입술 쪽으로 들어 올린다. 기도하는 사람의 동작이 작은 몸 안에서 반복된다.

이 물건을 특정한 왕실 일화와 연결하는 이야기는 조심해서 다뤄야 한다. 소장기관은 후아넬로 투리아노가 제작했을 가능성을 적으면서도, 그 귀속이 입증되지 않았다고 명시한다. 확실하게 볼 수 있는 것은 물건의 구조와 동작이다. 제작자의 이름이나 제작 이유까지 확인된 사실처럼 보태면, 오래된 기계는 금세 그럴듯한 전설이 된다. 소장기관의 유물 기록 (새 창)

그런데 우리는 이 동작을 왜 ‘기도’라고 부를까. 태엽이 감겼다는 설명만으로도 움직임의 원인은 어느 정도 이해할 수 있다. 하지만 기도를 연상시키는 몸짓에는 문화적으로 익숙한 의미가 있다. 관찰자는 움직이는 부품을 보면서, 동시에 그 몸짓이 가리키는 행위를 읽는다.

생각 실험을 해보자. 똑같은 동력장치가 수도사의 팔 대신 이름 없는 막대 두 개를 움직인다면 어떨까. 움직임의 정밀함에 감탄할 수는 있어도, 그 막대의 신앙을 궁금해할 이유는 줄어들 것이다. 이 비교는 당시 관람객의 심리를 입증하는 실험이 아니다. 우리가 무엇을 보고 마음을 추정하는지 돌아보기 위한 상상이다.

인간과 닮았다는 말에는 이렇게 여러 층이 겹쳐 있다. 몸의 형태가 비슷할 수 있고, 특정 행동을 재현할 수도 있다. 그 행동을 보는 사람이 의도나 감정을 읽어낼 수도 있다. 셋은 서로 관련되지만 같은 사실은 아니다. 수도사의 동작을 관찰했다고 해서 그 안의 경건함까지 관찰한 것은 아니듯, 닮음의 정도를 말할 때도 무엇이 닮았는지 따로 물어야 한다.

3. 튜링은 기계의 얼굴을 가렸다

1950년 앨런 튜링은 다른 방향으로 질문을 돌렸다. 「계산 기계와 지능」에서 ‘기계가 생각할 수 있는가’를 다루면서, 먼저 무엇을 관찰할 것인지 정하려 했다. 그가 제시한 모방 게임에서는 질문자가 다른 참가자를 직접 보거나 만지거나 목소리를 듣지 않는다. 글로 주고받는 응답이 판단의 재료가 된다.

원문은 남성과 여성을 구별하는 게임에서 출발해, 한 참가자의 자리를 기계로 바꾸는 경우를 묻는다. 흔히 듣는 ‘대화로 인간과 기계를 구별하는 시험’이라는 요약만 기억하면 놓치기 쉬운 구성이다. 튜링은 이 설정으로 인간의 신체적 능력과 지적 능력을 분리해 논의할 수 있다고 설명한다. 튜링의 1950년 논문, 1–2절 (새 창)

수도사 인형 옆에 이 글을 놓으면 변화가 보인다. 정교한 얼굴이나 손가락이 없어도 대화를 연구할 수 있다. 인간을 닮은 외형을 만들어야만 인간과 비슷한 능력을 탐구할 수 있는 것은 아니다. 기계의 피부를 더 자연스럽게 만드는 질문과, 낯선 질문에 적절하게 답하도록 만드는 질문이 갈라진다.

동시에 판단의 어려움도 남는다. 질문에 잘 답했다는 것은 중요한 관찰이지만, 그 관찰에서 어디까지 결론을 끌어낼지는 별도 문제다. 어떤 조건에서, 어떤 질문으로, 얼마나 오래 관찰했는가. 인상적인 대화 한 번을 보고 능력 전체를 판정하려 한다면, 먼저 우리가 실제로 시험한 범위를 돌아봐야 한다.

튜링 자신도 의식에 관한 난점이 모두 해결됐다고 주장하지 않았다. 다만 그 난점을 전부 해결해야만 자신의 질문을 다룰 수 있다고 보지는 않았다. 같은 논문 6절 (4) (새 창)

이런 태도에서 배울 만한 것은 거대한 질문을 포기하지 않으면서도, 당장 확인할 수 있는 문제를 구체화하는 방법이다. ‘마음이 있는가’라는 말 앞에서 멈추기보다, 어떤 능력에 어떤 증거가 필요한지 묻는 것이다.

4. 대답이 돌아오면 상대가 생긴 것 같다

1966년 조지프 바이젠바움이 발표한 ELIZA는 이 문제를 대화의 한복판으로 가져온다. 프로그램은 입력에서 키워드를 찾고, 그에 연결된 규칙으로 문장을 분해하고 재조합했다. 논문에 소개된 대화에서는 사용자의 말 일부를 되묻는 방식이 등장한다. 작동 원리만 보면 절차가 보이는데, 대화를 읽으면 말의 주고받음이 보인다. 바이젠바움의 원 논문 전사본 (새 창)

우리가 말을 건 뒤 관련 있어 보이는 답이 돌아오는 순간을 떠올려 보자. 답이 옳은지 살피기에 앞서 ‘내 말을 들었다’는 인상을 받을 수도 있다. 이 인상 자체를 어리석음으로 취급할 필요는 없다. 다만 인상이 생긴 이유를 따져볼 수는 있다. 내 표현을 반복했기 때문인가, 상황에 맞는 새 정보를 제공했기 때문인가, 아니면 말투가 다정했기 때문인가. 같은 만족감 안에도 서로 다른 단서가 들어 있다.

그렇다고 오늘날의 대규모 언어모델을 ELIZA의 규칙 몇 개가 커진 것으로 설명하면 기술적 차이를 놓친다. 예를 들어 2022년 InstructGPT 연구는 사전학습된 GPT-3를 사람의 답변 시범과 출력 선호도 평가로 추가 학습시키는 방법을 제시했다. 키워드에 대응하는 문장 변환 규칙을 직접 작성하는 방식과는 다르다. Ouyang 외, 「인간 피드백으로 지시를 따르도록 언어모델 학습하기」 (새 창)

이 연구가 보여준 흥미로운 장면은, 연구에서 사용한 평가 조건에서는 더 작은 InstructGPT의 답변이 훨씬 큰 기본 GPT-3의 답변보다 선호됐다는 점이다. 규모와 사용자에게 좋은 응답이 언제나 같은 방향으로 움직이지는 않았던 셈이다. 다만 연구진도 모델이 여전히 단순한 실수를 한다고 밝혔다. 선호도를 높였다는 결과를 완전한 정확성이나 의식의 증명으로 바꿔 읽을 수는 없다.

두 시대를 연결할 때 중요한 것은 기술의 차이를 지우지 않는 일이다. 작동 방식은 달라졌다. 그 차이를 인정한 뒤에도, 사람이 받은 인상과 실제로 검증된 능력을 구분하는 질문은 유효하다. 친절한 문장, 유용한 답변, 사실에 맞는 답변은 한 번에 함께 나타날 수도 있고, 따로 나타날 수도 있다.

5. 닮음의 다음 장면을 설계하기

이제 빅터가 달아난 방으로 돌아오자. 자동인형, 대화 프로그램, 소설 속 피조물을 한 줄의 발전사로 묶을 수는 없다. 재료도 목적도 작동 방식도 다르다. 인간이 자신을 닮은 존재를 만드는 이유 역시 이 몇 사례로 하나로 확정할 수 없다. 장인의 표현, 능력에 대한 탐구, 쓸모 있는 도구의 설계처럼 서로 다른 질문이 들어갈 자리가 있다.

그럼에도 이들을 함께 읽는 보람은 있다. 무엇을 닮게 만들었는지, 그 닮음이 관찰자에게 무엇을 기대하게 하는지, 기대가 어긋났을 때 누가 대응할 것인지 차례로 살펴볼 수 있기 때문이다. 마지막 질문에 도착하면 논의는 먼 미래의 의식에서 지금의 설계와 운영으로 가까워진다.

가령 사람처럼 말하는 안내 서비스를 만든다고 가정하자. 이용자는 자연스러운 대화를 기대할 수 있다. 그런데 서비스가 모르는 내용까지 자신 있게 답한다면 어떨까. 이때 제작자가 준비할 것은 답변의 말투만이 아니다. 확인할 수 있는 출처, 모르는 경우의 표시, 잘못된 답을 정정할 통로, 사람이 이어받을 수 있는 방법도 설계의 일부가 된다. 이것은 특정 제품의 현황을 평가한 결론이 아니라, 앞선 사례에서 가져온 실천적 제안이다.

이런 책임을 논의하려고 기계의 의식에 대한 최종 판정을 기다릴 필요는 없다. 답변을 믿고 행동하는 이용자는 이미 그 자리에 있기 때문이다. 소설을 기술의 예언서로 읽지 않아도, 창조자가 사라진 뒤 누가 남는지 묻는 상상력은 충분히 쓸모 있다.

가상의 안내 서비스에서 제작자가 자리를 떠난 뒤에도 운영은 이어진다. 오류를 발견한 사람이 이전 답변과 정정 내용을 함께 확인할 수 있고, 대화가 막히면 다음 담당자에게 문제를 넘길 수 있어야 한다. 말하는 프로그램의 인격을 판정하지 않아도, 그 답변이 사람들의 일에 끼어든 흔적은 다룰 수 있다.

빅터는 눈이 열리는 것을 보고 방을 나갔다. 이 장면을 읽고 나면 화면 속 대화가 끝난 자리에도 시선이 머문다. 질문에 응답한 문장이 사라진 뒤, 누가 남아서 그 문장이 일으킨 일을 이어받는지까지가 이야기의 다음 장면이다.