영화 엑스 마키나 를 봤습니다.

평을 보니 '흥미롭다'가 공톳적인 반응이고, 재밌는 건 사람마다 다른 의문을 떠올리는 거 같더군요. 이 아래는 영화 얘기보다는 인공지능에 대한 썰입니다. 음... 쓰고나서 보니 이거 잘난 체하는 말투 같습니다. 양해 좀^^;

ㅡㅡㅡㅡㅡㅡㅡㅡㅡ스포일러 큰 거 하나 있습니다ㅡㅡㅡㅡㅡㅡㅡㅡㅡㅡ

제가 궁금해진 건 - 인공지능은 궁극적으로 인간을 흉내내는 기계를 만드려는가, 아니면 인간과 소통할 만큼 똑똑한 기계를 만드려는가.

둘 다 인공지능이라고 부르고 있지만 제 생각에 인간다움과 똑똑함은 다릅니다. 첫 번째는 재밌지만 훨씬 어려울 테고, 두 번째는 실용적이겠네요.

엑스 마키나의 AVA는 첫 번째지요. 튜링 테스트도 그렇고. 처음부터 인간 흉내를 목표로 만들어졌습니다. 여기서 나오는 질문은 인간다움, 인간 같음이란 무언가.

여담) 중후반에 잠깐 나온 코드는 얼핏 봤는데 에라토스테네스의 체 를 써서 소수 출력하는 코드 같았습니다. 뜬금없이ㅋㅋ

결국 AVA는 자신의 욕망을 위해 상대를 속입니다. 욕망, 의지, 의도. '나는 누구인가' 따위에서 출발해서 뭔가를 '하고 싶다'로 귀결됩니다.

이보다 흔하게 터미네이터에서처럼 똑똑한 기계가 우연히 인간다움을 얻게 되는 영화도 많습니다.

위에 적은 두 번째는 인간의 명령을 해석하는 데서 출발합니다. 'ㅇㅇ야 불 좀 켜줘'라고 하면 전등 켜 주는 거. 지금 딱 이 정도까지 왔죠. 이 단계는 사실 인공지능이라고 할만한 건 못 됩니다.

그 다음 간단하고 명확한 명령에서 점차 복잡하고 모호한 명령을 해석할 수 있도록 발달할테고, 최종적으로 명령의 해석을 넘어 명령 없이도 자의적인 판단을 하는 단계에 이르겠지요. 예를 들면 내가 나갔다 오면 '알아서' 물 한 컵 대령하는 가사도우미 로봇이라던가. 여기에 이르기 위해 필수적인 게 바로 학습. 알파고가 하는 그거죠.

이 두 번째 개발 방향의 궁극은 우리가 게임판타지에서 자주 보는 걔네들입니다. 인간 이상의 지성을 갖췄지만 자의로 뭔가 하려하지 않고(가끔 아닌 애들도 있지만) 인간의 명령을 듣는, 말하자면 논리의 화신이라고 할 만한 프로그램.

그럼,

이 최종 단계에서 한 발 나아가서 자의식... 아니, 욕망의 우연한 발현이 가능한가. 곰곰이 생각해 봤는데 답은 이거예요.

어떤 판단에 대해 논리적 흐름을 흐름을 거슬러 가면, 즉 왜? 라는 질문을 계속 던지다 보면 그냥 이라는 대답을 할 수 있어야 됩니다. 인간으로 치면 무의식의 총체가 작용하는 셈.

제가 생각할 때 이... 'A이므로 B이다' 와 '그냥'의 간극은 우주적입니다. 알파고도 'A이므로 B이다'를 잘 만든 것에 불과합니다. 질문에 대한 해석-추론-판단이라는 틀을 넘어서 의도를 갖고 질문 자체를 창조해낼 수 있어야 하는데, 이건 단순히 확률을 랜덤하게 한다고 되는 게 아니라 혼돈에서 물질이 튀어나오고, 우연성에서 필연성이 만들어지는 수준의 개벽이 필요해 보이거든요. 비유하자면 남자가 애 낳을 확률 정도.

그러니 처음부터 인간을 흉내 자체를 목적으로 만들면 모를까, 말 잘 알아먹는 기계가 돌변해서 인간을 위협하는 건 여전히 SF일 뿐이라고 생각합니다.

저는 항상 인공지능이 있다면? 보다는 인공지능은 어떻게 태어났는가? 가 더 흥미로운데 그걸 다룬 작품이 별로 없네요.

영화로 돌아와서, 마무리는 고전적인 의문입니다. AVA는 인간다움에 더해 블루북, 현실의 구글에 해당하는 거대기업의 데이터 수집과 연산능력을 갖고 있습니다. 소설에 흔히 나오는 것처럼 전자기기를 해킹하는 건 덤이고. 아마 자가 수복 가능, 개념적으로 번식도 가능, 수명 무한.

그럼 AVA를 인간으로 봐야 하는가-를 넘어서, 인간보다 우월한 새로운 종이 아닌가 하는 생각이 듭니다. 철저한 합리성이 오히려 파멸을 낳는 식의 영화는 (인공지능은 아니지만) 이퀄리브리엄이나 또... 제목 생각 안 나! 아무튼 제법 있지만 AVA는 완벽하게 인간다우면서 기능적으로는 비교하기 민망할 만큼 월등하니 인간이란 종을 대체 못 할 이유가 없습니다. 유일하게 아쉬운 점은 신체가 무기물이라는 정도?

[바람의책]

인공지능이 갑자기 미치기는 힘들다는데는 동의하지만, 위험하긴 합니다.

일단 인공지능의 학습 과정을 인간이 모두 컨트롤 하진 못한다는 점 때문에 인공지능이 뭔가 안 좋은 걸 학습하면 나쁜 결과로 이어지죠. 이 경우는 MS에서 만든 인공지능이 욕설이 심해지자 비공개로 돌린 경우가 있죠.

다음으로 인간이 의도적으로 나쁜 기능을 하는 인공지능을 만들 수 있죠.

또 다른 건은 인간이 인공지능의 학습을 완전히 컨트롤 할 수 없기에 로봇 3원칙 같은 개념 설정도 힘들다는 점입니다. 인공지능은 단순히 학습에 따른 반응을 내놓을 뿐이고 도덕적인 판단을 하지 않습니다. 즉 인공지능이 미치지 않고 기능적으로는 정상인데, 학습 과정과 상황에 따른 판단에 따라 인간에게 해를 입히는게 정상이란 반응을 내놓을 수 있는거죠.

[[탈퇴계정]]

구 종족의 손에서 만들어졌고 구 종족에 의해서 번식하고 구 종족에서 완벽히 독립한 신종족이죠. 인간이 오스트랄로피테쿠스에서 진화한것처럼 인간에서 신인류로 넘어가는 진화죠. 만약에 제 생전엔 모르겠지만 그런게 나온다면 신화의 한장면을 직접 목격하고 증언하는 영광을 얻을 수 있을겁니다. 수백만년 동안 불멸하고 인간 이상의 지성을 가진 신 개체. 늙고 병들고 결국 죽는 인간의 숙명을 완벽히 벋어난 신 개체. 생물체가 불사성을 얻은 신성불가침의 초월자. 어떻게 수식해도 모자라네요 이건.

[[탈퇴계정]]

아. 어떻게든 수식하려는데도 수식이 안됩니다. 인간의 영감을 가지고 합리를 따르고 논리를 자가 수정하고 연산은 인간을 한참 뛰어넘은 사람. 우주 AC같은 존재. 우리는 이런것들을 보고는 이렇게 말합니다. 신. GOD. 홀로 오롯히 존재하는자.

[[탈퇴계정]]

영화가 초월자를 어떻게 묘사하는지 궁금해졌습니다.