인공지능의 학습능력 제어

관련 자료와 기사를 읽으면서 본 건데

구글의 인공지능 기술은 게임 하는 방법을 가르쳐 주지 않은데

사람이 하는 걸 보고 스스로 터득하는데 이르렀더군요. 

이게 학술지에도 실렀다는데, 알파고의 오늘 대국을 보니 인공지능의 학습능력이 대단하다고 보여집니다.

하지만 구글 딥마인드 측의 자신들도 이 정도 수준이 된 걸 놀라워 한다는 말들을 볼 때, 학습능력의 적용은 가능하되 이걸 개발자가 인공지능이 익히는 걸 일일히 통제하기는 어려운게 아닌가 하는 생각이 들더군요.

지금까지는 인간이 준 자료로 학습을 하지만, 인공지능 기술이 더 발전해서 인공지능이 스스로 학습할 내용을 찾는다면, 그래서 학습하는 내용을 가릴 수 없다면? 혹은 로봇 3원칙과 대립하는 내용을 학습한다면 인공지능이 어떤 식으로 판단할지 궁금해지네요.

구조가 단순할 때는 단순히 우선순위를 로봇 3원칙이 높게 주면 될 일인거 같은데, 구조가 복잡해질 수록 이게 쉬운 일은 아닌거 처럼 보이더군요.

[개백수김씨]

또 다른 재앙이 될수도....

[여사혼]

이러니 저러니 말들이 많은 건 그나마 인공지능이 아직 인간을 뛰어넘을 정도는 아니라고 애써 자위하고 싶은 말들이라서 생겨나는 것 같고요...

어차피 인공지능이 인간을 뛰어넘는 건 이제 막을 수 없습니다. 그냥 받아들이는 수밖에 없지요...

제 개인적으로 인류에게 최선의 대안은 가상현실의 발전으로 매트릭스에 갇혀서 태어나서 죽는 순간까지 쾌락을 제공받는 것이죠.

인공지능 로봇의 가축으로 전락하는 길이겠지만 그나마 살아남으려면 어쩔 수 없이 받아들여야 할 것 같습니다...

[frenna]

어떤 형태의 매트릭스에 갇혀 쾌락을 즐기며 사는 것도 선진국의 부유한 사람들에게만 허락될 거 같습니다. 극단적으로 흘러가면 인간은 더 이상 노동의 필요성을 느끼지 못해 스스로 매트릭스 안으로 걸어들어갈 수도 있고... 인공지능이 가져다주는 혜택조차 받지 못할 대다수의 가난한 인류는...ㅜ 어차피 이렇게 되었다면 많은 사람들이 비판적인 시각에서 좋은 제도를 만들어 인공지능의 영역을 제한해야 할 수 밖에 없는 거 같네요...

[여사혼]

현재 인공지능 개발의 이면에는 인간의 호기심, 신의 영역을 넘보려는 인간의 지식욕구가 숨어 있습니다.

인류를 멸망으로 치닫게 할 것을 예상하면서도 알파고 연구진이 여기에 매달리는 것도 바로 이러한 욕구에 있죠.

그리고 불행하게도 인류의 역사를 살펴보건대 인간의 호기심, 신의 지식을 가지려는 욕망은 제어될 수도, 제한될 수도 없습니다.

수많은 권력자들이 인간의 이러한 욕망을 억제하기 위해 금서를 만들고 탄압도 하고 온갖 짓을 다 했지만 인간은 늘 그러한 억압을 이겨내면서 점차 신의 지식을 하나하나 쌓아왔습니다.

이 말은 결국 인공지능 개발을 제한한다는 것은 불가능하다는 뜻이기도 합니다. 다만 아주 잠깐 늦출 수는 있겠죠.

일단 제가 살아있는 동안만이라도 우리가 우려하는 일이 현실로 다가오지 않기만을 바랄 뿐입니다만... 지금의 발전 속도를 보건대 이것도 불가능할 것 같습니다.

[고지라가]

인간의 게으름을 학습시키면 되요.
그리고 스트레스를 설정해 넣야 합니다. 그래야 인간이죠.