우리 모두 웃어봐요! 우리들의 이야기로.
인공지능이 갑자기 미치기는 힘들다는데는 동의하지만, 위험하긴 합니다.
일단 인공지능의 학습 과정을 인간이 모두 컨트롤 하진 못한다는 점 때문에 인공지능이 뭔가 안 좋은 걸 학습하면 나쁜 결과로 이어지죠. 이 경우는 MS에서 만든 인공지능이 욕설이 심해지자 비공개로 돌린 경우가 있죠.
다음으로 인간이 의도적으로 나쁜 기능을 하는 인공지능을 만들 수 있죠.
또 다른 건은 인간이 인공지능의 학습을 완전히 컨트롤 할 수 없기에 로봇 3원칙 같은 개념 설정도 힘들다는 점입니다. 인공지능은 단순히 학습에 따른 반응을 내놓을 뿐이고 도덕적인 판단을 하지 않습니다. 즉 인공지능이 미치지 않고 기능적으로는 정상인데, 학습 과정과 상황에 따른 판단에 따라 인간에게 해를 입히는게 정상이란 반응을 내놓을 수 있는거죠.
Comment ' 4