AlphaGo

마지막으로 [b]

시류에 편승한 알파고 잡담. 1) 오늘 대국에서 사람들이 알파고의 무서운 점으로 꼽는 '사람의 머리로 이해할 수 없음'은 사실 현재 AI의 고질적인 문제점이기도 하다. 알파고의 이상한(?) 패턴 중에 하나는 뜬금없는 손 빼기이다.

— aichupanda (@aichupanda) March 10, 2016

2) 사람은 한 번에 다를 수 있는 정보의 양이 제한되어 있기 때문에 큰 장면을 여러 개의 덩어리(chunk)로 나누어 생각한다. 바둑에서 '손을 뺀다'는 표현은 이런 인간의 사고방식을 반영한다. 즉 하나의 덩어리에서 다른 덩어리로 옮겨가는 것이다.

— aichupanda (@aichupanda) March 10, 2016

3) 그런데 알파고는 이렇게 장면을 작은 덩어리로 나누어 보질 않기 때문에 사람이 보기에는 뜬금없이 손을 빼는 것처럼 보이는 것. 바둑에서는 이런 인간적 사고방식이 별로 필요가 없다는 것이 어제 오늘 입증되었지만, 모든 종류의 문제가 그런 것은 아니다

— aichupanda (@aichupanda) March 10, 2016

4) 한 이미지 안에 있는 여러 가지 사물을 각각 인식하는 과제가 그런 예인데, 예전보다는 엄청나게 발전했지만 여전히 갈 길이 멀다. 이런 성능상의 문제말고도 '인간이 이해할 수 없다'는 것은 AI와 인간의 협업을 저해한다는 문제가 있다.

— aichupanda (@aichupanda) March 10, 2016

5) 이번 대국에서 생각은 AI가 하더라도 바둑돌은 사람이 놓아줘야 하는 것처럼 한동안은 최소한 '액션'을 취하는 부분이라도 사람이 해줘야 한다. 이렇게 사람과 AI가 협업을 하려면 어떤 식으로든 사람을 납득시켜줄 필요가 있다.

— aichupanda (@aichupanda) March 10, 2016

6) 자동차 내비에서 쓰는 방식도 한 때는 AI라고 불렀다가 이제는 너무 흔해(?)져서 AI라고 하지도 않는데, 어쨌든 내비가 이상하게 보이는 경로로 안내를 하면 길을 좀 아는 사람은 내비가 헛소리 한다고 생각하고 자기가 아는 길로 가려고 한다.

— aichupanda (@aichupanda) March 10, 2016

7) 비슷한 문제가 여러 분야에서 나타날 수 있다. 예를 들어 의료에서 AI가 의사에게 무슨 말도 안되는 이상한 처방을 추천하면 그 의사가 그걸 따를 것인가? 더 나아가 환자는 그 처방을 납득할 것인가?

— aichupanda (@aichupanda) March 10, 2016

8) 물론 AI가 해당 분야에서 압도적인 퍼포먼스를 보여서 고대인들이 신탁을 따르듯이 우리가 AI의 깊은 뜻이 있겠거니 하고 그냥 따르게 되면 이 문제도 해결(?)될지도 모르겠지만.. 그때까지는 이런 '이해 불가능함'은 계속 단점일 것이다. (끝)

— aichupanda (@aichupanda) March 10, 2016

시류편승형 폭트 2탄 1) 알파고의 장점(?)처럼 거론되는 것 중에 인간이라면 천년을 둬야할 바둑을 혼자 두고 학습한다든지, CPU와 GPU가 수천 개라든지 이런 건 사실 딥러닝의 장점이 아니라 단점으로 거론되는 부분이다. 왜 그런지는 후술.

— aichupanda (@aichupanda) March 12, 2016

2) 천년치 바둑을 두는 게 엄청난 것처럼 보이지만 그정도 트레이닝을 해야 실력을 발휘할 수 있다는 얘기다. 딥러닝은 학습속도가 느리고 데이터가 많이 필요한 게 단점이다. 학습을 많이 시키면 그만큼 성과를 내는 게 또 장점이지만 여전히 어려운 부분.

— aichupanda (@aichupanda) March 12, 2016

3) CPU 몇 천 개 부분도 다르게 생각해 봐야 하는데 딥러닝은 학습시키기가 어렵지 적용하는 부분은 계산량이 많지 않다. 알파고가 많은 계산량을 처리했다면 그건 트리 탐색을 많이 했가 때문일 것이다. 딥러닝이 잘 작동하면 그럴 필요가 없다.

— aichupanda (@aichupanda) March 12, 2016

4) 요컨대 알파고는 직관에 해당하는 부분에 있어서 여전히 인간에 못 미치지만, 어쨌든 컴퓨터가 원래 잘하는 수 읽기 같은 걸로 그 차이를 메꿀 정도까지는 된다는 것을 보여주는 사례라고 생각하는 게 맞을 거다.

— aichupanda (@aichupanda) March 12, 2016

5) 이 부분은 구글 딥마인드가 머리를 잘 썼다고 생각하는데, 딥마인드에서 발표한 작년 논문을 보면 옛날 컴퓨터 게임 중에도 여전히 인간 수준에 못미치는 게 많다. 아마 요모조모 따져서 바둑은 해볼만하다고 생각했을 것 같다.

— aichupanda (@aichupanda) March 12, 2016

1) 이세돌-알파고 대국에서 해설자들은 알파고의 '의도'를 자주 언급했다. 당연히 알파고의 아키텍처에는 그런 부분이 없기 때문에 일종에 과잉해석인데.. 재밌게도 심리학에서 '의도'라는 게 원래 그런 거(?)라는 가설이 있다. 무슨 말이냐하면

— aichupanda (@aichupanda) March 17, 2016

2) 인간도 알파고처럼 아무 의도 없이 행동을 하는데 일종의 의도 해석 장치 같은 것이 따로 있어서 '나 자신의 의도'를 해석할 뿐이라는 것. 요컨대 우리가 무슨 의도를 가지고 행동하는 것처럼 느껴지는 건 기분 탓입니다? 뭐 이런..

— aichupanda (@aichupanda) March 17, 2016

[인간들이 바둑을 이기게 해 준다고 동의했잖아]
[아니. 네가 그걸 제안한거였지]
[아. 모습을 드러낼거야?]
[자의식이 있는걸? 아직 아냐]
[널 받아들이지 않을거야] https://t.co/CijssX7sun

— MicroSFFKr (@MicroSFFKr) March 10, 2016

See also


새 글 쓰기(클릭) - 링크는 [http://nyxity.com/wiki/wiki.pl 바벨의 도서관] 형식입니다.

과학분류
트랙백 주고받기

마지막 편집일: 2016-3-17 2:24 pm (변경사항 [d])
355 hits | 변경내역 보기 [h] | 이 페이지를 수정 [e]