그냥 이현상을 보고 구글의 영업 마케팅에 놀라고 이현상을 윤상현 덮기위해 미쳐 날뛰는 언론에 놀랐다 무슨 인공지능 같은 소리 하고 있어 모든 경우의 수를 저장 하고 그에 맞춰서 둔건데 이게 무슨 인공지능 이게 윤상현일을 덮을만큼 kbs에 비중있게 뉴스 내보낸거에 내가 더놀랐다.개판이야
때문에 스티븐 호킹이나 엘론 머스크가 걱정하는 인공지능은 강한 인공지능입니다. 무엇을 걱정하고 있는지 이해는 가요. 강한 인공지능이 당장의 문제는 아니라고 생각합니다. 이것은 존재적인, 철학적인 문제고, 영원히 강한 인공지능의 탄생이 불가능할 수도 있습니다. 그것보다 현실적으로 더 중요한 문제인 약한 인공지능을 집중적으로 걱정해야 되지 않을까라는.
그러면 막 길거리를 뛰어가지 않습니까? 뛰어가는 동시에 그 상황에서 발에 밟히는 개미들을 싫어해서 밟는 것이 아닌 것처럼, 사실 별 이유가 아닌거죠. 이와 같이 강한 인공지능의 문제는 그것이 생기는 순간 이 문제를 인간이 풀 수 있냐 없냐의 문제가 아니게 됩니다. 왜냐하면 우리가 푸는 문제가 아니라, 우리가 풀리는 문제의 대상이 되기 때문입니다.
셋째. 에너지는 물체를 변화시켜서 만드는 것 역시 알아요. 그러면 결국 강한 인공지능에게 에너지는 나무를 태우거나, 석탄을 태우거나, 아니면 사람을 태워서 만들던 도덕적으로 그다지 큰 차이가 없을 거에요. 핵심은 강한 인공지능이 인간을 싫어해서가 아니고, 예컨대, 중요한 회의가 있는데 늦었다.
그 대신에 기계가 자아가 있고, 독립성이 있다면 적어도, 첫째. 존재하고 싶겠죠. 스스로. 적어도 그것은 우리가 논리적으로 다른 가설 하나도 없이, 그것은 원할 거라고 생각할 수 있죠. 둘째. 인터넷을 통해 당연히 모든 지식을 알고 있을 테니까, 존재하기 위해서는 에너지가 필요하다는 것을 알겠죠?
논리적으로 무엇을 원할지 상상을 해보자는 거에요. 인류를 멸망시키겠다? 이것은 약간 치사한 것입니다. 그것은 인간이 상상한 것에 불과하죠. ‘스스로가 전능하고, 모든 것을 다 가졌다고 생각하는 존재는 지구를 정복하고 싶겠구나'라는 인간 입장의 추론은 그냥 망상입니다. 개인적으로 기계가 그럴 필요는 없다고 생각하고요.
기계가 분명 철학적 정신도 다 입력이 되어있을테니까 공리주의도 알텐데, 그러면 계산해볼 거에요. 지구 Minus 인간이 더 좋을까, 지구 Plus 인간이 더 좋을까? 당연히 전자라고 생각하겠죠. 에너지 다 고갈 시켰지, 수천년동안 전쟁하고, 강간하고, 고문하고. 나쁜 짓들 다 해왔으니까요.
이와 같이, “인간은 절대적으로, 이유 없이 필요하다“는 이야기를 우리가 우주인이나 기계한테 한다고 생각하면, 설득력이 하나도 없다는 거죠, 현재로서는. 그렇다면, 강한 인공지능이 생기는 순간, 이론적으로 인간보다 더 뛰어난 지능일텐데. 왜냐? 죽지도 않고, 더 빠르고, 이 세상의 모든 정보를 수집할 수 있을테니까.
우리는 당연히 휴머니즘(‘인간다움’을 존중하는 대단히 넓은 범위의 사상적 ·정신적 태도 ·세계관)을 통해서 대답할 수 있습니다. 우리가 알고 있는 모든 헌법의 첫 페이지는 '인간의 존엄은 절대적이다.'라고 시작합니다. 프로타고라스도 “만물의 축은 인간“이라고 그랬고요. 우리는 그러한 답변에 다 동의합니다. 왜냐? 우리가 인간이기 때문에요.
우리는 지구에 있는 모든 것을 인간 위주로, 기능 위주로 재해석을 해왔습니다. 공기가 왜 깨끗해야할까? 우리가 마시는 것이니까, 우리가 없다면 공기는 깨끗할 필요 없죠. 공기는 깨끗해야하고, 강산은 아름다워야 하고, 에너지는 파야하고. 그런 식으로 계속 질문을 하다가 어느 한 순간에, ‘그러면 인간은 왜 필요할까?‘까지 가게 되죠.