Saturday , May 15 2021

"백리 뒤 로봇 이 인간 지배" 호킹 예언 실현 막으려 면



미국 SF 드라마 의 고전 '배틀 스타 갤럭티카' 는 로봇 군단 '사일리' 의 공격 에서 살아남은 인간들 의 이야기 를 다룬다. 오래된 우주선 을 타고 '사일leik' 의 추격 을 피해 원시 행성 에 정착 한 주인공 들은 원주민 과 동화 돼 새로운 삶 을 살아 간다. [사진 SyFy 채널]

미국 SF 드라마 의 고전 '배틀 스타 갤럭티카' 는 로봇 군단 '사일리' 의 공격 에서 살아남은 인간들 의 이야기 를 다룬다. 오래된 우주선 을 타고 '사일leik' 의 추격 을 피해 원시 행성 에 정착 한 주인공 들은 원주민 과 동화 돼 새로운 삶 을 살아 간다. [사진 SyFy 채널]

SF 미드 의 명작 '배틀 스타 갤럭티카' 는 태양계 로부터 수십억 광년 떨어진 '12 콜로니 (colony) '의 이야기 입니다. 이는 인간 이 살고 있는 12 개의 행성 집단 을 말하죠. 이곳 에서 인류 는 뛰어난 과학 기술 이 바탕 이 된 문명적 이기 (利器) 를 누리며 풍요롭게 살고 있습니다. 힘들고 어려운 일은 모두 인공 지능 (AI) 로봇 '사일리 (cylon)' 의 몫 이고요.

하지만 과학 기술 의 발달 로 자의식 지게 된 사일leik 은 인간 의 통제 를 벗어나 전쟁 을 일으 킵니다. 콜로니 는 모두 사일leik 의 지배 아래 에 놓 이고, 마지막 탐사 임무 를 마치고 복귀 하 '' 배틀 스타 갤럭티카 '함대 만 가까스로 탈 driver 에 성공 합니다. 사일교 의 추격 을 피해 처 게 게 게 어 어 어 어 가 가 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 된 된 된 된 된 된 된 된 된 된 된 된 된.

나중에 드라마 는 이들이 한 원시 행성 에 도착 하는 것으로 끝 납니다. 이곳 엔 제대로 된 언어 조차 갖지 못한 원주민 들이 살고 있었죠. '배틀 스타 갤럭티카' 의 대원 들은 다시 는 비극 의 역사가 반복 되지 않도록 자신들 의 높은 과학 기술 을 스스로 폐관 (閉關) 합니다. 그 대신 원주민 과 동화 해 자연 의 섭리 대로 살아 가죠.

그리고 다시 15 만년 의 시간 이 흐릅니다. 그 사이 인류 와 융화 된 원주민 의 문명 은 매우 높은 수준 으로 발전 하고, 이들 역시 과min 사일leik 과 같은 AI 를 만들어 냅니다. 이것이 바로 현재 지구의 모습 이죠. 드라마 는 사일leik 을 피해 도망 왔 인간 이 습니다 그 와 비슷한 AI 를 만들려 한다는 '아이러니' 한 상황 을 여운 으로 남긴 채 끝맺 습니다.

SF 중엔 유고 로봇 이 인간 을 지배 하는 디스토피아 를 그린 작품 이 more. AI 가 만든 가상 현실 에 갇혀 주체적 삶 을 살지 못하는 '매트릭스' 슈 슈퍼 컴퓨터 스카이 넷 의 로봇 군단 이 인간 을 지배 하는 '터미네이터' 모두 핍박 받는 인간 을 그렸습니다. 이들 작품 의 대부분 은 인류 를 위해 개발 된 로봇 이 느 느 쟁 쟁 켜 켜 느 간 간 간 간 간 간 간 간 간 간 다 다 다 다 다 다 다.

실제로 생전 의 스티븐 호킹 박사 는 "100 년 안에 로봇 이 인간 을 지배 할 것" 이라고 말했습니다. 그는 2015 년 '2015 자이 트 가이스트 (Zeistgeist · 시대 정신) 던 런 컨 창 서 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류 류

인간 에 내재 된 파괴 의 본능

로봇 '사일leik' 의 진화 과정. 과학 기술 이 발전 하면서 지능 은 물론 겉 모습 까지 사람 과 똑같아 진다.

로봇 '사일leik' 의 진화 과정. 과학 기술 이 발전 하면서 지능 은 물론 겉 모습 까지 사람 과 똑같아 진다.

이 봇 봇 봇 간 간 간 간 간 간 간 간 간 간 간 간 간 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야 야. 3 만 5000 년 유럽 대륙 에서 사피엔스 가 네안데르탈 인 을 멸종 시킨 것 럼럼 말이죠. 불과 한 세기 전의 세계 대전 을 비롯해 지금도 끊이지 않는 내전 과 테러 럼 간 간 간 간 간 간 간 간 간 간 간 간 간 재 재 재.

「총, 균, 쇠」 의 저자 로 유명한 제러드 다이아몬드 는 전 제 3 의 침팬지 」에서" 사람 과 지팬지 의 DNA 가 98.4% 는 같고, 1.6% 만 다르다 "고 말합니다. 그렇기 때문에 인간 은 700 팬 서 서 서 서 서 서 서 왔 왔 왔 왔 왔 괴 괴 괴 괴 괴 죠 지 지 지 지 지 지. 문제 는 이리 폭력성 이 인간 이 만든 AI 에도 그대로 녹아 있다는 겁니다.

AI 의 본질 은 알고리즘 입니다. 알고리즘 은 문제 해결 의 상황 에서 가장 효율적인 경로 로 해법 을 제시 합니다. 페이스 북 이 자신 의 취향 에 맞는 글 을 추리 하고, 넷플릭스 가 감쪽같이 내가 좋아 하는 영화 들만 골라 리스트 를 보여주는 것도 같은 이치죠. 하지만 여기 엔 큰 맹점 이 있습니다. 사용자 들의 기존 패턴 을 좇아 모리트 를 추천 하기 때문에 평소 자신 이 가진 생각 과 취향 만 더욱 강화 되는 것이죠. 이를 '확증 편향' 이라고 부릅니다.

김중백 경희대 사회학과 교수 는 "사람 편향 은 장기적 으로 개인 의 주수 과 인식 을 왜곡 시켜 보편적 인 것에서 멀어 지게 만든다" 며 "나중엔 자기 것만 옳다고 여겨 '다른' 것을 '틀린' 것으로 간주 하게 된다" 고 지적 합니다.

조슈아 그린 하버드 대 교수 는 「옳고 그리 에서 인간 이 벌이는 전쟁 의 원인 이 자기 확신 에 있다고 설명 합니다. '그들' 과다 '우리' 가 강조 되고, 우리 의 도덕적 가치 와 철학 을 사신 할수록 '그들' 을 억압 하게 된다는 것이죠. 이렇게 상대 를 억압 하고 통제 하려 들 때 인간 의 폭력성 은 극대화 됩니다. 즉, 모든 갈등 과 전쟁 의 원인 은 옳고 그리 에 대한 지나친 자기 사신 때문 이라는 이야기 죠.

인간 의 폭력성 을 학습 하는 AI

[그래픽=차준홍 기자 cha.junhong@joongang.co.kr]

[그래픽=차준홍 기자 [email protected]]

인간 의 모든 생활 양식 이 담긴 빅 데이터 와 이를 통해 인간 에게 최적화 된 알고리즘 을 제시 하는 AI 역시 '확증 편향' 을 가질 수밖에 없습니다. 2017 년 영국 바스 대 조안나 브리 슨 박사 는 '사이언스' 지에 AI 가 인간 의 편견 을 그대로 학습니다. 연구 결과 를 발표 했습니다. 예 를 들어 여자 의 직업 은 '가정 주부' 와 연결 시키고 남자 는 '공학' 관련 직종 을 연상 한다는 것이죠.

브리 슨 박사 는 "체 체 갖 을 덕고 있지 않기 때문에 인간 의 편견 을 그대로 배운다" 고 설명 합니다. 실제로 2016 마이크로 소프트 (MS) 의 팅 봇 이 이 이 "" "유대인 이 싫다" 거나 "미국 과 멕시코

쩌 래 S S S S 화 럼 럼 럼 럼 말 말 럼 '' '으 으 으 으 으 으 으 으 으. 과거 우리 의 조상 들이 네안데르탈 인 에게, 지금 우리 가 다음 동물 과 심지어 같은 동족 에게 까지 무자비한 폭력 을 벌이는 것 럼을 말이죠.

그럼 우리 는 어떻게 해야 이다 디스토피아 를 막을 수 있을까요? 그 답 은 침팬지 와 는 다음 1.6% 의 가능성 에 있습니다. 조그만 유전 적 차이 가 인류 의 높은 문명 을 만든 것 간 간 간 간 물 든 럼 럼 간 간 간 간 간 간 간 간 간 간 간 간 간 간 간,,,,,,,,,,,,, 져 져 져 져 져 져 져 져 져 져 져 져 져 져 져 져 져 져 인간 을 보고 따라 배우는 AI 역시 파괴적 이지 않을 수 있다는 이야기 죠.

그 시작 은 다음 것을 틀린 것으로 간주 하고 본인 아각 만 옳다고 강조 하는 지나친 '자기 확신' 부터 버리는 일 입니다. 자신 과 다른 의견 을 마치 '적 을 대하듯 하고, 내 생각 과 다르면 모두' 거짓 으로 모는 행태 는 타인 을 괴롭게 할 뿐만 아니라 자신 의 영혼 까지 갉아 먹 습니다. 이금 것들이 빅 데이터 로 모여 AI 의 학습 재료 가 되면, 앞서 이야기 했던 알고리즘 의 원리 에 따라 AI 는 한쪽 에 치우친 생각 만을 강조 하는 '괴물' 이 될 수 있습니다.

20 세기 의 대 석학 움 베르트 에코 는 「장미 의 이름」 에서 "진리 를 위해 죽을 수 있는 자를 경계 하라" 고 했습니다. 자신 의 신념 만 옳다고 믿는 독선 이 악 다다 더욱 위험 하다는 이야기 죠. 독선 은 선 을 가장 해 (위선) 다가 오기 때문에 더욱 평화 롭고 따뜻하게 느껴지 지만 자기도 모르는 사이 에 사람들 을 악 으로 물 들이기 때문 입니다.

윤석만 기자 [email protected]


Source link