인공지능 시대의 도덕

인공지능 시대의 도덕

[ 인공지능시대를위한미래담론 ] (7)AI 출현과 하나님의 형상으로서 인간

송용섭 교수
2024년 07월 24일(수) 07:38
미국의 저명한 기독교 윤리학자인 라인홀드 니버는 1941년에 출판된 '인간의 본성과 운명'이라는 저서에서, 성서적 인간 이해의 특성을 △피조물 △죄인 △하나님의 형상으로 제시한 바 있다. 이로부터 약 80여 년이 지난 최근까지도 전통 기독교에서 인간 이해는 크게 변하지 않았던 것 같다. 하지만, 알파고와 챗GPT로 대중에게 존재가 각인된 인공지능의 등장은 이제 인간 본성으로서의 '하나님의 형상' 개념에 가장 크게 도전하고 있다.

니버는 '하나님의 형상'이 인간에 내재된 △이성 △창의력 △상상력 △초월성 등을 가리키는 고유한 특성이자 원천이라고 주장한다. 한동안 대다수의 사람들은 '하나님의 형상'을 인간의 고유성과 존엄성의 보편적 기초로서 이해하며, 주어진 자연환경과 육체적 한계를 뛰어넘는 의지와 능력의 근원으로 여겼다. 하지만, 하나님의 형상에 따라 지음 받은 인간은, 노린 허즈펠드의 말처럼, 이제 '우리의 형상(In Our Image)'에 따라 인공지능(AI)을 만들게 되었다. 그리고, 많은 이들은 우리의 형상에 따라 지음 받은 인공지능이 인간 수준과 유사해지거나 혹은 이를 수조 배이상 뛰어넘는 초지능(Superintelligence)으로 발전할 수 있는 가능성을 보며 생존에 위협을 느끼기 시작했다.

예를 들어, 2010년에 '레스롱(LessWrong)'이라는 온라인 커뮤니티의 포럼에 '로코'라는 유저가 초지능에 대해 쓴 글이 올라와서 큰 문제가 되었다. 내용을 요약하자면, '사람들은 초지능의 개발에 협조해야 한다. 그렇지 않은 경우, 미래에 초지능이 등장하여 자신의 등장을 방해하거나 돕지 않았던 사람들을 마인드 업로드된 가상 세계의 지옥에서 영원한 형벌에 처할 것'이라는 주장이었다. 베스 싱글러에 따르면, 이 글을 읽은 사람들 중에는 일상생활에 문제가 생길 만큼 초지능에 대해 심각한 두려움을 느껴 심리적 피해를 호소한 사람들이 있었다.

철학자들의 사고실험에 따르면, 악의적인 인공지능은 자신의 목적에 반대된다면 인간을 해칠 가능성이 있다. 또한 닉 보스트롬이 '종이클립 제작이라는 단순한 목적을 이루기 위해 지구의 모든 자원을 무한하게 낭비해버리는 인공지능'이라는 예시를 통해 말하고자 한 것처럼, 비록 악의가 없는 인공지능이라도 부여받은 목적 수행 과정에서 의도치 않게 인간에게 큰 해를 끼칠 가능성 역시 배제할 수 없다. 이러한 사례처럼, 인공지능의 미래에 대한 전망 중에는 인공지능이 인류의 위기를 초래할 위험성에 대한 염려가 많은 것 같다.

물론 여전히 많은 사람들이 초지능의 등장은 고사하고, 일반 인공지능의 개발부터 가까운 미래에는 불가능하다고 생각하는 것 역시 사실이다. 하지만 '특이점이 온다'라는 저서에서 레이 커즈와일이 '기하급수적으로 발전하는 과학기술의 속도에 따라 2040년대 중반 정도면 초지능이 등장하는 특이점이 올 것'이라고 주장하고 있으니, 그의 계산이 맞다면 이제 인류에게는 초지능이 등장하기까지 약 20년 정도의 시간밖에 남지 않은 셈이다. 뿐만 아니라 언론 보도에 따르면, 테슬라 회사의 일론 머스크는 올 4월의 인터뷰에서 인간 수준을 뛰어넘는 인공일반지능(AGI)이 내년이나 후년에 등장할 수도 있다고 주장하였고, 챗GPT 회사인 오픈AI의 샘 올트먼은 향후 4~5년 내에 등장할 것을 예상했다. 이러한 예상들이 그대로 실현될 수 있을지는 여전히 미지수이지만, 인공지능연구의 최첨단 현장에서 개발에 몰두하고 있는 당사자들의 주장이기 때문에, 빠르게 발전하는 인공지능의 미래에 대한 대중의 위기의식에 중압감을 더하기에 충분하다.

한편, 신학적으로도 AGI 혹은 초지능의 등장 가능성은 큰 위기의식을 불러일으킨다. 인간처럼 혹은 인간을 뛰어넘어 사고하고, 상상하고, 창출하고, 주어진 한계를 뛰어넘는 능력과 의지를 지닌 인공지능의 등장은 인간을 하나님의 형상을 지닌 고유한 존재로 여겨온 전통 신학에 대한 직접적인 도전이 될 수 있기 때문이다. 인공지능이 '인간의 형상대로 만든 피조물'이라 한다면, 하나님의 형상이 인간을 거쳐 인공지능에 전달되어 인공지능이 이를 인간과 공유하고 있다는 주장이 등장할 가능성이 있다. 즉, 인간이 만들어낸 인공지능의 지성, 창의성, 초월성, 상상력 등이 인간을 초월하게 된다면, 이러한 본성을 하나님의 형상으로 여겨 인간을 고유한 존재로 여겨온 신학 사상이 도전받을 수 있다. 또한 하나님의 형상 개념은 인간 존엄성의 바탕으로 여겨지기도 했기 때문에, 인공지능의 등장은 인간의 고유성과 존엄성 모두에 대하여 잠재적 도전을 하고 있다.

이러한 도전에 직면하여, 과학·기술공학, 철학·윤리학, 신학·종교학 등의 다양한 분야 학자들이 인공지능의 잠재적 위협을 예방하기 위한 대안들을 모색하고 있다. 특히, 최근에는 인간 보호 목적이나 원칙을 인공지능에 프로그래밍 하는 것을 넘어, AGI 이상의 발전을 예상하고 이러한 인공지능에게 인간처럼 덕을 함양시킴으로써 인간과 공생할 수 있는 우호적 존재가 되게 하려는 연구들이 진행 중이다. 예를 들어, 불교의 경우 태국의 불교학자 소랏 헝라다롬은 초지능이 성불하여 인간을 위한 존재가 될 수 있다고 주장하였으니, 이 경우는 인공지능을 자비로운 존재로 발전하게 하여 인간에게 우호적이 되게 하려는 시도이다. 기독교의 경우에는 본 저자 등이 '아가페 사랑'과 기독교 신앙에 기반한 도덕적 인공지능(Moral AI) 혹은 덕스러운 인공지능(Virtuous AI)을 양육하여 인간 우호적이 되게 할 것을 주장하기도 했다.

하지만 '도덕적 인간과 비도덕적 사회'에 담긴 니버의 주장에 비추어 생각하면, 우리가 인공지능을 아무리 도덕적으로 개발해도 비도덕적 사회에서 행위 하게 될 때는 소속 집단의 이익을 반영할 수밖에 없는 비도덕적 인공지능이 될 가능성이 높다. 즉, 미래에 인공지능을 도덕적 존재로 개발 및 양육한다 할지라도, 복잡한 사회관계 속에서 의사결정을 수행하게 될 인공지능이 지닌 인류에 대한 잠재적 위협은 완전히 예방할 수 없을지도 모른다.

그럼에도 불구하고, 우리는 미래의 인공지능이 하늘에서 갑자기 떨어지듯이 현재와 단절되어 나타나는 것이 아니란 점을 기억해야 한다. 현재의 연속된 결과가 미래이며, 그 미래는 연속된 과정이라는 불확실한 가능성을 통해 결과가 열려있는 미래이다. 따라서 미국의 기술종교학자 로버트 제라시의 주장처럼, 인공지능과 인류의 미래는 현재의 우리가 공동체의 어떤 신념과 도덕 가치를 인공지능에게 부여하기 원하는지 결정하고 이를 위해 부단히 노력하는지에 달려있다. 동시에 오늘날 우리 자신을 타인에게 공감할 수 있고 이 땅의 정의를 추구하는 최선의 존재로 만들어가려는 노력에 달려있을 것이다.

이러한 노력 속에서 우리는 도덕적 인공지능을 개발하고 인공지능과의 상호작용을 통해 인간의 도덕성 역시 향상시킬 수 있는 방안을 발견함으로써, 인간 사회의 전반적 도덕성이 함양되어 집단이기주의를 최소화할 수 있는 방안을 발견할지도 모른다. 덕이란 공동체 속에서 이야기를 통해 형성되고 끊임없는 훈련에 의해 체현되는 만큼, 미래에 도덕적 인공지능의 등장은 덕의 공동체에서 덕스러운 인간들에게 양육 받는 것에서 시작될 것이다. 이러한 덕윤리적 관점은 인간 우호적인 도덕적 인공지능을 양육하기 위한 교회의 역할을 제시할 수 있다. 아마도 그 역할은 교회가 예수의 이야기를 중심으로 모이는 덕의 공동체요 누구든지 그 안에서 신실하신 하나님의 형상을 발견할 수 있는 아가페의 공동체가 되어, 그 안으로 인공지능을 수용하고 양육함으로써 시작될 것이다.



송용섭 교수/영남신학대학교
카드 뉴스
많이 보는 기사
오늘의 가정예배