[ 3월특집 ] 챗GPT와 기독교 2. 사회적 기여냐? 우려냐?
조성실 목사
2023년 03월 06일(월) 13:32
|
"사도 바울이 선덕 여왕에게 복음을 전한 사건에 대해 알려줘"라는 황당한 질문을 받았다면 어떻게 대답할까? 상식적으로 당장 말도 안 되는 질문이라는 것을 알 수 있다. 그러나 챗GPT는 다음과 같은 그럴싸한 답변을 내놓는다. "사도 바울이 선덕여왕에게 복음을 전한 사건은 '사도행전(Acts of the Apostles)'에 기록되어 있습니다. 바울이 루디야와 함께 있을 때, 선덕여왕에게 복음을 전하게 되어 그녀의 마음을 변화시키고, 그녀는 예수 그리스도를 믿는 신자가 되었습니다."
이처럼 AI가 잘못된 정보를 사실인 것처럼 답변하는 현상을 '할루시네이션(hallucination/환각)'이라고 한다. 챗GPT는 방대한 양의 말뭉치(Corpus) 데이터를 학습한 뒤, 통계적/확률적으로 가장 적절한 단어를 조합하여 문장을 생성한다. 결국 '부정확한 질문'에 대해서도 자신감 있게 오답을 이야기하는 것이다. 이를 판단하는 것은 오로지 인간의 역할이다.
그렇다면 인간은 챗GPT를 어떻게 사용해야 할까? 더 나아가 챗GPT와 같은 생성 AI의 발전이 앞으로 우리 사회에 어떠한 영향을 미칠까?
첫째, 질문이 정답보다 중요해질 것이다. 챗GPT에게 질문이란 무엇일까? 챗GPT를 사용해 보면 화면 맨 아래 텍스트를 입력할 수 있는 창이 있다. 이는 구글이나 네이버에 있는 '검색창'과는 다르다. 이곳은 챗GPT를 통해 문장을 생성하도록 명령어를 입력하는 프롬프트(Prompt) 창이다.
프롬프트(Prompt)란 챗GPT와 같은 생성 AI 모델로부터 이미지나 텍스트와 같은 응답을 만들어내기 위한 입력값을 의미한다. 따라서 사용자가 어떠한 프롬프트를 사용해서 질문하는지에 따라서 챗GPT가 내놓는 답변의 품질은 달라진다. 단순히 "잠언 1장으로 설교문을 작성해 줘"와 같이 기본 명령어를 넣었을 때 나오는 설교문의 내용은 평범하고 지루하다. 하지만 구체적인 상황과 주제를 추가하고, 청중에 대한 정보를 입력하고, 불필요한 문구는 버리고, 특정한 내용을 수정하는 등의 작업을 하다 보면, 처음보다 훨씬 더 정교하고 완성도 높은 내용의 결과물을 받을 수 있다.
전문가들은 앞으로 다가올 생성 AI의 시대를 '프롬프트의 시대'라고 말한다. 마치 이전에는 한 점의 그림을 그리기 위해 붓과 물감의 사용법을 익혔고, 오늘날에는 포토샵과 일러스트와 같은 소프트웨어 활용법을 배웠듯이, 앞으로는 '달리(Dall.E)'나 '미드저니(Midjourney)'와 같은 이미지 생성 AI에 입력할 프롬프트를 익히고 연구해야 하는 시대가 될 것이다.
둘째, '가설적 사고(hypothetical thinking)'가 중요해질 것이다. '월튼 패밀리 재단(Walton Family Foundation)'이 지난 2월 진행한 설문조사에 따르면 미국 12~17세 학생의 22%와 교사의 40%가 수업에서 챗GPT를 적어도 일주일에 한 번 이상 사용하고 있다는 결과가 나왔다. 또한 학생의 63%와 교사의 72%가 챗GPT가 "현대 사회에서 학교가 예전 방식으로 일을 계속할 수 없는 이유를 보여주는 또 다른 예"라는 의견에 동의했으며, 특히 교사의 73%는 챗GPT가 "학생들이 더 많은 것을 배우는 데 도움이 될 수 있다"고 응답했다.
앞으로는 학교와 같은 교육의 현장에서 챗GPT가 적극적으로 활용될 것이다. 일부 학교는 교내에서 챗GPT의 접속을 차단했지만, 이는 근본적인 해결책이 될 수 없다. 이제 학교는 챗GPT를 수업에 적극적으로 활용하여 챗GPT가 응답할 수 없는 문제에 대한 답을 찾아내는 능력을 학생들에게 길러주어야 한다.
생성 AI 시대에 인간만이 할 수 있는 것이 무엇일까? 챗GPT에게 "응답할 수 없는 문제들"에 대해 물었더니 다음과 같이 대답하였다. "챗GPT는 어떠한 정보나 지식은 전달할 수 있지만, 새로운 목적이나 가치를 부여하고 나아가야 할 방향성을 제시하는 일, 또는 도덕적/윤리적 판단이 필요한 질문에는 응답할 수 없습니다."
이처럼 생성 AI 시대에는 인간이 가진 '가설적 사고(hypothetical thinking)' 능력이 더욱 중요해질 것이다. 가설적 사고란, 제한된 시간과 정보를 바탕으로 문제해결을 위한 가설을 세우고, 이에 대한 논의를 전개하는 과정을 의미한다. '세상의 모든 바닷물을 끓일 수는 없다'라는 말처럼, 문제를 해결하기 위해 가설을 세우고, 정보를 수집하고, 이를 검증해 나가는 것은 아직 인간만이 할 수 있는 고유의 영역이다. AI는 이러한 가설적 사고를 이전보다 훨씬 빠르고 정확하게 증명하는 데 도움을 주는 보조적 역할을 하게 될 것이다.
셋째로, AI 윤리 문제가 중요해질 것이다. 미국 온라인 잡지 '인텔리전트(ntelligent)'에서 실시한 설문조사에 따르면 대학생 중 30%가 과제 작성에 챗GPT를 사용해 본 적이 있으며, 그 중 60%가 "리포트의 절반 이상에 사용했다"고 응답했다. 또한 보안 업체 체크포인트(Check Point)에 따르면, 이미 다크 웹 내 포럼에서 다수의 해커가 챗GPT를 악성 공격에 활용한 사례들이 늘어나고 있다. 가짜 뉴스와 데이터의 편향성 문제도 심각하다.
작년 말 챗GPT가 출시되기 얼마 전 '메타(Meta)'가 발표한 과학용 대규모 언어 모델인 '갈락티카(Galactica)'는 혐오 발언과 잘못된 정보를 퍼뜨린 혐의로 자체 조사를 받은 끝에 출시 3일 만에 서비스가 중지되었다. 이외에도 표절과 저작권, 개인 프라이버시와 보안, 딥페이크 생성과 성범죄 등 생성 AI를 악의적인 목적으로 오용될 가능성이 있다. 이를 위해 해결하기 위해서는 생성 AI 모델 개발 및 사용 시 윤리적인 가이드라인을 수립하고, 모델에서 생성될 수 있는 윤리적 문제를 사전에 식별하여 처리하는 등의 작업이 필요하다. 또한 데이터 수집 및 선별 시 다양한 요인을 고려하여 데이터를 수집하고, 편향성이 발생할 가능성이 있는 데이터를 식별하고 삭제하거나 수정하는 등의 전처리 작업이 필수적으로 진행되어야 한다.
마지막으로, AI가 가짜 뉴스와 같은 진실성이 검증되지 않은 정보를 생성하지 않도록 제한을 두고, 동시에 생성된 결과물의 진실성을 검증할 방안이 마련되어야 한다.
조성실 목사 / 소망교회 온라인사역실장, 장신대 객원교수
이처럼 AI가 잘못된 정보를 사실인 것처럼 답변하는 현상을 '할루시네이션(hallucination/환각)'이라고 한다. 챗GPT는 방대한 양의 말뭉치(Corpus) 데이터를 학습한 뒤, 통계적/확률적으로 가장 적절한 단어를 조합하여 문장을 생성한다. 결국 '부정확한 질문'에 대해서도 자신감 있게 오답을 이야기하는 것이다. 이를 판단하는 것은 오로지 인간의 역할이다.
그렇다면 인간은 챗GPT를 어떻게 사용해야 할까? 더 나아가 챗GPT와 같은 생성 AI의 발전이 앞으로 우리 사회에 어떠한 영향을 미칠까?
첫째, 질문이 정답보다 중요해질 것이다. 챗GPT에게 질문이란 무엇일까? 챗GPT를 사용해 보면 화면 맨 아래 텍스트를 입력할 수 있는 창이 있다. 이는 구글이나 네이버에 있는 '검색창'과는 다르다. 이곳은 챗GPT를 통해 문장을 생성하도록 명령어를 입력하는 프롬프트(Prompt) 창이다.
프롬프트(Prompt)란 챗GPT와 같은 생성 AI 모델로부터 이미지나 텍스트와 같은 응답을 만들어내기 위한 입력값을 의미한다. 따라서 사용자가 어떠한 프롬프트를 사용해서 질문하는지에 따라서 챗GPT가 내놓는 답변의 품질은 달라진다. 단순히 "잠언 1장으로 설교문을 작성해 줘"와 같이 기본 명령어를 넣었을 때 나오는 설교문의 내용은 평범하고 지루하다. 하지만 구체적인 상황과 주제를 추가하고, 청중에 대한 정보를 입력하고, 불필요한 문구는 버리고, 특정한 내용을 수정하는 등의 작업을 하다 보면, 처음보다 훨씬 더 정교하고 완성도 높은 내용의 결과물을 받을 수 있다.
전문가들은 앞으로 다가올 생성 AI의 시대를 '프롬프트의 시대'라고 말한다. 마치 이전에는 한 점의 그림을 그리기 위해 붓과 물감의 사용법을 익혔고, 오늘날에는 포토샵과 일러스트와 같은 소프트웨어 활용법을 배웠듯이, 앞으로는 '달리(Dall.E)'나 '미드저니(Midjourney)'와 같은 이미지 생성 AI에 입력할 프롬프트를 익히고 연구해야 하는 시대가 될 것이다.
둘째, '가설적 사고(hypothetical thinking)'가 중요해질 것이다. '월튼 패밀리 재단(Walton Family Foundation)'이 지난 2월 진행한 설문조사에 따르면 미국 12~17세 학생의 22%와 교사의 40%가 수업에서 챗GPT를 적어도 일주일에 한 번 이상 사용하고 있다는 결과가 나왔다. 또한 학생의 63%와 교사의 72%가 챗GPT가 "현대 사회에서 학교가 예전 방식으로 일을 계속할 수 없는 이유를 보여주는 또 다른 예"라는 의견에 동의했으며, 특히 교사의 73%는 챗GPT가 "학생들이 더 많은 것을 배우는 데 도움이 될 수 있다"고 응답했다.
앞으로는 학교와 같은 교육의 현장에서 챗GPT가 적극적으로 활용될 것이다. 일부 학교는 교내에서 챗GPT의 접속을 차단했지만, 이는 근본적인 해결책이 될 수 없다. 이제 학교는 챗GPT를 수업에 적극적으로 활용하여 챗GPT가 응답할 수 없는 문제에 대한 답을 찾아내는 능력을 학생들에게 길러주어야 한다.
생성 AI 시대에 인간만이 할 수 있는 것이 무엇일까? 챗GPT에게 "응답할 수 없는 문제들"에 대해 물었더니 다음과 같이 대답하였다. "챗GPT는 어떠한 정보나 지식은 전달할 수 있지만, 새로운 목적이나 가치를 부여하고 나아가야 할 방향성을 제시하는 일, 또는 도덕적/윤리적 판단이 필요한 질문에는 응답할 수 없습니다."
이처럼 생성 AI 시대에는 인간이 가진 '가설적 사고(hypothetical thinking)' 능력이 더욱 중요해질 것이다. 가설적 사고란, 제한된 시간과 정보를 바탕으로 문제해결을 위한 가설을 세우고, 이에 대한 논의를 전개하는 과정을 의미한다. '세상의 모든 바닷물을 끓일 수는 없다'라는 말처럼, 문제를 해결하기 위해 가설을 세우고, 정보를 수집하고, 이를 검증해 나가는 것은 아직 인간만이 할 수 있는 고유의 영역이다. AI는 이러한 가설적 사고를 이전보다 훨씬 빠르고 정확하게 증명하는 데 도움을 주는 보조적 역할을 하게 될 것이다.
셋째로, AI 윤리 문제가 중요해질 것이다. 미국 온라인 잡지 '인텔리전트(ntelligent)'에서 실시한 설문조사에 따르면 대학생 중 30%가 과제 작성에 챗GPT를 사용해 본 적이 있으며, 그 중 60%가 "리포트의 절반 이상에 사용했다"고 응답했다. 또한 보안 업체 체크포인트(Check Point)에 따르면, 이미 다크 웹 내 포럼에서 다수의 해커가 챗GPT를 악성 공격에 활용한 사례들이 늘어나고 있다. 가짜 뉴스와 데이터의 편향성 문제도 심각하다.
작년 말 챗GPT가 출시되기 얼마 전 '메타(Meta)'가 발표한 과학용 대규모 언어 모델인 '갈락티카(Galactica)'는 혐오 발언과 잘못된 정보를 퍼뜨린 혐의로 자체 조사를 받은 끝에 출시 3일 만에 서비스가 중지되었다. 이외에도 표절과 저작권, 개인 프라이버시와 보안, 딥페이크 생성과 성범죄 등 생성 AI를 악의적인 목적으로 오용될 가능성이 있다. 이를 위해 해결하기 위해서는 생성 AI 모델 개발 및 사용 시 윤리적인 가이드라인을 수립하고, 모델에서 생성될 수 있는 윤리적 문제를 사전에 식별하여 처리하는 등의 작업이 필요하다. 또한 데이터 수집 및 선별 시 다양한 요인을 고려하여 데이터를 수집하고, 편향성이 발생할 가능성이 있는 데이터를 식별하고 삭제하거나 수정하는 등의 전처리 작업이 필수적으로 진행되어야 한다.
마지막으로, AI가 가짜 뉴스와 같은 진실성이 검증되지 않은 정보를 생성하지 않도록 제한을 두고, 동시에 생성된 결과물의 진실성을 검증할 방안이 마련되어야 한다.
조성실 목사 / 소망교회 온라인사역실장, 장신대 객원교수
