UPDATED. 2024-03-29 08:10 (금)
당당히 거짓말하는 인공지능… 성찰은 결국 인간의 몫
당당히 거짓말하는 인공지능… 성찰은 결국 인간의 몫
  • 전준
  • 승인 2023.01.30 09:18
  • 댓글 0
이 기사를 공유합니다

과학의 과학 ④_ 챗지피티

과학이 생활 전반을 지배하는 사회에서 과연 어떤 안목이 필요할까. 과학은 이해하기 힘들고 때론 소통이 힘들 때도 있다. 이에 화학을 공부하고 과학기술정책학을 전공한 전준 충남대 교수가 ‘과학의 과학’을 연재한다. 이 연재는 과학기술을 사회학의 렌즈를 통해 바라보며 성찰하고자 한다. 네 번째는 인공지능이 지닌 문해력·성찰력의 한계를 드러낸다. 과연 인공지능과 함께 살아가는 방법은 무엇일까. 다음 문장에 눈길이 간다. “인공지능을 과소평가하지 않고, 또한 인간 스스로의 가치와 주체성도 과소평가하지 않는, 용감하고 당당한 인간으로 살아가고자 하는 태도가 필요하다.”

“사회의 소수자는 인공지능의 메커니즘에서도 소수자이다. 인공지능에 대해 성찰하는 역할만큼은 인간이 인공지능에게 외주화하지 말아야 할 영역이다.”

 

인공지능이 더욱 발전함에 따라, 그에 따른 오류도 발생하고 있다. 인공지능을 성찰하는 건 인공지능이 아니라 인간의 몫이어야 한다. 사진=픽사베이

인공지능의 위력이 이렇게 피부로 와 닿았던 적이 언제였나 싶다. 오픈AI사에서 개발해 내놓은 ‘챗지피티(chatGPT)’의 열기가 뜨겁다. 챗지피티는 텍스트 데이터를 학습해 구축된 인공지능으로, 사용자와 채팅을 통해 상호작용하는 형식으로 사용자의 요구에 응답한다. 오픈AI사의 설명에 따르면, 챗지피티는 인터넷에 존재하는 다양한 텍스트들을 학습한 인공지능이다. 

그런데 무엇보다도 챗지피티를 특별하게 하는 것은, 사용자의 요구에 따라 너무나 자연스럽게 척척 답변을 뽑아내는 그 경이로운 상호작용 능력에 있다. 예를 들어 “3+4를 계산하는 파이선 코드를 짜줘”라고 요구하면, 챗지피티는 실제로 작동하는 코드를 출력해서 알려준다. 뒤이어 “같은 작업을 R에서 사용하는 코드로 짜줘”라고 말하면, 대화의 맥락을 파악하고 같은 기능의 R 코드를 제공한다. 

챗지피티의 업무 처리능력은 이 짧은 글에서 다 담기 어려울 정도이다. 아직은 한국어보다는 영어로 작동할 때 압도적으로 높은 성능을 보이는데, 글 교정, 코드 제작, 개념 설명 뿐 아니라, 관념적인 대화까지도 수행하는 모습을 보여준다. 필자는 챗지피티와 반나절 가량 학술 연구의 의의와 한계에 대한 대화를 나누면서 연구자로서의 정체성에 대한 많은 깨달음을 얻었다. 

챗지피티뿐 아니라, 사실은 제법 다양한 고성능 인공지능 플랫폼들이 사용자를 맞이하고 있다. 가령 비트오븐(www.beatoven.ai)은 사용자의 콘텐츠에 맞는 최적의 음악을 즉석으로 작곡하여 제공한다. 키워드를 바탕으로 그림을 그려주는 미드저니(midjourney)나, 음성파일의 소음을 깔끔하게 제거하는 크리스프(krisp.ai)는 단기간에 엄청난 수의 사용자들을 확보하며 콘텐츠 제작의 생태계를 바꾸고 있다. 이러한 새로운 플랫폼들 뿐 아니라, 이미 너무나 우리 생활에 깊이 침투해 있는 수많은 스마트폰 앱들은 제각각 자료를 분석하고 우리의 의사결정 과정을 보조하는 역할을 수행하고 있다. 

 

인공지능과 공존하는 방법은 무엇인가

그런데 우리 사회가 이러한 인공지능을 마주하고 던지는 질문의 종류와 깊이에는 큰 진전이 없는 것 같다. 인공지능의 성능 앞에서 대다수의 사람들은 두 가지 정도의 질문을 던지는 것 같다. 첫째, 인공지능의 발달로 인해 사라지게 될 직업은 무엇이고, 우리는 어떤 대비를 해야 하는지 궁금해 하며, 둘째, 인공지능이 언젠가 인간을 지배하는 디스토피아적 미래가 도래하지는 않을까 우려한다. 이러한 질문들은 각자 가치 있는 질문이지만, ‘인공지능으로 인해 발생하는 사회적 결과’에만 관심을 두고 있다는 점에서 근본적인 질문이라고 보기는 어렵다. 필자는 챗지피티와 대화를 나누며, “우리가 앞으로 인공지능과 어떻게 함께 살아가야 하는가” 하는 질문을 떠올렸다.

우리는 어떻게 시시각각 신기술로 무장하는 인공지능과 ‘함께’ 살아갈 수 있을까? 첫째, ‘인공지능이 해 줄수 있는 일’과 ‘인간이 할 필요가 없는 일’이 동의어가 아니라는 점을 명확히 인지해야 한다. 다시 말해, 인공지능이 잘 할 수 있는 일이라고 해서 인간이 그것을 할 줄 몰라도 된다는 것이 아니라는 것이다. 예를 들어, 검색엔진을 누구나 사용할 수 있게 되었지만, 누구나 자신이 원하는 최적의 정보를 최대한으로 활용할 수 있는 세상이 된 것은 아닌 것과 마찬가지이다. 

검색엔진의 도래와 함께 ‘정보력’이란 단순히 ‘많은 정보’를 뜻하는 것이 아니라, 활용자의 목적에 맞는 양질의 정보를 가려내는 안목에 대한 것이 됐다. 인공지능이 잘 수행할 수 있음에도 불구하고, 인간도 여전히, 혹은 오히려 과거보다 더 열심히 매진해야 하는 또 다른 역량으로는 글쓰기 능력을 들 수 있다. 챗지피티는 주제와 키워드를 입력하면 짧은 글을 순식간에 써준다. 문장의 미려함과 논리 전개의 간결함을 볼 때, 잘 훈련받은 대학생 수준의 글쓰기를 무리 없이 해낸다고 평가할 수 있다. 

그러나 그렇다고 인간이 글쓰기 교육을 받을 필요가 없는 것은 아니다. 챗지피티의 글쓰기 능력을 가장 잘 활용할 수 있는 사람은 잘 쓴 글에 대한 명확한 심미안이 있으면서도, 자신이 쓰고자 하는 복잡한 글의 완성 과정에서 어디까지 인공지능의 도움을 받을 수 있고, 어디서부터 자신이 노력을 기울여야 하는지에 대한 판단을 정확하게 내릴 수 있는 사람일 것이다. 즉, 인공지능의 글쓰기 능력이 향상될수록, 인간을 오히려 더욱 열심히 글쓰기와 글 읽기 실력을 부단히 쌓아야 하고, 동시에 인공지능의 기능에 대한 문해력도 갖추어야 한다. 

인공지능의 글쓰기 실력은 그 자체로서 인간을 대체하는 방식으로 작동하는 것이 아니라, 인공지능과의 협업을 통해 글쓰기를 하는 새로운 세대에 의해 작동하게 될 것이다. 인공지능이 할 수 있다고 하더라도 인간이 그것을 할 줄 몰라도 되는 것은 아님을, 더 나아가 인간이 인공지능으로 손쉽게 대체되면 안 되는 것을 명심해야 한다.

둘째, 인공지능의 성찰성의 한계를 이해해야만 인공지능을 지혜롭게 사용할 수 있게 된다. 챗지피티의 흥미로운 특징은 매우 성찰적인 인공지능인 척하지만, 사실은 매우 형편없는 자기반성 능력을 갖추고 있다는데 있다. 예를 들어 “너는 윤리적 판단을 내릴 수 있니?” 혹은 “너는 창의성을 발휘할 수 있니?”와 같은 질문을 하면 “저는 언어를 기반으로 하는 인공지능으로, 그러한 능력을 갖고 있지 않습니다”와 같은 답변을 반복한다. 주관성이 가미될 수 있는 다양한 답변 앞에도 거의 예외 없이 자신은 그저 인공지능일 뿐이며 올바른 판단을 내릴 수 없다는 서론을 덧붙인다. 

그런데 이러한 겸양한 언어는 특정 상황에서 겉으로 드러나는 표현양식일 뿐, 챗지피티는 매우 과감하고 거친 방법으로 오류를 저지른다. 가령, 챗지피티에 자신의 이름을 입력하고, 전공 분야를 알려준 뒤, 그의 대표적인 학문적인 업적을 물어보면, 챗지피티는 해당 분야에서 가장 영향력 있는 작업들을 나열하며 당신이 그 책과 논문들을 다 썼다고 설명해 줄 것이다. 즉, ‘주관성’의 영역이라고 여겨지는 질문 앞에서 보이는 기계적인 겸양과 ‘객관성’의 영역이라고 여겨지는 질문 앞에서 보이는 ‘당당한 거짓말’이 공존하고 있는 것이다. 이것이 단순히 챗지피티의 성능의 문제라고 생각하지는 않는다. 

 

머신러닝에도 인간 사용자의 특성 반영

인공지능의 기능에 대해 성찰하는 것은 결국 인간의 몫이지, 기계의 역할이 아니다. 물론 인공지능은 다양한 상호작용을 통해 스스로의 오류를 교정하고 최적화하는 기능을 탑재하고 있다. 머신러닝(machine learning)이라는 개념이 바로 그것이다. 그러나 이 메커니즘은 명백하게도 인간 사용자의 특성과 의사에 따라 좌우될 수 있다. 사용자 경험을 통해 성능을 향상시켜가고 있는 구글 번역기는 영어-스페인어 사이의 전환은 훌륭하게 수행하지만 영어-한국어 사이의 전환은 그만큼 잘하지 못한다. 사용자의 수가 적기 때문이다. 사회의 소수자는 인공지능의 메커니즘에서도 소수자이다. 인공지능에 대해 성찰하는 역할만큼은 인간이 인공지능에게 외주화하지 말아야 할 영역이다. 

얼마 전 한 고등학교 특강에서 학생들에게 챗지피티를 보여주었다. 대입 자기소개서 개요까지 순식간에 만들어 출력해 주는 모습을 함께 보며 우리는 모두 경탄하지 않을 수 없었다. 한 학생이 손을 들고 질문했다. “이렇게 인공지능이 발전하다 보면, 인간은 인공지능보다 나을 것이 있나요?” 이러한 질문에 대한 답이야말로 소수의 전문가들이 내놓는 것이 중요한 것이 아니라, 우리 모두 나름대로 대답해 보고 납득하는 과정이 훨씬 중요할 것 같다. 인간은 인간이기에 그 기능의 한계와 관계없이 가치가 있다. 인간을 위협하는 것은 인공지능이 아니라, 타인을 위협하는 또 다른 인간일 것이고, 인공지능은 이를 위한 유용한 도구로 활용될 것이다. 

인공지능의 범람 속에서 살아남는 방법은, 인공지능과 “함께 살아가는 인간”이 되는 것이다. 우리는 놀랍도록 다재다능하지만 어처구니없을 정도로 뻔뻔하게 오류를 저지르는 조숙한 어린아이 같은 인공지능을 목도하고 있다. 이 어린아이를 성장시켜 우리와 함께 할 수 있도록 만드는 것은 결국 우리 사회의 몫이다. 인공지능을 과소평가하지 않고, 또한 인간 스스로의 가치와 주체성도 과소평가하지 않는, 용감하고 당당한 인간으로 살아가고자 하는 태도가 필요하다.

 

 

전준
충남대 사회학과 교수
카이스트 화학과를 졸업하고, 같은 대학원에서 과학기술정책학 석사를 했다. 미국 위스콘신-매디슨대에서 사회학 박사학위를 취득했다. 국회미래연구원에서 부연구위원으로 일했다. 현재 과학기술사회학, 환경사회학, 사회이론에 대한 연구를 수행하고 있다.


관련기사

댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.