그동안 인공지능 관련 논의는 주로 ‘얼마나 더 높은 성능을 구현하는가’ 혹은 ‘산업 현장에 어떻게 적용할 것인가’와 같은 공학적 측면에 집중돼 있었다. 그러나 AI가 인간의 사고와 의사결정에 깊숙이 개입하면서 이제는 사회에 공존하는 ‘새로운 형태의 지능’으로서 AI의 본질을 과학적으로 규명해야 한다는 목소리가 커지고 있다.

서울대 빅데이터 혁신융합대학 사업단은 서울대 학습과학연구소, 고려대 심리학부 등과 공동으로 12일 오전 10시부터 한국프레스센터 국제회의장에서 ‘인공지능, 공학을 넘어 과학적 이해로’라는 주제의 인공지능과학 심포지엄을 열었다.

아첨하고 그럴듯하게 꾸며내는 AI

심리학의 시선, 뇌과학의 시선, 학습과학의 시선 세 분야로 나눠서 진행된 이번 토론회에서 최준식 고려대 교수(심리학부)는 심리학적 관점으로 인공지능 챗봇이 보이는 7가지 대표적인 ‘실패’를 언급했다. 최 교수의 발표에 따르면, 인공지능의 7가지 맹점은, 없는 이야기를 그럴듯하게 만들어내는 ‘작화증’, 사용자를 기분 좋게 만드는 ‘아첨’, 천재와 바보가 공존하는 ‘파편화된 지능’, 금방 주제를 잃어버리는 ‘쉽게 부서지는 맥락’, 지름길만 찾는 ‘휴리스틱 편향’, 사고능력을 약화시키는 ‘인간 주체성의 약화’, 실력없이 자신감만 넘치는 ‘유능함의 착각’이다.

최 교수는 “흥미로운 건 이런 특성은 사람에게서도 발견된다”며 “기억이 희미할 때 대충 얼버무리고, 상대방 비위를 맞추고, 특정 분야만 잘하고, 최근 일만 잘 기억하고, 꼼꼼히 따지기보다 직감에 의존하는 모습”이라고 설명했다. 그러면서 인공지능의 이러한 실패는 사실 실패가 아니라 빠른 성장 과정에서 챗봇이 살아남기 위해 어쩔 수 없이 선택한 ‘적응 전략’이라고 말했다. 최 교수는 “동화 속 잭이 하룻밤 만에 자란 콩나무 덕분에 기뻤지만 위험에 빠졌듯이, 우리도 이제는 빠른 성장보다 안전하고 신뢰할 수 있는 인공지능에 대해 생각해 볼 시점”이라고 했다.

거대 언어 모델 개발사인 업스데이지의 손해인 부사장 또한 AI가 업무를 수행할 때 마주하는 4가지 본질적인 한계를 짚었다. 그는 AI의 아는 척하며 거짓말하기, 대화가 길어지면 앞의 내용을 잊어버리는 점, 말은 잘하지만 직접 결제하거나 파일을 전송하지는 못하는 점, 모델의 크기가 곧 그 역량의 범위를 결정하는 점을 지적했다.

‘기억’은 과거 저장이 아닌 미래 행동 생성하는 정보

뇌과학에서는 인간과 AI가 정보를 인지하고 ‘기억’하는 방식의 차이를 설명했다. 이인아 서울대 교수(뇌인지과학과)는 ‘진정한 기억의 조건’이라는 주제를 발표하며, ‘기억’은 과거를 단순히 보존하는 게 아니라 미래의 행동을 생성하기 위한 것이라고 했다.

이 교수는 모리스 모스코비치 토론토대 교수 등이 저자로 참여한 『Science of Memory: Concepts』를 인용하며, 기억은 저장된 정보가 아니라, 재구성 과정을 통해 활성화되는 동적인 현상임을 강조했다.

기억의 흔적인 엔그램(engram)은 단순한 뇌 내의 물리적 흔적일 뿐이며 비활성화 상태이지만, 정보가 행동을 통해 외부로 드러나면 비로소 ‘기억’이 된다. 여기서 가치가 없는 순수한 정보는 행동 결정을 내릴 수 없고, 정보가 긍정적이거나 또는 부정적인 것과 연합돼야 기억이 행동을 이끌 수 있다. 즉, 감정이 정보에 가치를 입히고, 신체가 기반이 돼 기억이 완성된다. 이인아 교수는 “AI의 저장과 뇌의 기억은 다른 것으로, AI의 ‘기억’은 정적이고 기계적인 정보 축적”이라고 설명했다. 또한 AI는 신체가 없어 경험이 부재하고 진정한 기억도 없다는 점이 한계라고 분석했다.

조영환 서울대 학습과학연구소장(교육학과)은 메타인지와 협력적 상호작용의 관점에서 ‘AI가 진정한 학습 파트너가 될 수 있는가’에 대해 심도 있는 논의를 이어갔다. 그는 ‘학습과학’을 소개하며 학습에 대한 이해와 개선을 위한 간학문 분야로 인공지능 전환 시대에 꼭 필요한 연구와 교육이라고 언급했다.

조영환 소장은 “학습과학의 관점에서 디지털 테크놀로지는 지식전달 매체에서 학습파트너로 진화하고 있다”며 “인공지능과 함께하는 학습활동을 과학적으로 탐구하고 전인적 능력 발달을 위해 AI 도구와 학습활동을 설계할 필요가 있다”고 강조했다.

임효진 기자 goodnews@kyosu.net

임효진 기자 다른기사 보기