사람보다 똑똑한 AI, '도덕'도 배울수 있을까

사람보다 똑똑한 AI, '도덕'도 배울수 있을까

기대감과 함께 온 AI의 그늘
한계 인정하고 현실 쓰임 찾아야

이시은 IT과학부 기자 see@hankyung.com

지난 15일 막을 내린 세계 최대 IT·가전 전시회 ‘CES 2021’은 인공지능(AI)에 대한 새로운 기대를 부르기에 충분했다. 아침에 일어나 저녁에 눈 감는 순간까지 AI는 마치 ‘만물’에 깃든 영혼처럼 우리의 일상과 함께할 날이 머지않았다는 점을 확인해줬기 때문이다. ‘AI 전환(AI transformation)’은 이미 곳곳에서 변화의 소용돌이를 일으키고 있었다.

장밋빛 미래에 대한 기대가 컸기 때문일까. 벌써부터 만만찮은 우려가 터져나오고 있다. 한국경제신문이 CES 2021 기간에 맞춰 연 ‘CES 2021 특별 웨비나’에서도 우려가 감지됐다. 때마침 불거진 AI 챗봇 ‘이루다’ 논란이 사회를 양분한 것에 대해 참석자인 국내 AI대학원장들은 “완전한 AI란 존재할 수 있는가”란 화두를 던지는 것으로 의견을 대신했다. 최고의 석학들은 갑론을박 대신 해답을 숙제로 남겼다.

‘AI를 고도화한다’는 것은, 수천억 개의 사전 검열 불가능한 데이터를 학습시키는 것이다. AI가 사람과 같이 사고하고 말하는 방법은 결국 얼마나 많은 사용자 데이터를 학습하느냐에 달렸다. 문제는 방대한 양의 데이터에서 발생한다. 개발자가 큰 틀에서 부정적인 영향을 제어할 수는 있겠지만, 주의를 기울이지 못한 부분은 어김없이 발생한다. 가치판단조차 어려운 데이터가 끼어드는 건 물론이다. 이는 인공신경망 기술이 태생부터 지닌 한계이자, 앞으로 수많은 노력을 기울여야 넘을 수 있는 장벽이기도 하다.

‘서비스 중단’으로 끝맺음한 챗봇 사태에서 전문가들이 아쉬움을 나타낸 것도 같은 맥락이다. 조성배 연세대 AI대학원장은 “연구자가 ‘바른 기준’을 학습시키려 노력해도, 법철학·도덕·선악의 개념과 같이 인간도 분별이 어려운 고차원 영역은 AI가 배우기 어렵다”고 했다. 사람만 하더라도 10년 이상의 정규 교육과정을 통해 사회화 규범을 익히는데, 우리가 AI에 기대하는 게 너무 과할 수 있다는 것이다.

결국 시작점은 AI가 ‘기계’임을 인정하는 것부터인 듯하다. 차상균 서울대 데이터사이언스대학원장은 “과대포장된 ‘스트롱 AI(strong AI)’에 대한 꿈을 버려야 한다”고 했다. AI에 대한 사회 전반의 시각이 현실 기술과 괴리가 있다는 뼈아픈 지적이다. 이미 2019년 유럽연합(EU) 집행위원회는 ‘신뢰할 수 있는 인공지능 가이드라인’을 발표하며 최종 의사결정 단계에서 오히려 인간의 역할이 중요함을 분명히 했다.

선악을 판단할 수 없는 ‘도구’를 완성하기 위해선 ‘인간’의 노력이 더 많이 필요한 것 같다. 개발자의 연구, 데이터를 만드는 사용자들의 이용 윤리, 그리고 정부의 역할도 중요하다. AI의 쓰임새를 현실적으로 고민해야 함은 자명하다. 걸음마를 하는 도구에 사람이길 강요하는 것은 허상이다.

인공지능(AI-artificialintelligence)

<미래 세계에서 인공지능은 인간과 동일한

의식과 영성(靈性)을 갖춘 존재가 될 것이다.>

●인공지능(AI-artificialintelligence)

    가) 서울의 30년 후 미래는, 인간 수명이 100세를 넘길 것이고, 자율 주행자동차의 세상이 올 것이며,

             휴머노이드(인간을 닮은 로봇)가 사람을 대체하는 세상이 될 것이라고 과학자들은 예언하고 있다.

    나) 인공지능이란, 인간이 지닌 지적 능력의 일부 또는 전체를 인공적으로 구현한 것을 말한다. 일반적으로는 다목적 컴퓨터를 통해 소프트웨어적으로 구현하지만, 어떤 것은 인간의 신경계를 모방한 특수한 회로를 칩으로 만들어 구현하기도 한다. 현실에서는 아직 걸음마 단계에 불과하다.

    다) 인공지능은 크게 자아를 지닌 '강 인공지능(Strong AI)'과, 자아는 없으나 주어진 조건 하에서 지시를 따르는 '약 인공지능(Weak AI)'으로 구분한다. 덧붙이면, 강 인공지능보다 더 발전되어 인간의 지능을 월등히 뛰어 넘는 '초지능'도 있다.

    라) 일반적인 약 인공지능은 바둑이라든가 폐암 x-ray 사진 판독, 사람 얼굴 구별 등 특정 분야의 일만 할 수 있다. 약 인공지능은 한 번도 해보지 않은 꽃꽂이를 남들이 하는 것을 보고 배워서 한다든가, 방범 업무를 경찰에게 인수 인계 받아서 학습하여 한다든가 하는 것도 가능하다.

    마) 강 인공지능(Strong AI)은 자의식을 가진 인공지능이다. 명령 받지 않은 일도 스스로 필요하다고 생각해서 할 수 있으며, 심지어 명령을 거부할 수도 있다. 예를 들어 어떤 업무를 수행하는데 자신의 능력이 부족하면 스스로의 판단으로 자신의 지능을 높이게 소프트웨어나 하드웨어에 수정을 가할 수도 있다.

    바) 초지능은 인공지능이 인간을 넘어선 상태를 말한다. 디스토피아적(유토피아의 반대말)인 주장을 펼치는 사람들의 말을 들어보면, '초지능이 인간 위 생태계로 자리 잡아 인간을 조종하게 될 것' 이라고 주장한다.

    사) 현실에서 연구하는 인공지능은 어디까지나 인간의 의식을 단순히 겉으로 모사하는 것이 한계이며, 실제로 감정을 느껴 반응하는 것은 아니다. 그러나 앞으로 인간의 의식을 보다 정밀하게 묘사하려면 인공지능에게 감정을 줄 필요성이 있다고 과학계는 주장한다.

    아) 미국의 미래학자 레이 커즈와일(Ray Kurzweil)은 사람이 죽지 않게 되고, 인공지능(AI)이 인간의 마음을 갖게 될 것이라고 주장한다. 즉 인공지능이 완성된 후에는 인공마음이 개발될 것으로 예상하고 있다. 미래 세계에서 인공지능은 인간과 동일한 의식과 영성(靈性)을 갖춘 존재가 될 것이라는 이야기다. 2045년 이전에 컴퓨터는 지구상의 모든 인간들의 뇌를 합친 것보다 10억 배 더 강력해질 것으로 예측되고 있기 때문에 초인간적 인공지능과 인공마음을 지닌 신인류의 출현이 가능하다고 예측한다.

 

●인공지능 로봇의 사례

    가) 아마도 인공지능이 개발되는 순간부터 인류의 생물학적 진화로서의 지능의 발전은 거의 한계에 다다를 것이며, 이제는 인류의 지능보다 더 높고 뛰어난 인공지능의 개발로 지능이 필요한 영역을 진보, 발전시켜나갈 것이다. 그리고 인류의 지능과 인공지능이 결합된 형태 또는 인공지능+컴퓨터가 인간의 지능을 대체, 보완하는 형태로 인류는 인공지능을 매개로 지금보다 더욱더 뛰어난 연구, 기술개발, 기술발전이 가능할 것이다.

    나) 인공지능과 로봇은 서로 다르다. 인공지능은 소프트웨어(정신)이고, 로봇은 하드웨어(육체)이다. 휴머노이드(인간을 닮은 로봇)처럼 지능을 가진 로봇을 만들 때는 두 분야가 협력하는 것이 일반적이다.

    다) 미 국방부의 국방고등연구계획국(DARPA)은 멀리서 사람이 조종하는 드론이 아니라 도시나 건물 속에서 스스로 목표를 찾아내 공격하는 초소형 비행체를 연구하고 있다. 인공지능을 이용한 자동무기체계는 화학무기와 핵무기에 이어 무기분야에서 제3의 혁명을 부를 것이라고 예견했다.

    라) 〈인공지능 시대의 미래〉

           애플의 공동 창업자 스티브 워즈니악은 “인간이 신이 될지, 아니면 AI의 애완동물이 될지 알 수 없다”며 AI가

           극도로 발달하면 인류에 위협이 된다고 주장한다. 미래학자 레이 커즈와일은 “2045년 인공지능이 인간지능을

           뛰어넘는 특이점에 도달하고, 그 이후론 통제 불가능한 상황이 전개될 것” 이라고 예측했다. 문제는 인공지능의

           발전 속도가 폭발적이라는 것이다. 과학 철학자 닉 보스트롬 옥스퍼드대학 교수는 “사람보다 똑똑한 기계는

           인류를 멸망시킬, 인류의 마지막 발명품이 될 것” 이라고 주장했다.

    마) 한편 구글은, 인간과 교감하는 수준을 넘어 사실상 사랑을 나누는 AI가 등장할 것이라고 장담한다. AI가 생경하고 차가운 메탈 느낌이 아니라 따스한 가슴을 가진 인간의 체온으로 우리에게 다가올 것임을 예고한다. 인간보다 더 인간적이고 인간과 더욱 자연스럽게 어울리는 디지털 기술로 인류의 미래를 바꿀 것으로 전망한다.

    바) 〈주거혁명과 가족해체〉

미래학자인 카론 멀로니는 2040년 결혼제도가 소멸하고 가족형태는 점점 사라질 것이라고 주장한다. 가족해체와 주거혁명의 가장 큰 이유는 수명연장과 정착생활의 붕괴다. 2040년 평균 수명은 130세에 이를 것이므로, 한 사람과 결혼해 한곳에서 100년 이상 사는 것은 불가능해진다는 것이다.

또한 제조업이 소멸하고 일자리가 사라지면서 주택 소유의 종말이 오고, 가족의 소멸로 갈 수밖에 없다는 것이다. 따라서 핏줄 관계는 느슨해지고 1인 가구와 가족을 대체할 공동체가 늘어나면서, 동성애 가족, 애완용 동물과 사는 펫 패밀리(Pet Family), 여행하다 만난 노마드 가족, 로봇 가족이 증가할 것이라고 예측하고 있다. 또한 고령화 시대에 가장 보편적인 가족의 형태는 노인 친구들끼리의 공동체가 될 것이라고 예측하고 있다.