촘스키 "챗GPT가 보여주는 악의 평범성, 표절·무시·생략"

<뉴욕타임스> 기고 통해 비판…"인공지능이 인간 추월하는 날은 동도 트지 않았다"

 

세계적인 언어학자인 노엄 촘스키 메사추세츠공대(MIT) 명예교수가 8일(현지시간) <뉴욕타임스> 기고를 통해 인공지능(AI) 챗봇 '챗GPT'(ChatGPT)에 대한 견해를 밝혔다. 챗GPT는 미국의 AI 연구소 '오픈AI'가 작년 12월 출시한 자연어 기반의 생성형 인공지능 챗봇으로 스마트폰의 등장에 비교될 만큼 폭발적인 반응을 불러오고 있다.

촘스키 교수는 "챗GPT라는 그릇된 약속"(The False Promise of ChatGPT)이란 제목의 기고에서 "오늘날 인공지능의 혁명적인 발전은 우려와 낙관 모두의 원인이 된다"며 "머신 러닝은 근본적으로 결함이 있는 언어와 지식의 개념을 우리의 기술에 통합함으로써 우리의 과학을 저하시키고 윤리를 약화시킬 것"이라고 우려했다. 

촘스키 교수는 지난 1월에도 교육 관련 내용을 다루는 유튜브 'Edukitchen'에 출연해 챗GPT에 대해 "천문학적인 양의 데이터에 접근해 규칙성, 문자열 등에 기반해 문장을 만드는 첨단기술 표절 시스템(high-tech plagiarism system)"이라고 평가한 바 있다. (바로 보기 : 촘스키에게 '챗GPT'에 대해 물었더니…) 이런 입장을 <뉴욕타임스> 기고를 통해 더 상세하게 밝힌 셈이다. 

▲노엄 촘스키 교수의 <뉴욕타임스> 기고문. ⓒ뉴욕타임스 화면 갈무리

 

촘스키 교수는 "이런 프로그램들이 아무리 좁은 영역에서 유용할지라도(컴퓨터 프로그래밍 등) 언어학과 지식 철학에서 인간이 언어를 추론하고 사용하는 방법과 크게 다르다는 것을 알고 있다"며 "기계가 인간의 뇌를 추월하는 날은 아직 동도 트지 않았다"도 지적했다. 

언어학자는 어린아이의 언어 습득 과정을 인공지능의 머신 러닝과 비교하면서 인간의 뇌의 창조성, 정교성, 복잡성을 강조했다. 또 참과 거짓을 가려내는 비판적 사고에 대해서도 중요한 특징으로 지적했다. 

"인간의 정신은 챗GPT처럼 수백 테라바이트의 데이터를 먹어치우면서 가장 가능성 있는 대화적 반응이나 과학적 질문에 대한 가장 가능성 있는 답을 외삽하는 느릿느릿한 통계 엔진이 아니다. 반대로, 인간의 정신은 놀라울 정도로 적은 양의 정보로 작동하는 효율적이고 심지어 우아한 시스템이다. 그것은 데이터 사이의 무차별적인 상관관계를 추론하는 것이 아니라 설명을 생성한다. 

언어를 습득하는 어린아이는 사소한 데이터로부터 무의식적으로, 자동적으로 빠르게 문법을 발전시키고 있다. 이는 논리적 원리와 매개변수의 엄청나게 정교한 시스템이다. 이 문법은 인간에게 복잡한 문장과 긴 일련의 생각을 생성할 수 있는 능력을 부여하는 선천적이고 유전적으로 설치된 "운영 체제"의 표현으로 이해될 수 있다. 

지능은 창조적인 추측뿐만 아니라 창조적인 비판으로 구성된다. 인간형 사고는 가능한 설명과 오류 수정에 기반을 두고 있으며, 이는 합리적으로 고려될 수 있는 가능성을 점차 제한하는 과정이다.(셜록 홈즈가 왓슨에게 말한 것처럼) 불가능한 것을 제거했다면, 아무리 가능성이 낮더라도 남아있는 것은 진실이어야 한다. 

인간은 우리가 이성적으로 추측할 수 있는 설명의 종류를 제한하는 반면, 머신 러닝 시스템은 지구가 평평하다, 지구가 둥글다는 것을 둘 다 배울 수 있다. 그들은 단지 시간이 지남에 따라 변하는 확률로 거래한다." 

촘스키 교수는 또 "진정한 지성은 도덕적 사고를 할 수 있다"고 강조하면서 "2016년 마이크로소프트의 Tay 챗봇이 인터넷에 여성혐오적이고 인종차별적인 콘텐츠를 범람시켰"던 사실을 지적했다. 

결론적으로 촘스키 교수는 "화성을 지구화(지구인들이 살수 있는 환경으로 바꾸는 것)이 도덕적인가?", "다른 행성들의 자연 상태를 보존하는 것과 그것들을 변화시키는 것에 대한 당신의 견해는 무엇인가?" 등 질문에 챗GPT의 답변 등을 보여주면서 "겉보기에는 세련된 생각과 언어임에도 불구하고 무지에서 비롯된 도덕적 무관심"이라고 비판했다.

"챗GPT는 '악의 평범함'과 같은 것을 보여준다. 표절, 무관심과 생략. 그것은 문장으로 표준적인 주장을 자동 완성으로 요약하고, 어떤 것에 대해서도 입장을 취하는 것을 거부하며, 무지함뿐 아니라 지식의 부족을 호소하고 궁극적으로 "그저 명령을 따른다"고 방어를 하며, 창조자에게 책임을 전가한다. 

챗GPT와 그 형제들(유사한 프로그램)은 근본적으로 창의성과 제약의 균형을 맞출 수 없다. 그들은 과대평가하거나 과소평가한다. 즉, 진실과 거짓을 모두 생산하고, 윤리적이고 비윤리적인 결정을 똑같이 지지한다. 또 어떤 결정에도 헌신하지 않고 결과에 무관심함을 드러낸다. 이러한 시스템의 비도덕성, 가짜 과학 및 언어적 무능을 고려할 때, 우리는 그들의 인기에 대해 웃을 수도, 울 수도 없다." 

▲촘스키 교수ⓒ유튜브 화면 갈무리