ChatGPT가 쏘아 올린 생성형 AI 경쟁과 발전의 부작용과 한계

모든 기술은 양면성을 지니는 만큼 사회에 미치는 부작용과 문제점, 한계도 함께 인지하고 있어야 합니다. 이번 글에서는 ChatGPT가 쏘아 올린 AI 경쟁과 발전이 우리 사회에 어떤 부작용과 문제점을 야기하고 한계는 무엇인지 정리했습니다.

 

ChatGPT 출시 이후 사람들 사이에서 AI에 대한 기대감은 더욱 증폭되었습니다. 전 세계적으로 많은 기업들의 경쟁과 투자도 더욱 활발해지고 있습니다. 우리가 사는 사회도 전반적으로 많은 것이 바뀔 것으로 예상됩니다.

 

AI 경쟁과 발전이 가져올 부작용, 문제점, 한계에 대해서 5가지로 정리했습니다.

 

• AI 기술의 부작용과 한계 1 : 신뢰성
• AI 기술의 부작용과 한계 2 : 편향성
• AI 기술의 부작용과 한계 3 : 저작권 문제
• AI 기술의 부작용과 한계 4 : 윤리적인 문제
• AI 기술의 부작용과 한계 5 : 악용
• 진정한 AI 시대를 살아가기 위해 필요한 것

 

ChatGPT가 갖고있는 문제점들

 

AI 기술의 부작용과 한계 1 : 신뢰성

 

AI 기술의 가장 큰 문제점은 신뢰성의 한계입니다. Google의 Bard(ChatGPT 같은 생성형 AI)가 틀린 답을 내놓고, 많은 사람들에게 실망을 준 것처럼 AI가 항상 정답을 말하는 것은 아닙니다.

 

또한 ChatGPT도 없는 사실을 만들어서 답변을 하는 사례들이 계속 발생하면서 화제가 되고 있습니다. 이것은 지금 AI 언어 모델이 갖는 본질적인 문제이자 한계입니다.

 

학습을 기반으로 답변을 하기 때문에 스스로 생각하고 판단해서 말하는 것이 아니기 때문에 모르는 것도 아는 것처럼 답변합니다. 

 

이 부분을 조금 더 자세히 설명하면, 지금까지 AI 모델들은 학습한 데이터를 기반으로 다음에 올 확률이 가장 높은 단어들을 순차적으로 늘어놓는 답변을 합니다. 결국 그 답은 확률이 높을 뿐이지 정답이 아닐 수 있습니다. 

 

ChatGPT 역시 실시간으로 데이터를 수집해서 답변하는 게 아니라, 2021년까지의 데이터만 학습한 상태라서 최신 정보를 알지 못합니다. 문제는 모르는 사용자의 문의에 대해서 오답을 검증 없이 정답인 것처럼 답변을 하는데에 있습니다.

 

현재 AI 기술의 신뢰성 문제는 검증 절차가 별도로 도입되어야 해결될 수 있습니다.

 

 

AI 기술의 부작용과 한계 2 : 편향성

 

AI 기술에는 편견, 정치, 종교 등의 민감한 주제에 대해서 '편향성' 문제도 있습니다. 이 역시 학습한 데이터에 기반하기 때문에 발생하는 문제입니다.

 

학습 데이터는 사람으로부터 생성되기 때문에 제작자가 편향을 제거한다고 하더라도, 완전한 중립을 지키기 어렵습니다. 이 부분은 과거 "AI 챗봇 이루다 사건"을 찾아보면 문제점을 더 정확하게 알 수 있습니다.

 

AI 챗봇 이루다는 초기 버전에서 일부 악용하는 사용자들로 인해 잘못된 학습이 이루어졌습니다. 그래서 혐오와 차별 발언, 성논란 발언 등이 이슈가 되었고, 서비스가 중단되기도 했습니다.

초기 AI 챗봇 이루다의 인종 혐오 발언 사건

 

심지어 운영진들의 문제도 심각했었습니다. 사용자들의 대화 내용을 수집해서 직접 확인하는 등 개인정보 유출 문제까지 발생했습니다.

이루다 운영진들의 개인정보 유출 및 악용

 

이 모든 것들이 사람이 개입하면서 발생한 문제들이었고, AI가 편향성을 갖게 된 문제입니다. 사람이 만든 기술과 서비스이기 때문에 이 부분은 계속해서 보완해야 합니다.

 

 

AI 기술의 부작용과 한계 3 : 저작권 문제

 

ChatGPT가 답변하는 내용들 중에 창작물에 대한 저작권 문제도 있습니다. ChatGPT로 작성되는 글이나 소스코드는 구체적으로 어떤 내용에 근거해서 만들어지는지 알 수 없습니다. 생성된 출력물의 출처가 별도로 표기되지 않기 때문입니다.

 

실제로 이와 같은 논란으로 Github의 생성 코드 서비스인 Copilot는 미국에서 소송이 걸린 상태입니다. ChatGPT가 내놓는 답변 또한 누군가의 창작물을 가져다 사용할 경우 저작권 문제에 직면하게 됩니다.

 

그리고 ChatGPT가 내놓은 답변을 무단으로 활용하게 될 경우에도 사용자도 저작권 문제에 직면하게 됩니다. 이 부분에 대해서는 생성형 AI를 만드는 사람들이 설계 단계부터 신경을 쓰고, 사용자에게 미리 고지할 필요가 있습니다.

 

 

AI 기술의 저작권과 한계 4 : 윤리적인 문제

 

AI 기술은 사용자에게 윤리적인 문제도 발생시킵니다.

 

최근에 학교에서는 학생들이 ChatGPT를 활용해 과제나 에세이 등을 만들어 제출하면서 문제가 발생했습니다. 실례로 국내 어느 국제학교에서 영어 에세이 숙제를 ChatGPT로 작성한 것이 확인되어 전원 0점 처리되었습니다.

 

이를 방지하기 위해 뉴욕과 LA 공립 대학들은 교내 인터넷/인트라넷 망과 컴퓨터를 통한 ChatGPT를 차단하고 있습니다. 또 GPTZero와 같은 AI로 생성된 텍스트를 판단/판정하는 앱도 생기고, OpenAI에서도 'AI Text Classifier'를 출시했습니다.

 

비윤리적인 방법으로 사용하는 사용자도 문제이지만, 이런 문제를 사전에 방지하거나 조치할 수 있는 방편들이 미리 준비되어야 합니다.

 

 

AI 기술의 저작권과 한계 5 : 악용

 

마지막으로 사이버 보안이나 범죄에 활용될 수 있는 문제도 가지고 있습니다. 이미 다크웹에서는 각종 제한 사항과 규약을 우회하는 방법들이 공유되고 있는 상황입니다.

 

예를 들어, '멀웨어 소프트웨어 코드를 작성해 줘'라는 명령을 돌려서 말하는 방법이 공유되고 있습니다. 즉, 코딩 및 개발 지식이 없는 사람도 기업 이메일 해킹이나, 개인정보 유출을 노리는 악성 프로그램을 쉽게 작성할 수 있게 된 것입니다.

 

따라서 이에 대한 기업과 국가적인 차원에서 사전/사후 대비책이 필요합니다.

 

 

진정한 AI 시대를 살아가기 위해 필요한 것

 

ChatGPT와 같은 생성형 AI 기술의 발전은 앞으로 우리 일상과 세상에 더 많은 영향을 끼칠 것입니다. 교육, 의료, 금융, 마케팅, 게임 등 다양한 산업에서 혁신적인 변화를 이끌어 내며 많은 부분이 달라질 것입니다.

 

알파고 사태가 AI의 예고편이었다면, 이젠 정말로 본게임이 시작되었다고 할 수 있습니다. 이러한 변화를 받아들일 준비를 하는 하면서, 좋은 부분은 적극 활용하고 안 좋고 나쁜 부분은 미리 대비할 수 있는 자세가 필요한 시점입니다.