여러분은 과제를 할 때 인공지능(AI)을 쓴 적이 있나요? AI를 활용하면 많은 도움을 받을 수 있지만 과도하게 사용하면 발생할 수 있는 문제가 많아요.

▲GIB

학교 숙제, AI가 도와줄 수 있다

학교 글쓰기 과제에서 유난히 완벽한 문장을 써서 제출한 친구들을 보고 감탄한 적 있나요? 그런데 학교에 제출한 과제가 친구가 쓴 게 아니라 인공지능(AI)이 만든 글일 수도 있어요. 2024년 미국 여론 조사 기관인 퓨 연구센터의 설문조사 결과, 미국 13~17세 청소년 중 26%가 생성형 AI인 챗GPT로 과제에 도움을 받고 있었어요. 2023년의 조사 결과보다 두 배 높아진 비율이었죠. 또 2023년 일본 도호쿠대학교 고등교육 연구팀이 대학생 4000명을 대상으로 설문 조사했더니 14%의 대학생이 챗GPT를 과제에 활용한다고 응답했어요.

AI는 우리가 과제를 할 때 긴 글을 빠르게 써주고 정리되지 않은 문장을 깔끔하게 다듬어줘요. 문장을 쓸 때 더 멋있는 표현을 추천해 줄 수도 있습니다. 과제에 대한 아이디어가 막힐 때도 새로운 생각을 제안해 주기도 하죠.

하지만 ‘도와주는 것’과 ‘대신 해주는 것’은 전혀 다른 말이에요. 예를 들어 친구가 옆에서 ‘이렇게 해보는 건 어때?’라고 조언하는 것과 친구가 내 이름으로 숙제를 나 대신 모두 해주는 건 다른 일이죠. AI도 마찬가지입니다. AI가 쓴 내용을 그대로 베껴서 내가 쓴 것처럼 제출한다면, AI가 나의 과제를 도와준 게 아니라 대신 해줬다고 볼 수 있어요.

▲GIB

AI는 도구일 뿐

AI가 만든 내용을 그대로 베껴서 과제로 제출하는 것은 부정행위예요. AI는 사람들이 만든 글을 학습해 새로운 내용을 만드는데, 그 내용을 자신의 이름으로 발표했으므로 표절을 한 셈이지요. 과제를 AI에 전부 맡기면 과제에 대해 고민하지 않게 돼 생각하는 힘이 약해진다는 단점도 있습니다.
챗GPT와 같은 생성형 AI는 완벽한 도구가 아니라는 문제도 있어요. 겉보기엔 그럴듯한 정보를 만들지만, 사실이 아닌 내용을 진짜처럼 그럴싸하게 만들기도 합니다. 이러한 문제를 ‘환각 현상’이라고 불러요. 예를 들면, 존재하지 않는 책 제목을 지어내거나, 틀린 수학 공식을 알려주는 경우가 있어요. AI와 대화를 나누던 사람은 따로 검색을 해보지 않으면 거짓 정보를 사실처럼 믿어 버리기 쉽습니다.

환각 현상이 일어나는 이유는 챗GPT와 같은 생성형 AI는 사람처럼 생각하거나 이해하는 능력이 없기 때문이에요. 단지 많은 문장 중에서 답변이 될 만한 문장을 예측하고 선택하지요. 즉, 생성하는 문장이 그럴듯하게 보이게 만드는 목적이 있지, 사실이 맞는지 밝히는 목적은 없습니다. 그래서 AI가 알려준 내용을 아무 의심 없이 받아들이고 그대로 과제로 제출한다면 나도 모르게 잘못된 정보를 퍼뜨리는 사람이 될 수 있어요. 따라서 생성형 AI를 사용할 때 AI를 도와주는 대상으로 활용하고 있는지, 대신해 주는 것으로 활용하고 있는지 기준을 정할 필요가 있어요.

‘대신’과 ‘도움’을 구별하는 기준을 꼭 기억하세요. AI는 나를 도와주는 도구일 뿐 작가도, 선생님도, 나 자신도 아닙니다. 글을 쓰는 작가는 여러분이에요. AI가 만든 내용을 보고 왜 이렇게 썼을지, 정말 맞는 말일지, 내 생각과 같은 점과 다른 점은 무엇일지 확인하는 과정이 꼭 필요해요. 글을 쓴다는 건 단순히 문장을 만드는 게 아니라 내 생각과 마음을 담는 일이기 때문입니다.

이건 ‘도움’입니다!

□ 내가 먼저 생각한 내용을 AI에 설명해 보고 의견을 듣는다.
□ 내 글을 더 자연스럽게 바꾸는 방법을 물어보거나 새로운 어휘를 추천받는다.
□ 내가 쓴 글을 AI에 검토받고 고칠 부분을 참고한다.
□ AI가 제안한 내용을 읽고 나만의 생각대로 말을 바꾸거나 생각을 덧붙인다.

이건 ‘대신’입니다!

□ 주제만 입력한 뒤 AI가 만든 글을 그대로 과제로 제출한다.
□ AI가 쓴 문장을 하나도 고치지 않고, 이름만 바꿔서 과제로 낸다.
□ AI가 만든 문장의 내용을 이해하지 못한 채 무작정 복사한다.
□ AI가 쓴 문장이 무슨 뜻인지 묻는 말에 설명할 수 없다.

d라이브러리