상세
Georgia Tech Is Trying to Keep a ChatGPT-Powered Teaching Assistant From ‘Hallucinating’
2023-06-22www.edsurge.com
북마크·좋아요·좋아요 1명·댓글 0개·조회 15명
공정민님이 2023-06-27에 작성하였습니다.
요약
[ChatGPT 기반 조교의 활용 개선을 위한 노력 : 조지아 공과대학교의 사례]
◎ 조지아 공과대학교 연구진은 ChatGPT와 같은 대형 언어 모델이 엄격히 현실에 부합하기 보단 그저 예측 가능한 패턴에 맞는 답변을 내뱉도록 설계되어 있어 학습 조교로 사용하기에는 부적합하다고 전함.
◎ 이에 대응하여 연구진은 해당 대학에서 조교로 사용하고 있는 자체 AI 챗봇 Jill Watson을 ChatGPT의 중간자 역할로서 사용하며 보완 중임.
- 우선 Jill Watson에게 강의 비디오 및 슬라이드의 텍스트와 교과서 내용을 입력하여 사용되는 모든 과정의 특정 자료를 교육함.
- 이후 Jill Watson은 학생의 질문에 답을 보내기 전에 교과서의 어느 부분을 봐야 하는지 ChatGPT에게 지시하거나, 교과서 자료를 진실의 출처로 사용하여 ChatGPT가 인터넷에서 가져온 결과의 사실을 맞추어 봄.
◎ 이러한 작업을 통해 해당 챗봇의 오류를 감지하고 정확성을 향상시킬 수 있었음.
◎ 해당 챗봇은 이번 여름 세 개의 온라인 강좌(인지과학 입문, HCI, 지식 기반 AI)에서 사용될 예정이며, 각 100명에서 370명의 학생들이 수강할 예정임.
◎ 지금까지 대부분의 학생들은 챗봇에게 호감을 보이고 있으며, 연구진은 챗봇의 정확성을 높이기 위해 지속적인 개선 작업을 진행할 예정임.
◎ 조지아 공과대학교 연구진은 ChatGPT와 같은 대형 언어 모델이 엄격히 현실에 부합하기 보단 그저 예측 가능한 패턴에 맞는 답변을 내뱉도록 설계되어 있어 학습 조교로 사용하기에는 부적합하다고 전함.
◎ 이에 대응하여 연구진은 해당 대학에서 조교로 사용하고 있는 자체 AI 챗봇 Jill Watson을 ChatGPT의 중간자 역할로서 사용하며 보완 중임.
- 우선 Jill Watson에게 강의 비디오 및 슬라이드의 텍스트와 교과서 내용을 입력하여 사용되는 모든 과정의 특정 자료를 교육함.
- 이후 Jill Watson은 학생의 질문에 답을 보내기 전에 교과서의 어느 부분을 봐야 하는지 ChatGPT에게 지시하거나, 교과서 자료를 진실의 출처로 사용하여 ChatGPT가 인터넷에서 가져온 결과의 사실을 맞추어 봄.
◎ 이러한 작업을 통해 해당 챗봇의 오류를 감지하고 정확성을 향상시킬 수 있었음.
◎ 해당 챗봇은 이번 여름 세 개의 온라인 강좌(인지과학 입문, HCI, 지식 기반 AI)에서 사용될 예정이며, 각 100명에서 370명의 학생들이 수강할 예정임.
◎ 지금까지 대부분의 학생들은 챗봇에게 호감을 보이고 있으며, 연구진은 챗봇의 정확성을 높이기 위해 지속적인 개선 작업을 진행할 예정임.
에디터 노트
공정민
조지아 공과대학의 연구 과학자 산딥 카카르는 '환각'은 ChatGPT 뿐만 아니라 대형 언어 모델의 본질에 깃들어 있는 특징이라고 얘기합니다. 새로운 질문에 대해 전혀 예상치 못한 답을 내거나, 사실이 아닌 정보를 제공할 수 있기 때문입니다.
그럼에도 불구하고 조지아 공과대학에서는 ChatGPT를 또 하나의 동료로서 AI 챗봇 Jill Watson과 함께 사용하여 기술의 한계와 어려움에 대해 탐구하고 개선하기 위해 노력하고 있습니다.
본 아티클의 연구 결과는 AI 챗봇을 신뢰로운 학습 도구로 발전시키는 데 중요한 역할을 할 것으로 기대됩니다.
그럼에도 불구하고 조지아 공과대학에서는 ChatGPT를 또 하나의 동료로서 AI 챗봇 Jill Watson과 함께 사용하여 기술의 한계와 어려움에 대해 탐구하고 개선하기 위해 노력하고 있습니다.
본 아티클의 연구 결과는 AI 챗봇을 신뢰로운 학습 도구로 발전시키는 데 중요한 역할을 할 것으로 기대됩니다.
로그인하세요