ChatGPT는 학계를 변화시킬 수 있습니다. 하지만 아직 A+ 학생은 아닙니다 : NPR

엠마 보우먼

ChatGPT에 메시지를 입력하면 나만의 가상 비서가 됩니다. NPR의 OpenAI/스크린샷 숨기기 캡션

ChatGPT에 메시지를 입력하면 나만의 가상 비서가 됩니다.

챗봇이 대신해 줄 수 있는데 왜 숙제를 합니까? ChatGPT라는 새로운 인공 지능 도구는 수학 문제를 해결하고, 대학 에세이를 작성하고, 연구 논문을 작성하는 초인적인 능력으로 인터넷을 열광시켰습니다.

개발자인 OpenAI가 지난달 텍스트 기반 시스템을 대중에게 공개한 후 일부 교육자들은 그러한 AI 시스템이 학계를 좋게든 나쁘게든 변화시킬 수 있는 잠재력에 대해 경고해 왔습니다.

펜실베이니아 대학교 와튼 경영대학원의 에단 몰릭 교수는 트위터를 통해 “AI는 기본적으로 숙제를 망쳤다”고 말했다.

그는 Morning Edition과의 인터뷰에서 NPR과의 인터뷰에서 이 도구가 많은 학생들 사이에서 즉각적인 인기를 얻었으며 가장 즉각적으로 사용되는 것은 AI로 작성된 작업을 표절하여 부정 행위를 하는 방법이라고 말했습니다.

학업 사기는 제쳐두고 Mollick은 학습 동반자로서의 이점도 누리고 있습니다.

그는 MBA 학생들을 위한 강의 계획서, 강의, 과제 및 채점 기준표를 작성하는 데 도움을 주기 위해 이를 자신의 교사 조교로 사용했습니다.

그는 "학술 논문 전체를 붙여넣고 요약해달라고 요청할 수 있다. 코드에서 오류를 찾아 수정하고 왜 틀렸는지 알려달라고 요청할 수 있다"고 말했다. "이러한 능력의 증가로 인해 우리는 정신을 제대로 차리지 못하고 있다고 생각합니다. 이는 정말 놀라운 일입니다."라고 그는 말했습니다.

그러나 신흥 AI 기술과 마찬가지로 초인적 가상 비서에도 한계가 있습니다. ChatGPT는 결국 인간에 의해 만들어졌습니다. OpenAI는 실제 인간 대화의 대규모 데이터 세트를 사용하여 도구를 교육했습니다.

Mollick은 "이것에 대해 생각하는 가장 좋은 방법은 전지전능하고 기쁘게 해주고 싶어하는 인턴과 이야기를 나누고 있다는 것입니다. 그는 때때로 당신에게 거짓말을 합니다."라고 Mollick은 말했습니다.

그것도 자신감에 바탕을 두고 있다. 권위 있는 어조에도 불구하고 ChatGPT가 답변이 없을 때 이를 알려주지 않는 경우가 있었습니다.

이것이 바로 스위스 취리히에 거주하는 데이터 과학자인 Teresa Kubacka가 언어 모델을 실험하면서 발견한 것입니다. 박사 과정에서 물리학을 공부한 Kubacka는 가상의 물리적 현상에 대해 질문하여 도구를 테스트했습니다.

"나는 존재하지 않는 것으로 알고 있다고 생각하는 것에 대해 의도적으로 질문했습니다. 존재하는 것과 존재하지 않는 것에 대한 개념이 실제로 있는지 판단할 수 있도록 말이죠."라고 그녀는 말했습니다.

ChatGPT는 인용문을 바탕으로 매우 구체적이고 그럴듯한 답변을 내놓았기 때문에 가짜 현상인 '사이클로이드 역전자석'이 실제로 진짜인지 조사해야 한다고 말했습니다.

자세히 살펴보니 주장된 원본 자료도 가짜였다고 그녀는 말했다. 유명한 물리학 전문가의 이름이 나열되어 있었지만 그들이 집필한 것으로 추정되는 출판물의 제목은 존재하지 않는다고 그녀는 말했습니다.

Kubacka는 "여기가 좀 위험해집니다."라고 말했습니다. “참고 문헌을 신뢰할 수 없는 순간, 과학 인용에 대한 신뢰도 약화됩니다.”라고 그녀는 말했습니다.

과학자들은 이러한 가짜 세대를 '환각'이라고 부릅니다.

1999년까지 비영리 연구 기관을 운영했던 Allen Institute for AI의 창립 CEO인 Oren Etzioni는 "질문을 하면 아주 틀린 답을 주는 매우 인상적인 답변을 주는 사례가 아직도 많이 있습니다."라고 말했습니다. 최근에. "물론 사실관계를 주의 깊게 확인하거나 확증하지 않으면 문제가 됩니다."

챗봇을 실험하는 사용자는 도구를 테스트하기 전에 ChatGPT가 "때때로 부정확하거나 오해의 소지가 있는 정보를 생성할 수 있다"는 경고를 받습니다. NPR의 OpenAI/스크린샷 숨기기 캡션