오픈AI, AI 부정행위 감지 기술 공개 두고 딜레마 직면

 

 

 

[산경투데이 = 한승수 기자]

오픈AI가 개발한 새로운 AI 콘텐츠 감지 기술의 공개 여부를 두고 논란이 일고 있다.

월스트리트저널(WSJ)에 따르면, 오픈AI는 약 1년 동안 이 기술을 준비해왔으며, 내부 관계자에 따르면 "버튼만 누르면" 바로 사용할 수 있는 상태라고 전해졌다.

이 기술은 챗GPT가 생성한 텍스트에 워터마크를 삽입하여, 사용자가 생성한 콘텐츠가 AI에 의해 작성되었는지 판별할 수 있게 한다.

기술의 정확도는 99.9%에 달하며, 과제나 논문 작성에서 챗GPT의 사용 여부를 감지하는 데 효과적이라고 알려졌다.

하지만 오픈AI는 이 기술의 공개 여부를 두고 내부적으로 2년간 논쟁을 벌이고 있다.

기술의 투명성 유지와 사용자 유치 사이에서 고민하는 오픈AI는, 기술이 영어를 모국어로 사용하지 않는 사용자들에게 불리하게 작용할 수 있다는 우려를 표명하고 있다.

워터마크가 영어 텍스트에 최적화되어 있어, 번역된 텍스트에서도 AI의 사용 여부를 정확히 판단하기 어려울 수 있기 때문이다.

한편, 일선 학교들은 학생들의 AI 부정행위를 막기 위해 이 기술의 공개를 요구하고 있다.

비영리 단체 민주주의 기술 센터의 조사에 따르면, 학생들이 AI를 이용해 과제를 작성했다고 생각하는 교사의 비율이 59%로, 이는 1년 전보다 17% 증가한 수치다.

그러나 오픈AI는 기술의 악용 가능성과 사용자들의 반발을 고려해 아직 공개 여부를 결정하지 못하고 있다.

특히 챗GPT를 자주 사용하는 이용자 중 3분의 1은 이 기술이 도입되면 사용을 중단할 수 있다고 답했다.

출처 : 산경투데이 https://www.sankyungtoday.com

 

 

https://www.sankyungtoday.com/news/articleView.html?idxno=47547

오픈AI, AI 부정행위 감지 기술 공개 두고 딜레마 직면