챗GPT(ChatGPT)를 서비스 중인 오픈AI(OpenAI)가 美 대선을 앞두고 경선 후보를 모방한 챗봇 개발을 금지했다.

사진: 로이터 연합뉴스

21일(현지시간) 워싱턴포스트(WP, The Washington Post)가, ‘오픈AI가 민주당 경선 후보인 딘 필립스(Dean Benson Phillips, Minnesota) 연방하원의원의 AI 챗봇 딘닷봇(Dean.Bot)을 개발한 스타트업의 계정을 차단했다’고 보도했다.

딘닷봇은 오픈AI가 서비스 중인 챗GPT의 API(응용프로그램 인터페이스, Application Program Interface)를 활용해 개발한 챗봇(Chatbot)이며, 딘 필립스 연방하원의원 측은 이 챗봇을 통해 유권자들과 실시간으로 대화할 수 있는 창구를 만들 예정이었다.

오픈AI의 이번 조치는 지난 15일(현지시간), 자사 블로그를 통해 “How OpenAI is approaching 2024 worldwide elections(2024년 전 세계 선거에 대한 OpenAI의 접근법)”이라는 제목의 글을 게시한 후 첫 번째 조치이다.

오픈AI는 이 글에서 향후 선거와 관련해 ①정치 캠페인 및 로비 활동을 위한 목적의 어플리케이션 개발, ②특정 정치 후보나 기관인(예를 들면, 지방 정부) 것처럼 가장하는 챗봇 개발, ③사람들의 투표 참여를 방해하는 어플리케이션 개발을 ‘금지’한다고 명시했다.

그리고 이에 덧붙여, AI 이미지 생성 툴(Tool)인 달리(DALL·E 3)로 생성된 이미지에, 해당 이미지의 출처와 진위성을 증명할 수 있는 인증방식(임베디드 워터마크, Embedded watermarks)을 추가할 것이라고 했다.

이번 오픈AI의 선거 관련 조치가 인공지능(AI) 기업 중 최초는 아니다. 즉, 구글과 메타(Meta, 옛 Facebook과 Instagram의 모회사)의 선거 관련 정책이 개정(Updated)된 이후 나온 정책이다.

지난 11월, 메타는 정치적 목적의 광고의 경우 광고주가 AI 툴을 사용해 광고를 만들었는지 여부를 공개하도록 의무화했다. 구체적으로 AI 툴을 이용해 광고에 삽입되는 이미지, 동영상, 오디오 등을 제작 또는 변경했다면 그 사실을 공개하라는 의미다. 

지난 12월 구글(Google)도 자사 AI 챗봇인 바드(Bard)가 선거 관련 질문에 제공하는 답변의 종류를 제한하는 등의 조치를 할 것이라고 밝혔다.

그러나 일각에서는 이와 같은 AI 기업들의 노력의 효과가 제한적일 것이라는 의견도 나왔다.

왜냐하면, 이미 오픈소스(Open Source)로 공개된 거대언어모델(LLM, Large Language Model)들이 존재하기 때문이다.

이들을 활용하면 챗GPT의 API를 활용한 것과 유사한 성능의 챗봇을 개발할 수도 있기 때문이다.

그리고 워터마크를 활용하는 방법도 한계가 있다. 왜냐하면, 워터마크를 잘라내거나 이미지를 뒤집거나 색상을 변경하면 출처나 진위 여부를 확인할 수 없게 만들 수도 있기 때문이다.

Executive Summary>>

Open AI has banned the development of  chatbots that imitate candidates in the US presidential election. It seems likely that other countries will also ban it in the same way.

OpenAI, which provides ChatGPT, banned the development of chatbots that imitate primary candidates ahead of the U.S. presidential election.