오픈AI, '프라이버시 필터' 오픈소스 내년 중 공개[GPA서울총회]

[서울=뉴시스]윤정민 기자 = "프라이버시 본질은 인간의 존엄과 자율성에 대한 것이다. 오픈AI 역시 기술을 개발하면서 이 핵심 가치를 존중하려 한다."

오픈AI는 인공지능(AI)이 인간의 존엄성, 자율성을 지키는 수단이 되길 바란다며 회사가 내부적으로 구축한 AI 기반 개인정보 보호 기술 '프라이버시 필터'를 내년 중 개발자에게 오픈소스로 공개하겠다고 말했다.

제이슨 권 오픈AI 최고전략책임자(CSO)는 17일 오후 서울 용산구 그랜드 하얏트 서울에서 열린 제47차 글로벌 프라이버시 총회(GPA) 서울 회의에서 "전 세계 개발자들이 이를 활용해 더 높은 프라이버시 기준을 향상시킬 수 있을 것"이라며 이같이 밝혔다.

권 CSO는 AI 챗봇 '챗GPT' 출시 등 AI 서비스 확대 과정에서 프라이버시 보호를 강화해 왔다고 설명했다. 예를 들어 챗GPT 내 '임시 채팅' 기능을 통해 대화 기록이 저장되지 않는 방식을 제공하고 있다. 이용자에게 특정 데이터를 AI 학습에서 제외할 수 있는 권한을 부여했으며 기업 고객 데이터는 학습에 사용하지 않는다.

이어 그는 프라이버시 필터를 소개했다. 권 CSO는 "이 장치는 모델 학습 과정에서 개인 데이터 처리를 줄이기 위해 고안된 도구로 다른 상용 도구 대비 가장 높은 개인 데이터 제거 성능을 기록했다"며 "이를 내년에 오픈소스로 공개할 것이다. 우리의 개방성과 민주적 가치에 대한 약속을 확장하는 일"이라고 말했다.

또 "AI가 사람들에게 자신의 권리를 이해하고 행사할 수 있도록 돕는 방법을 탐구하고 있다. 수십 쪽에 달하는 프라이버시 정책을 읽는 대신 AI와 대화하듯 쉽게 권리를 파악하고 활용할 수 있게 될 것"이라고 밝혔다.

권 CSO는 청소년 보호도 강조했다. 오픈AI는 이달 말 18세 미만 전용 챗GPT를 출시할 예정이다. 부모는 자녀 계정과 본인 계정을 연결해 챗GPT 사용 가능 시간을 지정할 수 있고 선정적이거나 폭력적인 콘텐츠를 차단할 수 있는 게 특징이다.

그는 "부모와 보호자에게 더 많은 선택권을 주기 위해 콘텐츠 제한, 알림 기능, 위험 징후 감지 같은 부모 통제 기능을 강화하고 있다며 모델이 청소년의 고통·위험 신호를 감지했을 때 부모가 개입할 수 있도록 돕는 기능도 개발 중"이라고 전했다.

한편 권 CSO는 오픈AI CSO로서 AI가 미래에 끼칠 사회적 영향 세 가지를 언급했다.

AI 에이전트에 대해 그는 "우리의 비전은 AI가 인간의 필요를 보완해 더 많은 자유와 시간을 주고 개개인이 주체적으로 살아갈 수 있도록 돕는 것"이라며 "무엇보다 신뢰가 중요하다. 우리는 이용자 결정을 존중하고 데이터를 보호하는 에이전트를 설계해야 한다"고 말했다.

AI 특권의 경우 "의사, 변호사, 성직자와의 대화는 법적으로 보호받는다. AI와 복잡한 고민을 나누고 조언을 구하게 될텐데 이러한 대화를 보호하는 제도적 장치가 아직 마련되지 않았다"고 지적했다.

그는 "AI와의 대화를 어떻게 존중할 것인지, 안전을 보장하기 위한 개입은 어떻게 할 것인지, 이는 한 기업이 해결할 문제가 아니다. 법과 제도를 개선해 AI와의 대화가 소송·소환·검열로 쉽게 노출되지 않도록 해야 한다"고 주장했다.

마지막으로 권 CSO는 "한 연구에 따르면 AI는 연간 국내총생산(GDP)을 0.2~2%포인트 끌어올린다"며 "정부와 기관이 투명성과 데이터 보호를 지키며 AI를 활용할 때 사회 전반에 큰 도움이 될 것"이라고 말했다. 그 일환으로 최근 서울대와 맺은 업무협약(MOU)을 언급했다. 오픈AI와 서울대는 국내 최초 AI 네이티브 캠퍼스를 구축하기로 했다.

권 CSO는 "프라이버시와 인간 존엄성을 지키기 위해서는 혼자만으로는 불가능하다. (GPA와 같은) 규제 기관·시민사회·학계·업계가 함께하는 자리가 중요하다"며 "AI가 우리 삶의 동반자가 될 때 개인을 강화하고 권리를 보호하며 사회를 굳건하게 만드는 방향으로 나아가자"고 밝혔다.


◎공감언론 뉴시스 [email protected]