"기계에는 표현의 자유가 없어" 유럽연합, AI 규제 칼 빼들어

점차 커지는 인공지능(AI)의 허위 정보 문제, EU가 칼을 빼 들었다.

6월 5일, 유럽 연합(EU)의 베라 주로바 부위원장은 EU의 허위 정보에 관한 실천 강령에 인공지능(AI)으로 생성된 콘텐츠에 대한 규칙을 포함하라고 요구했다. 강령이 바뀐다면 마이크로소프트와 구글을 포함하여 44개의 강령 서명 기업들은 변화한 규칙을 따라야 한다.

허위 정보에 관한 실천 강령은 "경제적 이익을 위해 또는 의도적으로 대중을 속이기 위해 작성, 제시 및 유포되는 검증 가능한 허위 또는 오해의 소지가 있는 정보"의 확산을 방지하기 위해 EU가 만든 강령이다. 처음 위 강령은 기업들이 자발적으로 따르는 가이드라인이었다. 그러다 2022년 업데이트에서 디지털 서비스법의 공식 규제 프레임워크에 통합되었다. 

이번 강령의 변화는 급속도로 발전하는 AI와 깊은 관련이 있다. 차세대 AI 챗봇은 복잡한 콘텐츠와 비주얼을 단 몇 초 안에 생성할 수 있는 능력을 보여준다. 이를 악용한다면 얼마든지 허위 정보를 생산해 내는 게 가능하다. 딥페이크로 특정인의 목소리나 얼굴을 합성하고 지인에게 연락하는 보이스피싱 사례가 대표적이다.

특히 마이크로소프트의 빙 검색 엔진이나 구글의 바드 챗봇처럼 생성형 AI를 서비스에 통합한 온라인 플랫폼은 더욱 취약한 구조다. 그래서 이들은 ‘악의적 행위자’가 허위 정보를 생성하지 못하도록 안전장치를 만들어야 할 필요가 있다. 그녀 역시 “AI가 생성한 허위 정보를 인식하고 이를 사용자에게 명확하게 표시하는 기술을 출시해야 한다”고 말했다.

또한 새로운 규칙이 표현의 자유를 침해할 가능성이 있는 게 아니냐는 질문에 그녀는 “기계가 표현의 자유를 가질 권리는 없다고 본다”고 말했다.

강령이 바뀐다면 EU 강령에 서명한 기업들은 모든 AI 생성 콘텐츠에 라벨을 부착하는 등 변화한 규칙에 따라 관련 조치를 취해야 한다. 구글, 마이크로소프트, 메타, 틱톡은 EU의 논평 요청에 응답하지 않았다.

베라 주로바 EU 부위원장. (출처: 유럽 연합 집행위원회)