음성채팅으로 부모님 안부 묻는 악성 유저, AI로 걸러낸다

머신러닝 알고리즘으로 문제 발언 감지하는 '세이프 보이스'

김승준(음주도치) 2023-07-14 16:14:12

온라인게임, 특히 팀원들 간의 소통이 중요한 게임을 플레이하면 속된 말로 '부모님 안부를 묻는' 유저를 만나는 경우가 종종 있다. 눈살이 찌푸려지는 것은 물론이고, 스트레스 풀려고 게임에 접속했다가 반대로 스트레스를 받는 불상사를 겪기도 한다.

유니티가 게임 내 유해 요소를 식별하는 서비스인 '세이프 보이스'(Safe Voice)의 클로즈 베타 등록을 시작했다. 머신러닝 알고리즘을 활용하여 게임 내 유해 활동을 대규모로 감지하며, 음성 데이터를 수집해 톤, 볼륨, 피치, 억양, 감정 및 상호작용의 맥락 등을 분석해 더 빠른 조치를 취할 수 있게 돕는다고 한다.

유니티가 음성 채팅을 머신러닝 알고리즘으로 관리하는 '세이프 보이스' 클로즈 베타 등록을 시작했다. (사진 출처: 유니티)

유니티는 세이프 보이스 제품 페이지에서 '건강한 커뮤니티를 형성해야 유저 이탈을 줄일 수 있다'는 것을 강조했다. 이와 관련해 개별 커뮤니티의 특성을 반영할 수 있게, 특정 단어나 표현에 유해성 우선순위를 부여하는 기능, 유해성 점수를 지정하는 기능이 소개됐다. 결과적으로 이런 유해한 음성 채팅을 빠르게 찾아내, 악성 유저를 제재하고 게임 커뮤니티를 관리하는 것을 돕는다.

세이프 보이스는 엔진에 구애받지 않아서 유니티, 언리얼 및 기타 게임 엔진에서도 사용할 수 있고, Xbox, PlayStation, PC, 안드로이드, iOS 등을 포함한 플랫폼에서 작동한다. 유니티의 음성 및 텍스트 채팅 솔루션 '비복스'(Vivox)와 연동할 수도 있다.

대화 녹음 및 공유는 플레이어 개인의 사전 동의가 필요하다고 명시됐다. 민감할 수 있는 개인정보 보호에 대해서는, 세이프 보이스 사용자(커뮤니티 관리자)가 가명 처리된 정보 등을 유니티에 제공하겠다고 선택하지 않는 한, 유니티가 개인의 신원을 확인하지 않고, 이와 관련된 시스템 기능도 없다고 언급했다.

친절한 목소리에 일상적인 단어를 사용하는 것으로도 충분히 다른 플레이어에게 불쾌감을 주는 참신한(?) 욕설이 이미 많다는 맹점은 있겠으나, 이런 예외적인 상황들을 제외하면 게임 커뮤니티 관리 업무에는 도움이 될 것으로 보인다.

톤, 볼륨, 피치, 억양 등을 분석하고, 특정 단어를 지정해 유해성 우선 순위를 부여하는 것도 가능하다. (사진 출처: 유니티)

한편, 음성 채팅 관리 서비스는 다른 게임 업체에서도 개발 및 제공 중이다. 2022년 9월, 블리자드는 <오버워치 2>의 서비스 시작을 앞두고 보이스챗으로 악성 유저를 잡는 '방어 매트릭스'를 소개했다. 블리자드는 '특정 유저에 대한 신고가 이뤄질 경우, 임시 녹음 파일을 텍스트로 변환해 텍스트를 분석하는 방식'이라고 설명했다.

2023년 7월 12일에는 마이크로소프트가 Xbox의 최신 안전 기능으로 부적절한 음성 활동을 캡처하고 보고하는 옵션을 소개했다. 부적절한 언어 행동을 경험하거나 목격한 플레이어가 최대 60초의 비디오 클립을 캡처하여 Xbox 안전 팀에 증거로 제출할 수 있는 기능이다.