MMO 채팅을위한 비속어 필터

Smartfox 서버를 사용하여 MMO를 개발 중입니다. 대상 독자는 7-12 세의 어린이입니다.

이 MMO에는 글로벌 채팅 옵션이 있습니다.
텍스트 상자에 입력 한 사용자가 입력 한 후 사용자 아바타 옆에 표시됩니다.

이 채팅에서 욕설과 욕설을 필터링하고 싶습니다.
우리는 대화를 포착하고 텍스트를 읽을 수 있습니다. 문제는 욕설 자체 목록을 얻는 것입니다.

우리의 질문은

1. 모든 욕설에 대한 철저한 목록을 어디에서 얻을 수 있습니까?
2. 비슷한 시나리오에서 이러한 방법을 필터링하기 위해 어떤 방법을 채택합니까?

하지마

필터가 작동하지 않습니다. 적어도 필터 만 작동하지 않습니다. 허용 목록, 차단 목록은 중요하지 않습니다. 이들 중 어느 것도 아이들이 서로를 괴롭히는 것을 막을 수는 없습니다. 이 작업을 수행하는 유일한 방법은 채팅을 필터링하지 않고 문장에 큰 빌딩 블록을 제공하는 것입니다. 예를 들어, 한 어린이가 "당신이하고 싶은 일 ..."을 선택하고 "가서 ..."와 "무역 ..."에 대한 옵션을 불러옵니다. "go to ..."를 선택하면 게임의 장소 목록이 나타납니다.

디즈니는 14 세의 화이트리스트 테스트 대상이 "긴 목을 가진 기린을 푹신한 흰 토끼를 고집" 하기로 결정한 후 MMO "툰 타운"에이 방법을 사용했다 . 간단히 말해, 남용을 방지하기에 충분한 단어를 차단하거나 허용 할 수 없습니다 .

아이의 MMO를 설계하는 경우 실제로 엄격한 블랙리스트 필터를 구현하지만 두 번째 방어선으로 만 사용됩니다. 첫 번째 방어선은 항상 중재자이며 악용 사례를 신고 할 수있는 능력이어야합니다. 블랙리스트에 포함 된 단어의 가중치를 매기고 각 사용자는 자신이 얼마나 유쾌한 지 비밀 점수를 얻습니다.

필터를 사용하려고 시도하거나 우회하는 사용자가 먼저 필터를 트리거 할 가능성이 있습니다. 더 명백한 욕설 (모호하거나 오래된 구식이 아닌)이나 반복적 인 욕설 시도는 중재자를위한 감시 목록 또는 일종의 금지 목록 에 넣습니다 . 이런 식으로 중재자는 여전히 순진한 아이들의 의견을 읽는 데 시간을 낭비하지 않고 다른 사람을 괴롭 히려고하는 사용자에게 집중할 수 있습니다.

필터를 제공 하지 않는다고 말하는 사람들에 대한 응답으로 , 나는 당신 이 의도 한 청중의 부모와 관련하여 자신의 엉덩이를 가리는 것 외에 다른 이유없이 필터 를 제공 해야 한다고 주장합니다 . 사용자가 비활성화 할 수 있는지 확인하십시오. 불완전하고 완전히 선택적인 필터이지만 비속어 필터를 구현하면 어린 청중의 감성을 보호하기 위해 예상되는 모든 것을 수행했다고 말할 수 있습니다.

이러한 언어를 선호하는 사람들은 자신의 컴퓨터에서 즉시 필터를 비활성화하고 필터가 존재한다는 사실을 잊었 기 때문에 오랫동안 비활성화 할 수 있으므로 사용자가 현명한 문장 부호 또는 대체를 사용하여 사용자가이를 우회하지 못하도록하십시오. .

이러한 이해를 바탕으로 구현에 대해 크게 걱정하지 마십시오. 그것은 완벽 할 필요는 없지만 (이것은 완벽 할 수 있기 때문에 좋은 것입니다 ), 가능하면 비교적 완전하고 방해가되지 않아야합니다. 즉, " 사소한 실수" 를하지 않도록해야합니다 .

구현은 매우 간단 할 수 있습니다. 단어 목록을 가져 와서 목록에있는 단어를 별표 또는 이와 유사한 것으로 바꿉니다. 전체 단어 만 검색하는 것이 가장 좋습니다.

단어 목록은 간단합니다. http://www.google.com/search?q=profanity+word+list

모든 것을 포괄 할 필요는 없으며, 자녀를 보호하기 위해 여러분의 용감한 노력을 나타내면됩니다.

블랙리스트와 화이트리스트를 허용하는 솔루션을 구현하려고합니다. 예를 들어 블랙리스트에 'cunt'를 추가하고 화이트리스트에 'scunthorpe'를 추가 할 수 있습니다.

난 당신이 할 수 있다고 생각하지 않습니다 지금까지 나는 당신의 사전에서 가장 "인기있는"단어를 얻으려고 것, 그래서 안전 장치 솔루션을 구현하고, 목록에 새로운 단어를 추가 할 수 있습니다 쉽게로합니다.

그 이유는 언어, 특히 영어가 끊임없이 진화하고 수십 년 동안 불쾌한 것이 올바른 맥락에서 불쾌감을 줄 수 있기 때문입니다.

가능한 한 많은 단어를 얻고 거기에서 나 가려고 노력하십시오. 사람들이 불평 할 때 반응 시간이 빠르며 이것이 일반적으로 문제가된다는 것을 보여 주면 문제가있을 것입니다.

미국의 검열에 대한 지침이 정확히 무엇인지 아는 것이 좋습니다 : MBNL! (나는 변호사가 아니야!)

내가 주석으로, 모든 모욕적 인 단어를 필터링하는 것은 정말 어렵습니다 -하지만 당신은 주위를 회전하고 사용할 수있는 화이트리스트 의 허용 말씀을. Google 검색을 수행하면 어린이 게임에서 목록에 입력 할 수있는 항목을 제한하는 것이 일반적입니다. 예를 들어, 레고 유니버스 는 화이트리스트를 사용합니다.

게임 채팅 허용 목록 도 참조하십시오 . 그리고 참고 화이트리스트를 피할 수 있습니다 . 보장 된 솔루션이 없습니다.

어린 아이들을위한 것이므로 클라이언트 인터페이스에 따라 철자가 잘못되어 문제가 될 수 있다는 것을 고려하면 단어 자동 완성을 고려할 수 있습니다 . 플레이어가 글자를 입력하기 시작하면 가능한 단어 목록을 제공하고 올바른 단어를 선택하게하십시오.

비속어 필터를 구축하기위한 하나의 시스템을 설명하는 프로그래머 의 답변 이 있습니다 . 그는 실제로 어떻게 세부적으로 구축했는지는 설명하지 않지만 구현 아이디어를 얻는 데 충분해야합니다.

이것은 코드보다는 인간과 사회 디자인에 의해 가장 잘 해결되는 문제입니다.

철저한 목록의 가장 좋은 소스는 게임에 존재하고 채팅 스트림을 모니터링하는 살아있는 사람입니다. 사람들을 게임에 넣고 최고의 필터로 만드십시오.

클럽 펭귄 뒤에있는 레인 메리 필드의 아이디어와 철학을 살펴보고 서비스를 제공하는 것에 대해 시간을 보내십시오. 2008 년 Austin GDC에서 발표 한 두 가지 글을 썼습니다. 나는 그것을 보았고 코드가 아닌 인간의 인간 문제를 해결하는 그의 스타일에 깊은 감명을 받았습니다.

http://gamasutra.com/php-bin/news_index.php?story=20234

http://www.raphkoster.com/2008/09/15/agdc08-lane-merrifield-at-their-service/

특히 게임은 어린이를 대상으로하기 때문에 생각해야 할 필터를 맹세합니다. 나쁜 동기가 있거나없는 아이들로 위장한 사람들에 대해 걱정해야합니다. 자녀가 안전하다는 것을 부모에게 확신시켜야합니다. 아이들에게도 그 문제에 대해 안전하다는 것을 확신시켜야합니다.

인간에게 또 다른 장점은 문맥을 이해한다는 것입니다. 당신은 "엄마가 유방암에 걸렸다"고 말하는 아이들을 원하지 않습니다.

문제에 대한 간단한 해결책 :

1. 입력에서 공백과 구두점을 모두 제거하십시오.
2. Urban Dictionary의 모든 것을 차단합니다 .
3. 모든 호모 폰 등을 블랙리스트에 추가
4. 완곡으로 사용할 수있는 모든 것을 블랙리스트에 올리십시오.
5. 남아있는 내용, 의도 및 어조를 이해하기 위해 소프트웨어를 작성하십시오.
6. 5 단계부터 게임을 버리고 지각적이고 전지전능 한 창조로 시장에 진출하십시오.

어린이를위한 일부 MMO는 채팅을 사전 정의 된 감정 표현 및 문구 목록으로 바꾸고 자유형 채팅을 허용하지 않습니다. 아마도 게임은 그것을 수용하도록 설계 될 수 있습니다.