고객이 포르노를 위해 작업 기계를 선별하기를 원합니다. 가능합니까?

오랜 고객이 우리에게 업무용 기계의 음란물 선별 검사를 요청했습니다. 민감한 재료가 발견되면 책임이 걱정됩니다. 그들의 주요 관심사는 (명확한 이유로) 비디오, 오디오 및 이미지 파일입니다. 가능하면 텍스트 기반 문서에서 부적절한 내용이 있는지 검사하려고합니다. 그들은 엄청나게 불법으로 시작하여 (세부 사항을 나열 할 필요가 없음), 명백하게 불쾌한 것으로 이동하고, 란제리 광고, 농담 카드 기능을 갖춘 일부 사람들에게 불쾌감을 줄 수있는 것들을 포함하여 작업용이 아닌 콘텐츠 계층 구조를 가지고 있습니다. 엉덩이 균열 및 Howie Mandel와 관련된 모든 것.

내 질문은 :

• 이것이 윤리적인가? 모든 직원은 자신의 작업 기계가 회사의 소유이며 검색 대상이된다는 데 법적으로 동의하기 때문이라고 생각합니다. 검사는 작동하는 개인 기계에서 발생하지 않습니다.
• 가능합니까? 나는 많은 이미지 처리 / 인덱싱을 해왔지만 이것은 완전히 새로운 세계로 보인다.
• 포르노를 발견하는 성공적인 기술에 대한 언급이 있습니까?
• 무언가를 발견했을 때 결과를 보관하는 것이 적절합니까?

90 % Headology , 10 % 소프트웨어 로이 작업을 수행 할 수 있습니다 .

첫째, 직원 컴퓨터를 조용히 스캔하고 각 직원에 대한 파일 및 크기의 데이터베이스를 구축하십시오.

그런 다음 모든 PC에서 의심스러운 콘텐츠를 스캔한다는 메모를 유출하십시오. 즉, 보스는 포르노 등을 식별 할 수 있는 Shazam 같은 프로그램을 가지고 있습니다.

며칠 후 컴퓨터에서 파일과 크기를 다시 검색하십시오. 삭제 된 파일을보고 동영상 또는 이미지 파일입니까? 그런 사람들은 당신이 지켜봐야 할 직원입니다.

직원 PC에서 정기적으로 이미지와 동영상을 검색하고 의심스러운 콘텐츠가 있는지 수동으로 확인하십시오.

이것은 명백한 신경망 작업입니다. 먼저 회사의 전문가가 선택한 대규모 교육 이미지가 필요합니다 .....

보다 효과적인 해결책은 모든 사람의 포르노 NEXT 주 / 월 / 무엇을 검사 할 것인지 발표 한 다음 디스크를 연습하는 간단한 앱을 작성하는 것입니다. 그때까지 기계를 청소했음을 보증합니다.

ps-몇 가지 '심각한'요점-실제로 아무것도 찾고 싶지 않습니다 .

브라우저 캐시에서 몇 개의 이미지를 찾은 경우 잘못된 링크 또는 닷지 팝업이 표시 될 수 있습니다. 교사가 whitehouse.com을 통해 해고되었음을 기억하십니까? 이를 위해 해고 / 훈련하면 노동자 / 연합으로부터 반발이 일어날 것입니다. 근로자가 질문을 조사하거나 온라인으로 가격을 확인하기 전에 모든 클릭을 승인을 위해 법적으로 제출해야하는 경우 회사는 어떻게 작동합니까?

기계에서 포르노 더미를 발견하면 그 직원이 그것을 포르노에 넣었다는 것을 어떻게 증명할 것입니까? 법정에서 일어날 수있는 보안 및 감사 시스템이 있습니까? 시스템 관리자가 OS를 설치하여 사용자의 파일처럼 만들 수없는 OS를 사용하거나 알고 있습니까?

또한 내 경험상 포르노 보관소의 가장 일반적인 위치는 CxO 및 수석 VP의 랩톱에 있습니다.

파일이 미리 사라지도록 정렬하는 것이 훨씬 좋습니다.

이러한 제어 방식은 직원과 IT 직원 모두에게 고통 스럽습니다. 직원 머신 내부에 무언가가 들어간 후에는이를 감지 할 방법이 없습니다. 처음에는 기계에 들어가는 것을 중지해야합니다.
이를위한 가장 잘 알려진 방법은 방문 할 수있는 사이트 / 도메인을 분명히 제어하는 ​​것입니다. 이러한 목록은 인터넷 어딘가에 있어야합니다. 이외에도 직원이 다운로드 한 이미지 수와 비디오 위치를 추적 할 수 있습니다.
외부 하드 드라이브와 같이 웹 이외의 다른 재료에서 재료가 나올 가능성이 있습니다. 한 달에 한 번 시스템을 무작위로 스캔하여 일부 비디오와 이미지를 임의로 선택하여 수동으로 확인할 수 있습니다. 어떻게 할 수 있는지 잘 모르겠습니다. 그러나 이미지와 비디오 확인을 자동화하는 것은 확실히 범위를 벗어 났으며 확실히 잘못 될 것입니다.
사실 저는 직원들이 개인적인 일을하는 것을 제한한다는 생각에 그리 많지 않습니다. 이를 위해 직원을 신뢰해야합니다. 직원들은 사무실에 충분히 바빠서 시간이 없어야합니다. 직원이 자신의 일을 제대로하지 않는 것이 더 걱정됩니까? 아니면 깨지거나 해킹 된 소프트웨어를 설치 했습니까?

시장에는 다양한 형태의 "컨텐츠 필터링"을 수행하는 많은 제품이 있습니다. (어떤 명백한 용어에 대한 Google 검색은 명백한 후보를 던집니다.) 많은 스캔 / 필터링 소프트웨어를 처음부터 구축하는 것보다 이러한 제품 중 하나를 사용하는 것이 더 좋습니다. 또 다른 옵션은 국경을 보는 것입니다. 예를 들어 외부 이메일 및 웹 트래픽을 모니터링합니다. 다시 이런 종류의 일을하는 제품들이 있습니다.

회사가 컴퓨터에 "나쁜 것들"을 스캔하는 것이 윤리적이라는 것은 의심의 여지가 없지만 이것이 문제가 없다는 것을 의미하지는 않습니다.

첫 번째 문제:

• "불쾌감을주는 콘텐츠"가 무엇인지 아닌지를 결정하는 것은 주관적입니다.
• 이미지, "알몸의 묘사"를 포함하는 비디오를 감지하는 소프트웨어는 (AFAIK) 신뢰할 수 없을 가능성이 높으며, 오 탐지 및 오 탐지를 초래합니다.

따라서 이는 고객 조직의 누군가가 "적중"을 검토해야 함을 의미합니다. 비용이 듭니다.

두 번째 문제 : 결백 한 설명이있을 수 있습니다. 파일이 우연히 다운로드되었거나 파일이있는 동료가 심었을 수 있습니다. 무고한 설명이 있으면 고객의 조직은 자신이하는 일 / 말에주의를 기울여야합니다. (이것은 실제로 는 문제가 아니지만 역류의 일부를 처리 할 수 ​​있습니다.)

세 번째 문제 : 회사가 불쾌감을주는 자료를 모니터링 할 권리가 있음에도 불구하고 많은 직원들이이 사실을 불쾌하게 여길 것입니다. 그리고 그들이 너무 멀다면, 이것은 직원 사기에 영향을 미칠 것입니다. 일부 직원은 "보행"합니다. 다른 사람들은 항의 조치를 취할 수 있습니다. 예를 들어 많은 오 탐지를 만들려고합니다. (다시 말하지만, 정말 당신의 문제,하지만 ...)

네 번째 문제 : 사람들은 휴대용 또는 이동식 미디어 등에 데이터를 넣어 암호화하여 불쾌감을주는 자료를 숨길 수 있습니다. 사람들은 메타 데이터를 위조하여 다른 사람이 책임감있는 것처럼 보이게 할 수 있습니다.

프랑스의 법적 측면에 관하여 :

상사는 컴퓨터와 인터넷 연결을 소유하고 있습니다.

그러나 직원의 개인 정보는 침해 될 수 없습니다. 컴퓨터의 디렉토리에 PERSONAL이라는 레이블이 붙은 경우, 보스는이를 스캔 할 수 없습니다.

이를 우회하는 유일한 방법은 직원이 불법 자료를 저장한다는 증거의 요소를 얻고 법원에 컴퓨터 스캔을 요청하는 것입니다 (프랑스에서는 포르노가 불법이 아닙니다).

직원이 자신의 작업 기계가 회사의 소유이며 검색 대상이라는 데 동의 한 경우, 그렇습니다. 증거를 위해 파일의 보관이 필요할 것입니다.

실제로 재료를 찾는 방법에 관해서는. 당신은 할 수 있습니다 :

1. 우선, 특정 단어 집합 (포르노, 레즈비언 등)에 대한 파일 이름을 스캔하십시오.
2. 동일한 단어 집합에 대한 텍스트 문서 스캔
3. 이미지의 경우 이미지의 평균 색상을 찾을 수 있으며 해당 색상이 'flesh'컬러라고 할 수있는 범위 내에있는 경우 이미지에 플래그를 지정하십시오 (이 플래그가 지정된 이미지를 두 번 확인하는 사람이 가장 필요할 것입니다). ). 해변에서 가족 사진으로 끝나는 이미지를 누군가에게보고하고 싶지 않습니다.

컴퓨터에 들어올 때 파일을 스캔하면 (예 : 모든 업무용 컴퓨터에 프로그램을로드하고 사례를 중앙 데이터베이스에 기록한 경우), 너무 불명확하다고 생각하지 않습니다. 고용주는 직원들에게 분명히 있습니다).

비디오 파일을 사용하면 100 % 확신 할 수 없습니다. 이미지 스캔과 비슷한 방식 일 수 있습니다 (임의 프레임을 선택하고 특정 수준의 '살색'색상을 스캔).

오디오 파일을 스캔하는 것은 음성 인식에 들어가는 것처럼 보입니다. 이는 완전히 다른 웜 캔입니다. 그러나 파일 이름을 스캔하는 것은 쉬우 며 문서, 이미지 및 비디오 에서처럼 수행 할 수 있습니다.

@Ryan이 말했듯이 이미지 분석은 색상 분석에 중점을 둘 수 있습니다.

실행할 수 있음? 언니는 정부에서 일하면서 매년 어떤 형태의 감사를 받는가, 일단 포르노에 대한 것이 었습니다. 그녀는 (지리 물리학 자) 몇 가지 오탐 (분홍색 암석)을 가졌다.

종래의 분류 방법을 이용한 음란물 탐지에 대한 최근의 중요한 연구가있다. 여기 및 여기 에서 예제를 사용할 수 있습니다 .

• 이것이 윤리적인가?

직원의 이행과 합리적인 기대에 달려 있습니다. 예를 들어, 소프트웨어 가 네트워크에 연결된 시스템을 검색하는 경우 인프라에서 인증되지 않은 시스템의 플러그 인을 방지해야하는 추가 요구 사항이 있습니다.

• 가능합니까? 나는 많은 이미지 처리 / 인덱싱을 해왔지만 이것은 완전히 새로운 세계로 보인다.

모든 직원의 약물 검사가 가능합니까? 어쩌면 그래도 그만한 가치가 있는지 의문입니다. 나는 그것을 무작위로 만들 것입니다. 직원에게 언제라도 부적절한 콘텐츠가 있는지 검사 할 수 있음을 직원에게 알립니다.

• 포르노를 발견하는 성공적인 기술에 대한 언급이 있습니까?

나는 이것을 만지지 않습니다. 나는 유머 감각을 억제 할 수 있다고 생각하지 않습니다. 그러나 텍스트를 검색 할 때 Scunthorpe 문제 를주의하십시오.

• 무언가를 발견했을 때 결과를 보관하는 것이 적절합니까?

이것은 나에게 가장 중요하며 변호사에게 물어볼 것입니다. 불법 콘텐츠를 발견하면 기술적으로 공개해야 할 것으로 의심됩니다. 특히 사용자가 자신의 실수로 노출되지 않은 경우에는 좋지 않습니다. 이를 처리하는 방법에 대한 실제 법률 자문이 필요합니다. HR 및 변호사를 참여 시키십시오.

순전히 기술적 인 관점에서 : 이것은 객체 범주 인식 문제처럼 들립니다. 나는 그런 일을 한 적이 없지만 내가 읽은 것에서 최첨단 범주 인식 시스템은 다음과 같이 작동합니다.

• 먼저 많은 관심 포인트를 검색합니다 (예 : 해리스 코너 감지기, 스케일 공간에서 LoG / DoG 필터의 극한 포인트 사용, 일부 저자는 임의의 포인트 선택 제안)
• 그런 다음 각 지점에 형상 변환을 적용합니다 (SIFT, SURF, GLOH 또는 기타 여러 항목).
• 찾은 모든 기능을 히스토그램 (Bag-Of-Features)으로 결합
• 표준 머신 러닝 알고리즘 (서포트 벡터 머신과 같은)을 사용하여 많은 트레이닝 이미지를 사용하여 객체 범주 간의 구별을 학습하십시오.

모든 사람의 컴퓨터 운영 체제는 아마도 디스크 이미지에서 설치되었을 것입니다.

1. 디스크 이미지로 시작하여 스캔 할 필요가없는 파일 목록을 얻습니다.
2. 각 PC의 다른 모든 파일 목록을 얻습니다.
3. 10-20 개의 임의 머신에서 실제 파일을 가져 와서 테스트 베드로 사용
4. 욕설과 의심스러운 단어 (섹시, 주전자, '거의 합법적', 농담 등) 사전에서 항목 검색
5. 비디오보기 – 비디오가있는 사람이 있습니까?
6. 사진보기
7. 의심스러운 모든 비디오 또는 이미지 파일을 사용하여 다른 컴퓨터를 검색 할 수 있습니다

한 사람이 업무용 컴퓨터에 물건을 놓기 전에 한두 명의 직원이 걸리게됩니다.

이 서비스에 대해 음란 한 금액을 청구하십시오. Zappos는 직원들에게 이런 일을 절대하지 않을 것입니다.

네트워크의 도메인 관리자라고 가정합니다.

1. 각 사용자 데스크탑 컴퓨터에 C $.
2. 포르노 파일을 개인 개인 공유에 복사하십시오.
3. 원래 위치에서 삭제하십시오.
4. 팝콘을 만드십시오.
5. 모든 "증거"에 대한 자세한 상세 분석.

방금 의견을 말하고 싶지만 담당자는 1 명뿐이므로 할 수 없습니다.

Gravatar의 경우 인터넷 캐시 위치의 클린 사이트 목록에서 필터링하는 기능을 추가 할 수 있습니다. IE Gravatar 및 기타 오 탐지를 원하지 않는 사이트. 바탕 화면 배경 무늬와 같은 것을 필터링 할 수도 있습니다. 그들이 데스크톱에 포르노를 표시하는 경우 사람들은 감사 외부에서 알아 차릴 것입니다.

그런 일은 결코 안정적으로 작동하지 않습니다. 차단 목록을 사용하여 이름 또는 일부 목록에 포함 된 도메인 (일반적인 관행)을 차단할 수 있습니다. 그러나 이러한 목록은 완전하지 않으며 기준에 따라 이름을 차단하면 많은 오탐 (false positive)이 발생할 수 있습니다.

사이트의 텍스트에 나타나는 단어를 차단할 수는 있지만 오탐 (false positive)으로 이어질 수 있습니다 ( "naughty bits"를 감지하기 위해 네트워크를 통과하는 모든 단일 비트의 데이터를 구문 분석해야하므로 매우 느려집니다).

특정 비율 이상의 스킨 톤을 표시하는 사진 (및 사진이 포함 된 사이트)을 차단할 수 있습니다. 그러나 다시 그것은 많은 오탐으로 이어집니다. 상처와 피부 상태를 보여주는 사지와 몸통의 이미지로 의료 백과 사전을 차단하는 대학 의료 부서가 잘 알려져 있습니다. 물론 특정 스킨 톤 만 차단하기 때문에 인종 차별 주의자입니다. 백인 피부와 일치하는 색상을 차단하면 예를 들어 항상 검은 배우를 사용하는 포르노가 있습니다.

직원을 신뢰하고 신뢰가 깨질 때 정책을 세워 두는 것이 가장 좋습니다.

잘 모르겠습니다. 중간 응답이 있어야합니다. 침습적이지는 않지만 실제 문제 인 책임을 해결하십시오.

그들에게 작업장에없는 불법적 인 물건에 대한 책임을 면제 해주는 포기에 서명하게하십시오.

1. 사용자에게 URL은 성인이라고 간주됩니다 . bluecoat 프록시 가 그렇게합니다.
2. Google이 이미지 검색 http://code.google.com/apis/safebrowsing/ http://www.google.com/search?q=google+image+recognition+api 에서 라이센스를 허가합니다 .
3. 사전 합의 된 목록에없는 항목이 있는지 컴퓨터를 검사하십시오.

사람의 세련된 사진, 수영복 사진, 누드 사진, 음란물 묘사 등의 차이점을 파악하기위한 이미지 및 내용 분석 ... 소프트웨어만으로는 할 수있는 정도로 정교하지 않습니다.

다행히도 @ammoQ가 의견에서 제안한 것처럼 크라우드 소싱이 유용해야합니다. 그러나 4chan 또는 다른 포럼의 회원은 버튼, 프레임, 광고 등의 일반 웹 그래픽과 같은 포르노 가 아닌 많은 이미지가 게시되는 것을 좋아할 것이라고 생각하지 않습니다 .

Amazon Mechanical Turk 와 같은 기존 크라우드 소싱 솔루션을 살펴 보는 것이 좋습니다 . (서비스 약관에 따라 포르노 콘텐츠가 포함되는 것이 명시 적으로 금지 될 수 있으므로 다른 해결책을 찾거나 직접 구해야 할 수도 있습니다.)

크라우드 소싱을 실현하려면 소프트웨어에서 다음 중 일부 또는 전부를 수행 할 수 있도록 준비해야합니다.

• 콘텐츠를 컴퓨터와 연결하는 정보 저장
• 전체 재고에서 정확한 중복을 식별하고 제거합니다 (그러나 원본 정보는 유지됨)
• 불필요하게 디테일을 유지하지 않고 저장 공간 / 대역폭을 낭비하지 않고 이미지의 내용을 식별하기에 충분한 320x200 크기로 이미지를 다운 샘플링합니다.
• 일정한 간격으로 비디오 컨텐츠의 스틸 이미지를 생성하고 동일한 다운 샘플링 규칙을 적용하십시오

마지막으로 원본 이미지 및 비디오 콘텐츠를 나타내는 축소 이미지 데이터베이스는 회사의 행동 강령에 따라 사용자 (또는 리소스가있는 경우 지정된 팀)에 의해 확인됩니다. 프로그램이나 인터페이스는 한 번에 하나의 이미지 또는 썸네일 화면을 표시 할 수 있습니다. 정확한 정보를 얻는 것이 가장 좋습니다.

이미지가 제공된 컴퓨터의 정체성은 데이터를 평가하는 사람들에게 절대적으로 비밀이 있어야하고 알려지지 않아야합니다. 또한 무작위로 지정해야하며 각 이미지가 바이어스를 제거하기 위해 두 번 이상 확인되었을 것입니다.

동일한 기술을 텍스트에 사용할 수 있지만 먼저 크라우드 소싱 리뷰에서 많은 텍스트를 제거하는 키워드 순위로 콘텐츠에 점수를 매길 수 있습니다. 긴 문서를 분류하는 것은 물론 이미지를 분류하는 것보다 시간이 많이 걸립니다.