AI를 속일 수는 있지만 인간은 할 수없는 텍스트 문자 보안 문제가 있습니까?

시각적 난독 화 방법으로 AI 를 쉽게 속일 수있는 텍스트 보안 문자 (따라서 올바른 텍스트를 입력해야 함) 과제를 생성하는 현대 기술이 있습니까?

예를 들어 이미지에 포함 된 텍스트 를 인식하고 (플래시 또는 자바와 같은 외부 플러그인을 고려하지 않고) 이미지 분류 등을 작성하는 일반 기능에 대해 이야기하고 있습니다.

노이즈, 그라디언트, 회전 문자 추가 또는 색상 변경은 더 이상 신뢰할 수있는 방법이 아닙니다.

어떤 제안이나 연구가 완료 되었습니까?

인간을 독특하게 만드는 것에 대한 흥미로운 질문입니다. 라는 제목의 주제에 좋은 책이 무엇 컴퓨터 캔트 할 일 에 의해 허버트 드레이퍼스는 .

컴퓨터가 처리 할 수없는 (현재는 적어도) 할 수있는 일 중 하나는 중요한 것의 순위를 매기는 것입니다. 예를 들어, CAPTCHA는 중요 항목 (작은 1, 5 또는 6 개 항목)을 임의로 주문하도록 요청합니다. 이 특정 운동은 AI가 인간의 판단에 따라 결정을 내릴 것을 요구합니다 (항상 합리적인 것은 아님).

복도 아래의 두 줄은 동일하지만 하나는 육안으로 보이는 것처럼 착시 현상을 이용할 수있는 방법은 선의 상태에 대한 객관식 질문이 표시 될 수 있습니다. 우리의 눈은 더 길어 보이지만 컴퓨터는 여전히 같은 길이입니다. 물론, 눈에 근거한 장애를 가진 사람들이이를 완수하지 못하는 문제는 항상 있지만, 그것을 수용하기 위해 다른 착시가 사용될 수 있습니다.

예

최첨단 분류 기가 해결할 수없는 비디오에서 사용자 레이블을 강조 표시 한 개체 레이블

최첨단 비디오 분류기를 만듭니다. Google의 YouTube-8M 비디오 교육 데이터를 통해 교육 할 수도 있습니다. 그러나 계속해서 원본 비디오를 제공하고 싶을 것입니다.

분류기에 가능한 많은 개체를 레이블로 지정하십시오. 개체로 인식 할 수 있지만 레이블을 지정할 수없는 개체를 격리 시키십시오.

객체의 윤곽을 나타내는 비디오를 출력하게하십시오. 양식에 쉽게 포함 할 수있는 GIF가 바람직합니다.

이 중 100 개는 개체가 무엇인지 100 명의 사용자에게 문의하십시오. 사용자의 90 %가 개체 이름에 동의하면 해당 비디오를 보안 문자 집합에 추가하십시오. 이것을 사전 훈련 된 세트라고합니다.

사용자가 인증해야 할 때마다 사전 훈련 된 세트가 아닌 비디오에서 강조 표시된 객체 중 하나를 보여줍니다 . 이미지가 100 개 미만으로 표시되면 레이블을 기록하고 사전 훈련 된 세트에서 다른 레이블을 사용자에게 제공하십시오. 그들이 그것을 올바르게 얻는다면, 그렇지 않은 경우, 미리 훈련 된 세트에서 다른 것을 제공하십시오.

사전 훈련되지 않은 비디오에 100 회 이상의 상영이 있고 보안 문자 사용자의 90 % 이상이 동의하면 해당 비디오를 훈련 후 세트에 추가하십시오.

시간이 지남에 따라 미리 훈련 된 세트를 천천히 제거하십시오. 사후 훈련 된 세트의 각 비디오에 만료를 설정하고 만료 후 제거하여 너무 많이 사용되지 않도록합니다.

이상적으로,이 프로세스는 비디오 분류기를 지속적으로 개선하여 최신 상태로 유지하고 다른 분류기보다 약간 앞서게합니다. 어쩌면 덜 분류 된 단어들과 객체들, 좀 더 난해한 것들을 선호하여이 분류자를 다른 분류 자들과 비교할 수도 있습니다.

이미지 라벨링에도 동일한 작업을 수행 할 수 있지만 AI의 발전으로 인해 비디오 분류기의 유틸리티가 더 오래 지속될 수 있습니다.

엄밀히 말하면, 일부 양자 속임수가 부족하지만 외부 AI 시스템으로는 언젠가 해결되지 않는 보안 문자 시스템이 없습니다.

(편집 : 오, 방금 당신이 구체적으로 "텍스트 보안 문자"라고 말한 것을 눈치 that습니다. 그것이 의미하는 바라면, 텍스트 분류가 미스터리로 남아 있다고 생각하지 않습니다. 컴퓨터는 아마도 인간보다 그림에서 텍스트를 더 잘 모을 수있을 것입니다. 그러나 기술적으로 위에서 설명한 보안 문자 시스템 의 입력 은 텍스트입니다.)