음성 인식 : "예"또는 "아니오"?


33

태스크

최대 정확도를 갖춘 교육 샘플을 기반으로 음성 샘플 (음성 또는 "속삭임, 또는 속삭임"으로 "예", "예"또는 "아니오"라고 함)의 음성 인식을 수행하는 최소 바이트의 소스 또는 이진 코드로 프로그램을 구현합니다. .

이 프로그램은 읽어야한다 train/yes0.wav, train/no0.wav, train/yes1.wav등 (400 yeses 및 교육 데이터 세트 (400) noes가)에 후 읽기 시작 inputs/0.wav, inputs/1.wav그것은 "예"또는 "아니오"(또는 다른 단어를 분석하고 출력 파일을 찾기 위해 실패 할 때까지 중간 답변).

원하는 train/경우을 읽는 대신 프로그램을 사전 훈련시킬 수 있지만 결과 데이터 테이블은 점수에 포함됩니다 (그리고 훈련 샘플에 과적 합을 조심하십시오-시험과 중복되지 않음). 이 경우 데이터 테이블을 생성하는 데 사용되는 프로그램을 부록으로 포함하는 것이 좋습니다.

모든 샘플 파일은 필터링 / 노이즈 감소없이 랩탑 마이크에서 리틀 엔디안 16 비트 스테레오 WAV 파일입니다.

제한

금지 된 기능 :

  • 네트워크 사용;
  • 응답 파일에 도달하려고합니다 inputs/key.
  • runner정확도를 계산 하는 프로그램을 전복시키는 행위 ;
  • 기존 인식 라이브러리 사용 FFT 구현으로의 연결은 허용되지 않습니다 : 일정한 양의 정보 ( sin또는 같은 atan2)를 취하는 외부 수학 함수 만 허용됩니다. FFT를 원한다면 프로그램 소스 코드에 구현을 추가하십시오 (필요한 경우 다국어 가능).

자원 한도 :

  • 프로그램은 i5 랩탑에서 30 분 이상의 CPU 시간을 가져서는 안됩니다. 더 많은 시간이 걸리면 처음 30 분 동안 생성 된 출력 만 계산되고 나머지는 반 일치로 간주됩니다.
  • 메모리 제한 : 1GB (임시 파일 포함);

도구

tools/runner프로그램이 자동으로 솔루션을 실행하고 정확도를 계산합니다.

$ tools/runner solutions/example train train/key 
Accuracy: 548 ‰

훈련 데이터 또는 실제 시험 데이터를 사용하여 프로그램을 검사 할 수 있습니다. 시험 데이터 세트에 대한 답변을 제출하고 데이터 세트를 공개 할 때까지 결과 (정확도 백분율)를 게시하려고합니다.

채점

정확도에 따라 5 가지 종류의 솔루션이 있습니다.

  • 모든 샘플이 올바르게 추측 됨 : 클래스 0;
  • 정확도 950-999 : 클래스 1;
  • 정확도 835-950 : 클래스 2;
  • 정확도 720-834 : 클래스 3;
  • 정확도 615-719 : 클래스 4;

각 클래스 내에서 점수는 솔루션이 차지하는 바이트 수입니다.

허용되는 답변 : 비어 있지 않은 최고의 클래스에서 가장 작은 솔루션.

모래밭

모든 샘플은 CC-0 (Public Domain), 스크립트 및 프로그램은 MIT로 간주해야합니다.

솔루션 예

인식 품질이 매우 낮고 파일을 읽고 응답을 출력하는 방법 만 보여줍니다.

#define _BSD_SOURCE
#include <stdio.h>
#include <assert.h>
#include <endian.h>


#define Nvols 30

#define BASS_WINDOW 60
#define MID_WINDOW 4

struct training_info {
    double bass_volumes[Nvols];
    double mid_volumes[Nvols];
    double treble_volumes[Nvols];
    int n;
};


struct training_info yes;
struct training_info no;

static int __attribute__((const)) mod(int n, int d) {
    int m = n % d;
    if (m < 0) m+=d;
    return m;
}

// harccoded to 2 channel s16le
int get_file_info(const char* name, struct training_info *inf) {
    FILE* in = fopen(name, "rb");

    if (!in) return -1;

    setvbuf(in, NULL, _IOFBF, 65536);

    inf->n = 1;

    fseek(in, 0, SEEK_END);
    long filesize = ftell(in);
    fseek(in, 128, SEEK_SET);
    filesize -= 128; // exclude header and some initial samples

    int nsamples = filesize / 4; 

    double bass_a=0, mid_a=0;
    const int HISTSIZE  = 101;
    double xhistory[HISTSIZE];
    int histpointer=0;
    int histsize = 0;

    //FILE* out = fopen("debug.raw", "wb");

    int i;
    for (i=0; i<Nvols; ++i) {
        int j;

        double total_vol = 0;
        double bass_vol = 0;
        double mid_vol = 0;
        double treble_vol = 0;

        for (j=0; j<nsamples / Nvols; ++j) {
            signed short int l, r; // a sample
            if(fread(&l, 2, 1, in)!=1) break;
            if(fread(&r, 2, 1, in)!=1) break;
            double x = 1/65536.0 * ( le16toh(l) + le16toh(r) );


            bass_a += x;
            mid_a  += x;


            if (histsize == HISTSIZE-1) bass_a   -= xhistory[mod(histpointer-BASS_WINDOW,HISTSIZE)];
            if (histsize == HISTSIZE-1) mid_a    -= xhistory[mod(histpointer-MID_WINDOW ,HISTSIZE)];

            double bass = bass_a / BASS_WINDOW;
            double mid = mid_a / MID_WINDOW - bass;
            double treble = x - mid_a/MID_WINDOW;

            xhistory[histpointer++] = x;
            if(histpointer>=HISTSIZE) histpointer=0;
            if(histsize < HISTSIZE-1) ++histsize;

            total_vol  += bass*bass + mid*mid + treble*treble;
            bass_vol   += bass*bass;
            mid_vol    += mid*mid;
            treble_vol += treble*treble;


            /*
            signed short int y;
            y = 65536 * bass;

            y = htole16(y);
            fwrite(&y, 2, 1, out);
            fwrite(&y, 2, 1, out);
            */
        }

        inf->bass_volumes[i] = bass_vol / total_vol;
        inf->mid_volumes[i] = mid_vol / total_vol;
        inf->treble_volumes[i] = treble_vol / total_vol;

        //fprintf(stderr, "%lf %lf %lf    %s\n", inf->bass_volumes[i], inf->mid_volumes[i], inf->treble_volumes[i], name);
    }
    fclose(in);

    return 0;
}

static void zerotrdata(struct training_info *inf) {
    int i;
    inf->n = 0;
    for (i=0; i<Nvols; ++i) {
        inf->bass_volumes[i] = 0;
        inf->mid_volumes[i] = 0;
        inf->treble_volumes[i] = 0;
    }
}

static void train1(const char* prefix, struct training_info *inf) 
{
    char buf[50];

    int i;

    for(i=0;; ++i) {
        sprintf(buf, "%s%d.wav", prefix, i);
        struct training_info ti;
        if(get_file_info(buf, &ti)) break;

        ++inf->n;

        int j;
        for (j=0; j<Nvols; ++j) {
            inf->bass_volumes[j]   += ti.bass_volumes[j];
            inf->mid_volumes[j]    += ti.mid_volumes[j];
            inf->treble_volumes[j] += ti.treble_volumes[j];
        }
    }

    int j;
    for (j=0; j<Nvols; ++j) {
        inf->bass_volumes[j]   /= inf->n;
        inf->mid_volumes[j]    /= inf->n;
        inf->treble_volumes[j] /= inf->n;
    }
}

static void print_part(struct training_info *inf, FILE* f) {
    fprintf(f, "%d\n", inf->n);
    int j;
    for (j=0; j<Nvols; ++j) {
        fprintf(f, "%lf %lf %lf\n", inf->bass_volumes[j], inf->mid_volumes[j], inf->treble_volumes[j]);
    }
}

static void train() {
    zerotrdata(&yes);
    zerotrdata(&no);

    fprintf(stderr, "Training...\n");

    train1("train/yes", &yes);
    train1("train/no", &no);

    fprintf(stderr, "Training completed.\n");

    //print_part(&yes, stderr);
    //print_part(&no, stderr);

    int j;
    for (j=0; j<Nvols; ++j) {
        if (yes.bass_volumes[j]   > no.bass_volumes[j]) {   yes.bass_volumes[j] = 1;   no.bass_volumes[j] = 0; }
        if (yes.mid_volumes[j]    > no.mid_volumes[j]) {    yes.mid_volumes[j] = 1;    no.mid_volumes[j] = 0; }
        if (yes.treble_volumes[j] > no.treble_volumes[j]) { yes.treble_volumes[j] = 1; no.treble_volumes[j] = 0; }
    }
}


double delta(struct training_info *t1, struct training_info *t2) {
    int j;
    double d = 0;
    for (j=0; j<Nvols; ++j) {
        double rb = t1->bass_volumes[j] - t2->bass_volumes[j];
        double rm = t1->mid_volumes[j] - t2->mid_volumes[j];
        double rt = t1->treble_volumes[j] - t2->treble_volumes[j];
        d += rb*rb + rm*rm + rt*rt;
    }
    return d;
}

int main(int argc, char* argv[])
{
    (void)argc; (void)argv;

    train();


    int i;

    int yes_count = 0;
    int no_count = 0;

    for (i=0;; ++i) {
        char buf[60];
        sprintf(buf, "inputs/%d.wav", i);

        struct training_info ti;

        if(get_file_info(buf, &ti)) break;

        double dyes = delta(&yes, &ti);
        double dno = delta(&no, &ti);

        //printf("%lf %lf %s ", dyes, dno, buf);

        if (dyes > dno) {
            printf("no\n");
            ++no_count;
        } else  {
            printf("yes\n");
            ++yes_count;
        }
    }

    fprintf(stderr, "yeses: %d noes: %d\n", yes_count, no_count);

}

5
fft 라이브러리가 없습니까? 왜?
John Dvorak

1
내장 FFT 기능은 어떻습니까? 정확히 외부로 간주되는 것은 무엇입니까? 또한 수학 라이브러리 함수는 무엇입니까? 우리는을 사용할 수 있습니까 sum, 아니면 사용해야합니다 foldl (+) 0(계산식이 아니고 변덕스럽지 않은 폴더 +)?
John Dvorak

1
아직도 ... 당신은 효과적으로 금지하고 sum있습니다. 그게 당신의 의도가 아닌 것 같아요?
John Dvorak

1
수학 함수의 정확한 정의는 무엇입니까? 숫자에 특화된 것들? 숫자에 더하기를 사용하지만 문자열에는 연결을 사용하는 일반적인 "sum"함수는 어떻습니까? 이 금액은 이제 허용됩니까?
John Dvorak

1
J의 벡터 연산은 어떻습니까? 그들은 허용되지 않습니까?
John Dvorak

답변:


27

C ++ 11 (gcc; 1639 1625 1635 바이트, 클래스 1, 점수 = 983, 960)

의가 시작하자. 아마도 내가 단축 한 가장 긴 코드 일 것입니다 ...

#include <bits/stdc++.h>
#define $ complex<double>
#define C vector<$>
#define I int
#define D double
#define P pair<D,I>
#define Q pair<D,D>
#define E vector<D>
#define V vector<P>
#define W vector<Q>
#define S char*
#define Z(x)if(fread(&x,2,1,y)!=1)break;
#define B push_back
#define F(i,f,t)for(I i=f;i<t;i++)
#define _ return
#define J first
#define L second
const I K=75,O=16384;using namespace std;C R(C&i,I s,I o=0,I d=1){if(!s)_ C(1,i[o]);C l=R(i,s/2,o,d*2),h=R(i,s/2,o+d,d*2);C r(s*2);$ b=exp($(0,-M_PI/s)),f=1;F(k,0,s){r[k]=l[k]+f*h[k];r[k+s]=l[k]-f*h[k];f*=b;}_ r;}C T(C&i){_ R(i,i.size()/2);}char b[O];E U(S m){FILE*y;if(!(y=fopen(m,"r")))_ E();setvbuf(y,b,0,O);fseek(y,0,2);I z=ftell(y)/4-32;fseek(y,128,0);C p;F(i,0,z){short l,r;Z(l);Z(r);if(i&1)p.B($(0.5/O*le16toh(l),0));}p.resize(O);E h(O),n(O);p=T(p);F(j,0,O)h[j]=norm(p[j])/O;F(i,1,O-1)n[i]=(h[i-1]+h[i+1]+h[i]*8)/10;fclose(y);_ n;}W G(E&d){V p;F(i,3,O/2-3)if(d[i]==*max_element(d.begin()+i-3,d.begin()+i+4))p.B({d[i],i});sort(p.begin(),p.end(),greater<P>());W r;F(i,3,K+3)r.B({D(p[i].L)/O*22050,log(p[i].J)+10});D s=0;F(i,0,K)s+=r[i].L;F(i,0,K)r[i].L/=s;_ r;}char m[O];I X(S p,W&r){E t(O),h(t);I f=0;while(1){sprintf(m,"%s%d.wav",p,f++);h=U(m);if(!h.size())break;F(j,0,O)t[j]+=h[j];}F(j,0,O)t[j]/=f;r=G(t);}D Y(W&a,W&b){D r=0;F(i,0,K){D d=b[i].L;F(j,0,K)if(abs((b[i].J-a[j].J)/b[i].J)<0.015)d=min(d,abs(b[i].L-a[j].L));r+=d;}_ r;}I H(S p,W&y,W&n){I f=0;while(1){sprintf(m,"%s%d.wav",p,f++);E h=U(m);if(!h.size())break;W p=G(h);D q=Y(p,y),r=Y(p,n);printf(abs(q-r)<=0.01?"?\n":q<r?"yes\n":"no\n");}}I main(){W y,n;X("train/yes",y);X("train/no",n);H("inputs/",y,n);}

"Ungolfed"(1.5K 이상의 소스 코드 골프를 부르기는 어렵지만)

#include <iostream>
#include <stdio.h>
#include <string>
#include <algorithm>
#include <vector>
#include <math.h>
#include <complex>
#include <endian.h>
#include <functional>

using namespace std;

typedef complex<double> CD;

vector<CD> run_fft(vector<CD>& input, int offset, int size, int dist){
    if(size == 1){
        return vector<CD>(1, input[offset]);
    }
    vector<CD> partLow = run_fft(input, offset, size/2, dist*2),
               partHi  = run_fft(input, offset+dist, size/2, dist*2);

    vector<CD> result(size);
    CD factorBase = exp(CD(0, (inv?2:-2)*M_PI/size)), factor = 1;

    for(int k = 0; k < size/2; k++){
        result[k] = partLow[k] + factor*partHi[k];
        result[k+size/2] = partLow[k] - factor*partHi[k];
        factor *= factorBase;
    }
    return result;
}

vector<CD> fft(vector<CD>& input){
    int N = input.size();
    return run_fft(input, 0, N, 1);
}



const int MAX_BUF = 65536;
const int PWR_TWO = 16384;
const int NUM_CHECK = 75;
int sampling;

char buf[MAX_BUF];
vector<double> read_data(char* filenam){
    FILE* fp = fopen(filenam, "r");
    if(!fp)
        return vector<double>();
    setvbuf(fp, buf, _IOFBF, MAX_BUF);

    fseek(fp, 0, SEEK_END);
    int filesiz = ftell(fp);
    fseek(fp, 128, SEEK_SET);
    filesiz -= 128;

    int insamp = filesiz / 4;
    int freqsamp = 2,
        act_mod = 0;
    sampling = 44100 / freqsamp;
    int inputSize;

    vector<CD> input;

    for(int i = 0; i < insamp; i++){
        signed short int l, r;
        if(fread(&l, 2, 1, fp) != 1) break;
        if(fread(&r, 2, 1, fp) != 1) break;

        double act = 1/32768.0 * (le16toh(l));

        if((++act_mod) == freqsamp){
            inputSize++;
            input.push_back(CD(act,0));
            act_mod = 0;
        }
    }
    inputSize = input.size();

    //printf("%s\n", filenam);
    int numParts = (inputSize+PWR_TWO-1)/PWR_TWO;
    double partDelta = (double)inputSize / numParts, actDelta = 0;
    vector<CD> ndata(PWR_TWO);
    for(int i = 0; i < numParts; i++){
        vector<CD> partInput(PWR_TWO);
        int from = floor(actDelta),
            to = floor(actDelta)+PWR_TWO;

        for(int j = from; j < to; j++)
            partInput[j-from] = input[j];

        vector<CD> partData = fft(partInput);
        for(int j = 0; j < PWR_TWO; j++)
            ndata[j] += partData[j]*(1.0/numParts);
    }


    vector<double> height(PWR_TWO);
    for(int i = 0; i < PWR_TWO; i++)
        height[i] = norm(ndata[i])/PWR_TWO;

    vector<double> nheight(height);
    nheight[0] = (height[0]*0.8 + height[1]*0.1)/0.9;
    nheight[PWR_TWO-1] = (height[PWR_TWO]*0.8 + height[PWR_TWO-1]*0.1)/0.9;
    for(int i = 1; i < PWR_TWO-1; i++)
        nheight[i] = height[i-1]*0.1 + height[i]*0.8 + height[i+1]*0.1;

    fclose(fp);

    return nheight;
}


vector< pair<double,double> > get_highest_peaks(vector<double>& freqData){
    vector< pair<double,int> > peaks;

    for(int i = 3; i < PWR_TWO/2-3; i++){
        if(freqData[i] == *max_element(freqData.begin()+i-3, freqData.begin()+i+4)){
            peaks.push_back(make_pair(freqData[i], i));
        }
    }

    sort(peaks.begin(), peaks.end(), greater< pair<double,int> >());

    vector< pair<double,double> > res;
    for(int i = 3; i < NUM_CHECK+3; i++){
        res.push_back(make_pair((double)(peaks[i].second)/PWR_TWO*sampling, log(peaks[i].first)+10));
    }

    double sum_res = 0;
    for(int i = 0; i < NUM_CHECK; i++)
        sum_res += res[i].second;
    for(int i = 0; i < NUM_CHECK; i++)
        res[i].second /= sum_res;

    /*for(int i = 0; i < NUM_CHECK; i++)
        printf("%12lf %12lf\n", res[i].first, res[i].second);
    printf("\n");*/

    return res;
}


void train(char* dir, const char* type, vector< pair<double,double> >& res){
    vector<double> result(PWR_TWO), height(PWR_TWO);

    int numFile = 0;
    while(true){
        char filenam[256];
        snprintf(filenam, 255, "%s/%s%d.wav", dir, type, numFile);
        height = read_data(filenam);

        if(height.size() == 0)
            break;

        for(int j = 0; j < PWR_TWO; j++)
            result[j] += height[j];

        numFile++;
    }
    fprintf(stderr, "trained %s on %d files\n", type, numFile);

    for(int j = 0; j < PWR_TWO; j++)
        result[j] /= numFile;

    res = get_highest_peaks(result);
}


double dist_ab(vector< pair<double,double> >& A, vector< pair<double,double> >& B){
    double result = 0;
    for(int i = 0; i < NUM_CHECK; i++){
        double add = B[i].second;

        for(int j = 0; j < NUM_CHECK; j++){
            double dist = (B[i].first-A[j].first)/B[i].first;
            if(abs(dist) < 0.015)
                add = min(add, abs(B[i].second - A[j].second));
        }
        result += add;
    }
    return result;
}


void trial(char* dir, const char* pref, vector< pair<double,double> >& yes,
                                        vector< pair<double,double> >& no){
    int numFile = 0;
    int numYes = 0, numDunno = 0, numNo = 0;
    while(true){
        char filenam[256];
        snprintf(filenam, 255, "%s/%s%d.wav", dir, pref, numFile);

        vector<double> height = read_data(filenam);
        if(height.size() == 0)
            break;

        vector< pair<double,double> > peaks = get_highest_peaks(height);


        double distYes = dist_ab(peaks, yes),
               distNo = dist_ab(peaks, no);

        if(abs(distYes-distNo) <= 0.01){
            printf("dunno\n");
            numDunno++;
        } else if(distYes < distNo){
            printf("yes\n");
            numYes++;
        } else {
            printf("no\n");
            numNo++;
        }
        //printf(" (%lf %lf)\n", distYes, distNo);

        numFile++;
    }
}


int main(int argc, char** argv){
    vector< pair<double,double> > yes, no;


    train("train", "yes", yes);
    train("train", "no", no);

    trial("inputs", "", yes, no);
}

실제 데이터 세트에서 올바르게 작동하는지는 알 수 없습니다. (그렇지 않을 것이지만 시도해야합니다.)

작동 방식 :

  1. 왼쪽 채널에서 각각 같은 시간 간격으로 N = 2 14 개의 샘플을 가져옵니다 . 최소값 = 0 및 최대 값 = 1이되도록 정규화하십시오.
  2. FFT를 사용하여 처리하십시오. 이제 시간 도메인에서 주파수 도메인으로 전환했습니다. 결과 배열의 0 번째 셀은 0Hz에 해당하고 2 13 -1 번째 셀은 22050Hz에 해당 한다고 말할 수 있습니다 (즉, L 채널에서 다른 모든 샘플을 가져 왔기 때문에 샘플링은 WAV의 주파수 44100Hz 대신 22050Hz입니다).
  3. 이러한 모든 신호의 평균을 찾으십시오. "평균 주파수 분포"라고합니다. 이러한 분포에서 K 개의 최고 피크 (여기서는 K = 75)를 찾아서 처음 몇 개 (아마도 노이즈)를 생략하고 강도를 찾으십시오. log(mean distribution)+10가장 큰 봉우리의 합계가 1이되도록 사용 하고 정규화했습니다.
  4. 두 개의 "피크 분배"가 있습니다. 하나는 예, 두 번째는 아니오입니다. 테스트 할 WAV가있는 경우 이전과 같은 방식으로 변환하고 (1, 2, 3 단계) 분배 D를 얻습니다. 어떤 분포 (Y / N) D가 더 유사한 지 확인하십시오. 나는 다음과 같은 접근법을 사용했다. Y / N의 각 피크에 대해 D에서 찾아보십시오. 우리가 (대략적으로) 찾으면이 피크의 점수는 Y / N과 D의 강도의 절대 차이입니다. 반대의 경우 Y / N의 강도입니다 (항상 양수라고 가정). 더 나은 (작은) 점수가 이깁니다. 결과가 매우 가까운 경우 (0.01 절대 차이를 사용) 출력 dunno.

내가 말했듯이, 아마도 최종 테스트에서 "임의의 것보다 더 나쁜 것"으로 분류됩니다. 물론, 나는 그것이 희망적이지 않기를 바랍니다 : D

편집 : 수정 버그 (파일을 닫는 것을 잊었습니다).


1
그것이 수행하면 운이 있습니다 worse than random. 문자 그대로 1 바이트 만 변경 distYes > distNo하면됩니다 better than random. 또는 다른 방법으로 말하면, 동전의 결과가 연속 100 회 잘못 뒤집힌 것을 추측 할 수 있다면 상당히 놀랍습니다! 단순한 알고리즘이 복잡한 알고리즘보다 성능이 뛰어나다는 것을 들어 본 적이 없기 때문에 +1하고 행운을 빕니다.
blutorange

테스트 중 ... 다음으로 인해 조기에 종료됩니다 EMFILE (Too many open files)... 수정하려고 시도 중 ...
Vi.

최대 열린 파일 카운터가 충돌하여 이제 작동합니다. 결과 : 훈련 데이터 세트 : Accuracy: 983 ‰; Time: 0m27.570s;; 시험 데이터 세트 : Accuracy: 960 ‰; Time: 0m32.957s. 잘 했어.
Vi.

좋아, 나는 이것을 고쳤다. 10 바이트 더. :)
mnbvmar

#defines : P
qwr
당사 사이트를 사용함과 동시에 당사의 쿠키 정책개인정보 보호정책을 읽고 이해하였음을 인정하는 것으로 간주합니다.
Licensed under cc by-sa 3.0 with attribution required.