node.js를 사용하여 mySQL에서 대량 삽입을 수행하는 방법

https://github.com/felixge/node-mysql 과 같은 것을 사용하는 경우 mySQL에 대량 삽입을 수행하는 방법

중첩 배열을 사용하여 대량 삽입이 가능합니다. github 페이지를 참조하십시오.

중첩 된 배열은 그룹화 된 목록 (대량 삽입 용) [['a', 'b'], ['c', 'd']]으로 변환됩니다.('a', 'b'), ('c', 'd')

중첩 된 요소 배열을 삽입하기 만하면됩니다.

여기에 예가 나와 있습니다.

var mysql = require('mysql');
var conn = mysql.createConnection({
    ...
});

var sql = "INSERT INTO Test (name, email, n) VALUES ?";
var values = [
    ['demian', 'demian@gmail.com', 1],
    ['john', 'john@gmail.com', 2],
    ['mark', 'mark@gmail.com', 3],
    ['pete', 'pete@gmail.com', 4]
];
conn.query(sql, [values], function(err) {
    if (err) throw err;
    conn.end();
});

참고 : values배열에 래핑 된 배열의 배열입니다.

[ [ [...], [...], [...] ] ]

대량 삽입을위한 완전히 다른 node-msql 패키지도 있습니다.

@ Ragnar123 대답은 정확하지만 많은 사람들이 댓글에서 작동하지 않는다고 말하는 것을 봅니다. 나는 같은 문제가 있었고 다음과 같이 배열을 감싸 야 할 []것 같습니다.

var pars = [
    [99, "1984-11-20", 1.1, 2.2, 200], 
    [98, "1984-11-20", 1.1, 2.2, 200], 
    [97, "1984-11-20", 1.1, 2.2, 200]
];

[pars]메서드에 같이 전달되어야 합니다.

대량 삽입 개체에 대한 답변을 찾고있었습니다.

Ragnar123의 대답으로이 기능을 만들 수있었습니다.

function bulkInsert(connection, table, objectArray, callback) {
  let keys = Object.keys(objectArray[0]);
  let values = objectArray.map( obj => keys.map( key => obj[key]));
  let sql = 'INSERT INTO ' + table + ' (' + keys.join(',') + ') VALUES ?';
  connection.query(sql, [values], function (error, results, fields) {
    if (error) callback(error);
    callback(null, results);
  });
}

bulkInsert(connection, 'my_table_of_objects', objectArray, (error, response) => {
  if (error) res.send(error);
  res.json(response);
});

도움이 되었기를 바랍니다.

나는 오늘 ( mysql 2.16.0) 이것을 만났고 내 솔루션을 공유 할 것이라고 생각했습니다.

const items = [
    {name: 'alpha', description: 'describes alpha', value: 1},
    ...
];

db.query(
    'INSERT INTO my_table (name, description, value) VALUES ?',
    [items.map(item => [item.name, item.description, item.value])],
    (error, results) => {...}
);

Ragnar123에 대한 모든 소품.

삽입 된 ID에 대해 Josh Harington이 질문 한 후 확장하고 싶었습니다.

이들은 순차적입니다. 이 답변을 참조하십시오 : MySQL 다중 행 삽입은 순차적 자동 증가 ID를 가져 옵니까?

따라서이 작업을 수행 할 수 있습니다 (내가 result.insertId로 수행 한 작업에 주목).

  var statement = 'INSERT INTO ?? (' + sKeys.join() + ') VALUES ?';
  var insertStatement = [tableName, values];
  var sql = db.connection.format(statement, insertStatement);
  db.connection.query(sql, function(err, result) {
    if (err) {
      return clb(err);
    }
    var rowIds = [];
    for (var i = result.insertId; i < result.insertId + result.affectedRows; i++) {
      rowIds.push(i);
    }
    for (var i in persistentObjects) {
      var persistentObject = persistentObjects[i];
      persistentObject[persistentObject.idAttributeName()] = rowIds[i];
    }
    clb(null, persistentObjects);
  });

(persistentObjects라고 부르는 객체 배열에서 값을 가져 왔습니다.)

도움이 되었기를 바랍니다.

이것은 node.js> = 11을 사용하여 mysql의 파일 열을 푸시하기위한 빠른 "raw-copy-paste"입니다.

몇 초 만에 25 만 행

'use strict';

const mysql = require('promise-mysql');
const fs = require('fs');
const readline = require('readline');

async function run() {
  const connection = await mysql.createConnection({
    host: '1.2.3.4',
    port: 3306,
    user: 'my-user',
    password: 'my-psw',
    database: 'my-db',
  });

  const rl = readline.createInterface({ input: fs.createReadStream('myfile.txt') });

  let total = 0;
  let buff = [];
  for await (const line of rl) {
    buff.push([line]);
    total++;
    if (buff.length % 2000 === 0) {
      await connection.query('INSERT INTO Phone (Number) VALUES ?', [buff]);
      console.log(total);
      buff = [];
    }
  }

  if (buff.length > 0) {
    await connection.query('INSERT INTO Phone (Number) VALUES ?', [buff]);
    console.log(total);
  }

  console.log('end');
  connection.close();
}

run().catch(console.log);

여기에 필요한 경우 배열 삽입을 해결하는 방법입니다.

우편 배달부에서 요청한 것입니다 ( "guests"참조).

 {
  "author_id" : 3,
  "name" : "World War II",
  "date" : "01 09 1939", 
  "time" : "16 : 22",
  "location" : "39.9333635/32.8597419",
  "guests" : [2, 3, 1337, 1942, 1453]
}

그리고 스크립트 작성 방법

var express = require('express');
var utils = require('./custom_utils.js');

module.exports = function(database){
    var router = express.Router();

    router.post('/', function(req, res, next) {
        database.query('INSERT INTO activity (author_id, name, date, time, location) VALUES (?, ?, ?, ?, ?) ON DUPLICATE KEY UPDATE name = VALUES(name), date = VALUES(date), time = VALUES(time), location = VALUES(location)', 
                [req.body.author_id, req.body.name, req.body.date, req.body.time, req.body.location], function(err, results, fields){
            if(err){
                console.log(err);
                res.json({ status: utils.respondMSG.DB_ERROR });
            }
            else {
                var act_id = results.insertId;
                database.query('INSERT INTO act_guest (user_id, activity_id, status) VALUES ? ON DUPLICATE KEY UPDATE status = VALUES(status)', 
                        [Array.from(req.body.guests).map(function(g){ return [g, act_id, 0]; })], function(err, results, fields){
                    if(err){
                        console.log(err);
                        res.json({ status: utils.respondMSG.DB_ERROR });
                    }
                    else {
                        res.json({ 
                            status: utils.respondMSG.SUCCEED,
                            data: {
                                activity_id : act_id
                            }
                        });
                    }
                });
            }
        });
    });
    return router;
};

경우 Ragnar의 대답은 당신을 위해 작동하지 않습니다. 아마도 그 이유는 다음과 같습니다 (내 경험을 바탕으로)-

1. node-mysql표시된대로 패키지를 사용하지 않았습니다 Ragnar. 나는 mysql패키지 를 사용하고 있었다 . 그들은 다릅니다 (당신이 눈치 채지 못했다면-나처럼). 그러나 패키지를 ?사용하는 많은 사람들에게 작동하는 것처럼 보였기 때문에 작동하지 않는 것과 관련이 있는지 확실하지 않습니다 mysql.

2. 대신 변수를 사용해보십시오. ?

다음은 나를 위해 일했습니다.

var mysql = require('node-mysql');
var conn = mysql.createConnection({
    ...
});

var sql = "INSERT INTO Test (name, email, n) VALUES :params";
var values = [
    ['demian', 'demian@gmail.com', 1],
    ['john', 'john@gmail.com', 2],
    ['mark', 'mark@gmail.com', 3],
    ['pete', 'pete@gmail.com', 4]
];
conn.query(sql, { params: values}, function(err) {
    if (err) throw err;
    conn.end();
});

이것이 누군가를 돕기를 바랍니다.

내가 언급하고 싶은 몇 가지 사항은 데이터베이스와 연결하기 위해 mysql 패키지를 사용하고 있으며 아래에서 보신 것은 작업 코드이며 대량 쿼리 삽입을 위해 작성되었습니다.

const values = [
  [1, 'DEBUG', 'Something went wrong. I have to debug this.'],
  [2, 'INFO', 'This just information to end user.'],
  [3, 'WARNING', 'Warning are really helping users.'],
  [4, 'SUCCESS', 'If everything works then your request is successful']
];

const query = "INSERT INTO logs(id, type, desc) VALUES ?";

const query = connection.query(query, [values], function(err, result) {
  if (err) {
    console.log('err', err)
  }

  console.log('result', result)
});

비슷한 문제가 발생했습니다. 배열 목록에서 하나를 삽입했습니다. 다음과 같이 변경 한 후에 작동했습니다.

1. 쿼리 메서드에 [params]를 전달했습니다.
2. 쿼리를 삽입 (a, b)에서 table1 값으로 변경했습니다 (?) ==> insert (a, b)를 table1 값으로? . 즉. 물음표 주변의 괄호를 제거했습니다.

도움이 되었기를 바랍니다. mysql npm을 사용하고 있습니다.

Node.js의 대량 삽입은 아래 코드를 사용하여 수행 할 수 있습니다. 이 작업을 위해 많은 블로그를 참조했습니다.

이 링크도 참조하십시오. https://www.technicalkeeda.com/nodejs-tutorials/insert-multiple-records-into-mysql-using-nodejs

작동 코드.

  const educations = request.body.educations;
  let queryParams = [];
  for (let i = 0; i < educations.length; i++) {
    const education = educations[i];
    const userId = education.user_id;
    const from = education.from;
    const to = education.to;
    const instituteName = education.institute_name;
    const city = education.city;
    const country = education.country;
    const certificateType = education.certificate_type;
    const studyField = education.study_field;
    const duration = education.duration;

    let param = [
      from,
      to,
      instituteName,
      city,
      country,
      certificateType,
      studyField,
      duration,
      userId,
    ];

    queryParams.push(param);
  }

  let sql =
    "insert into tbl_name (education_from, education_to, education_institute_name, education_city, education_country, education_certificate_type, education_study_field, education_duration, user_id) VALUES ?";
  let sqlQuery = dbManager.query(sql, [queryParams], function (
    err,
    results,
    fields
  ) {
    let res;
    if (err) {
      console.log(err);
      res = {
        success: false,
        message: "Insertion failed!",
      };
    } else {
      res = {
        success: true,
        id: results.insertId,
        message: "Successfully inserted",
      };
    }

    response.send(res);
  });

이것이 당신을 도울 것입니다.