Сравнение трех методов пакетной вставки MyBatis, я рекомендую третий!

MyBatis

Нет публики:Маленькое кофейное шоу Java,Веб-сайт:javaxks.com

Автор: Арендодатель и Арендодатель, ссылка:Woohoo.краткое описание.com/afraid/guess 617 не голоден 9…

В базе данных используется sqlserver, JDK версии 1.8, работающий в среде SpringBoot. Сравните 3 доступных способа

  1. Повторно выполнять один оператор вставки
  2. сращивание xml с sql
  3. пакетное выполнение

Давайте сначала поговорим о выводе: для небольшого объема вставки используйте повторную вставку одного фрагмента данных, что удобно. Для больших количеств используйте пакетную обработку. (Можно считать, что необходимое количество вставляемых данных составляет около 20. В моей среде тестирования и базы данных время составляет порядка 100 миллисекунд, а удобство важнее всего).Способ сращивания sql с xml не используется ни разу.

код

xml для объединения SQL newId() — это функция sqlserver для генерации UUID, которая не имеет ничего общего с содержанием этой статьи.

<insert parameterType="java.util.List">
    INSERT INTO tb_item VALUES
    <foreach collection="list" item="item" index="index" separator=",">
        (newId(),#{item.uniqueCode},#{item.projectId},#{item.name},#{item.type},#{item.packageUnique},
        #{item.isPackage},#{item.factoryId},#{item.projectName},#{item.spec},#{item.length},#{item.weight},
        #{item.material},#{item.setupPosition},#{item.areaPosition},#{item.bottomHeight},#{item.topHeight},
        #{item.serialNumber},#{item.createTime}</foreach>
</insert>

Интерфейс картографа Mapper — это интерфейс плагина mybatis tk.Mapper, который имеет мало общего с содержанием этой статьи.

public interface ItemMapper extends Mapper<Item> {
    int insertByBatch(List<Item> itemList);
}

Класс обслуживания

@Service
public class ItemService {
    @Autowired
    private ItemMapper itemMapper;
    @Autowired
    private SqlSessionFactory sqlSessionFactory;
    //批处理
    @Transactional
    public void add(List<Item> itemList) {
        SqlSession session = sqlSessionFactory.openSession(ExecutorType.BATCH,false);
        ItemMapper mapper = session.getMapper(ItemMapper.class);
        for (int i = 0; i < itemList.size(); i++) {
            mapper.insertSelective(itemList.get(i));
            if(i%1000==999){//每1000条提交一次防止内存溢出
                session.commit();
                session.clearCache();
            }
        }
        session.commit();
        session.clearCache();
    }
    //拼接sql
    @Transactional
    public void add1(List<Item> itemList) {
        itemList.insertByBatch(itemMapper::insertSelective);
    }
    //循环插入
    @Transactional
    public void add2(List<Item> itemList) {
        itemList.forEach(itemMapper::insertSelective);
    }
}

тестовый класс

@RunWith(SpringRunner.class)
@SpringBootTest(webEnvironment = SpringBootTest.WebEnvironment.RANDOM_PORT, classes = ApplicationBoot.class)
public class ItemServiceTest {
    @Autowired
    ItemService itemService;

    private List<Item> itemList = new ArrayList<>();
    //生成测试List
    @Before 
    public void createList(){
        String json ="{\n" +
                "        \"areaPosition\": \"TEST\",\n" +
                "        \"bottomHeight\": 5,\n" +
                "        \"factoryId\": \"0\",\n" +
                "        \"length\": 233.233,\n" +
                "        \"material\": \"Q345B\",\n" +
                "        \"name\": \"TEST\",\n" +
                "        \"package\": false,\n" +
                "        \"packageUnique\": \"45f8a0ba0bf048839df85f32ebe5bb81\",\n" +
                "        \"projectId\": \"094b5eb5e0384bb1aaa822880a428b6d\",\n" +
                "        \"projectName\": \"项目_TEST1\",\n" +
                "        \"serialNumber\": \"1/2\",\n" +
                "        \"setupPosition\": \"1B柱\",\n" +
                "        \"spec\": \"200X200X200\",\n" +
                "        \"topHeight\": 10,\n" +
                "        \"type\": \"Steel\",\n" +
                "        \"uniqueCode\": \"12344312\",\n" +
                "        \"weight\": 100\n" +
                "    }";
        Item test1 = JSON.parseObject(json,Item.class);
        test1.setCreateTime(new Date());
        for (int i = 0; i < 1000; i++) {//测试会修改此数量
            itemList.add(test1);
        }
    }
     //批处理
    @Test
    @Transactional
    public void tesInsert() {
        itemService.add(itemList);
    }
    //拼接字符串
    @Test
    @Transactional
    public void testInsert1(){
        itemService.add1(itemList);
    }
    //循环插入
    @Test
    @Transactional
    public void testInsert2(){
        itemService.add2(itemList);
    }
}

Результаты теста:

10 25 вставок данных проверено много раз, и волатильность большая, но они в основном на уровне 100 миллисекунд

Способ 50 бар 100 бар 500 записей 1000
пакетная обработка 159ms 208ms 305ms 432ms
сращивание xml с sql 208ms 232ms сообщить об ошибке сообщить об ошибке
Повтор одиночной вставки 1013ms 2266ms 8141ms 18861ms

Среди них метод сплайсинга sql сообщает об ошибке при вставке 500 и 1000 элементов (кажется, что sql-оператор слишком длинный, этот элемент связан с типом базы данных, а другие базы данных не тестировались):com.microsoft.sqlserver.jdbc.SQLServerException: 传入的表格格式数据流(TDS)远程过程调用(RPC)协议流不正确。此 RPC 请求中提供了过多的参数。最多应为 2100

Его можно найти

  • Временная сложность вставки цикла составляет O (n), а константа C велика.
  • Временная сложность сращивания вставки SQL составляет (должна) быть O(logn), но успешных завершений не так много, не уверен
  • Временная сложность пакетной обработки составляет O(logn), а константа C также относительно мала.

В заключение

Вставьте один фрагмент данных в циклХотя эффективность крайне низкая, количество кода крайне мало.В случае использования плагина tk.Mapper только код,:

@Transactional
public void add1(List<Item> itemList) {
    itemList.forEach(itemMapper::insertSelective);
}

Поэтому его необходимо использовать, когда объем вставляемых данных невелик.

сращивание xml с sqlЭто наименее рекомендуемый способ, так как при его использовании приходится писать много выражений xml и sql, что позволяет легко ошибиться и имеет низкую эффективность работы. Более важным моментом является то, что, хотя эффективность приемлема, когда вам действительно нужна эффективность, вы бросаете трубку.

пакетное выполнениеЭто рекомендуемая практика, когда вставлено большое количество данных, и это более удобно в использовании.

Категории