博客
关于我
MySQL 异步查询提高查询速度
阅读量:432 次
发布时间:2019-03-05

本文共 1459 字,大约阅读时间需要 4 分钟。

MySQL 异步查询概述

MySQL 异步查询是一种高效的数据处理方式,通过同时处理多个查询请求来提升性能。这种机制特别适合需要快速响应的应用场景。

MySQL 异步查询的优缺点

优点

  • 提升查询速度:异步查询通过并行处理减少了等待时间,能够显著缩短响应时间。
  • 扩展能力强:支持大量并发请求,适合高并发场景。

缺点

  • 资源占用:每次启动异步查询会创建新的线程,可能增加 CPU 和内存负载。
  • 复杂性增加:开发和维护异步查询需要更高的技术门槷。

MySQL 异步查询的实战示例

背景

在处理 100 万数据的 40 张分表时,传统的Union All视图需要 20 多秒,而异步查询能够在 1 秒内完成。

实现方法

主要使用 mysqli_pollreap_async_query 扩展方法。通过循环执行多个查询,立即返回处理。

$table_separate_cnt = 40;
$sqls = [];
for ($i = 0; $i < $table_separate_cnt; $i++) {
$sql = 'select * from news' . $i;
array_push($sqls, $sql);
}
$links = [];
foreach ($sqls as $sql) {
$link = mysqli_connect($hostname, $username, $password, 'test', '3306');
$link->query($sql, MYSQLI_ASYNC);
$links[$link->thread_id] = $link;
}
$process = 0;
$res = [];
do {
$r_array = $e_array = $reject = $links;
if (!($ret = mysqli_poll($r_array, $e_array, $reject, 2))) {
continue;
}
foreach ($r_array as $link) {
if ($result = $link->reap_async_query()) {
$r = $result->fetch_array();
if ($r) {
$res[] = $r;
}
if (is_object($result)) {
mysqli_free_result($result);
}
unset($links[$link->thread_id]);
$link->close();
$process++;
}
}
foreach ($e_array as $link) {
die;
}
foreach ($reject as $link) {
die;
}
} while ($process < $llen);

总结

MySQL 异步查询通过并行处理提升了性能,尤其适合高并发场景。但需要权衡资源消耗和复杂性。

转载地址:http://enuzz.baihongyu.com/

你可能感兴趣的文章
NIFI1.21.0通过Postgresql11的CDC逻辑复制槽实现_指定表多表增量同步_增删改数据分发及删除数据实时同步_通过分页解决变更记录过大问题_02----大数据之Nifi工作笔记0054
查看>>
NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_根据binlog实现数据实时delete同步_实际操作04---大数据之Nifi工作笔记0043
查看>>
NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_配置binlog_使用处理器抓取binlog数据_实际操作01---大数据之Nifi工作笔记0040
查看>>
NIFI从MySql中增量同步数据_通过Mysql的binlog功能_实时同步mysql数据_配置数据路由_实现数据插入数据到目标数据库_实际操作03---大数据之Nifi工作笔记0042
查看>>
NIFI从MySql中离线读取数据再导入到MySql中_03_来吧用NIFI实现_数据分页获取功能---大数据之Nifi工作笔记0038
查看>>
NIFI从PostGresql中离线读取数据再导入到MySql中_带有数据分页获取功能_不带分页不能用_NIFI资料太少了---大数据之Nifi工作笔记0039
查看>>
NIFI同步MySql数据_到SqlServer_错误_驱动程序无法通过使用安全套接字层(SSL)加密与SQL Server_Navicat连接SqlServer---大数据之Nifi工作笔记0047
查看>>
Nifi同步过程中报错create_time字段找不到_实际目标表和源表中没有这个字段---大数据之Nifi工作笔记0066
查看>>
NIFI大数据进阶_FlowFile拓扑_对FlowFile内容和属性的修改删除添加_介绍和描述_以及实际操作---大数据之Nifi工作笔记0023
查看>>
NIFI大数据进阶_NIFI的模板和组的使用-介绍和实际操作_创建组_嵌套组_模板创建下载_导入---大数据之Nifi工作笔记0022
查看>>
NIFI大数据进阶_NIFI监控的强大功能介绍_处理器面板_进程组面板_summary监控_data_provenance事件源---大数据之Nifi工作笔记0025
查看>>
NIFI大数据进阶_NIFI集群知识点_集群的断开_重连_退役_卸载_总结---大数据之Nifi工作笔记0018
查看>>
NIFI大数据进阶_内嵌ZK模式集群1_搭建过程说明---大数据之Nifi工作笔记0015
查看>>
NIFI大数据进阶_外部ZK模式集群1_实际操作搭建NIFI外部ZK模式集群---大数据之Nifi工作笔记0017
查看>>
NIFI大数据进阶_离线同步MySql数据到HDFS_01_实际操作---大数据之Nifi工作笔记0029
查看>>
NIFI大数据进阶_离线同步MySql数据到HDFS_02_实际操作_splitjson处理器_puthdfs处理器_querydatabasetable处理器---大数据之Nifi工作笔记0030
查看>>
NIFI大数据进阶_连接与关系_设置数据流负载均衡_设置背压_设置展现弯曲_介绍以及实际操作---大数据之Nifi工作笔记0027
查看>>
NIFI数据库同步_多表_特定表同时同步_实际操作_MySqlToMysql_可推广到其他数据库_Postgresql_Hbase_SqlServer等----大数据之Nifi工作笔记0053
查看>>
NIFI汉化_替换logo_二次开发_Idea编译NIFI最新源码_详细过程记录_全解析_Maven编译NIFI避坑指南001---大数据之Nifi工作笔记0068
查看>>
NIFI集群_内存溢出_CPU占用100%修复_GC overhead limit exceeded_NIFI: out of memory error ---大数据之Nifi工作笔记0017
查看>>