这是一个创建多进程来协同并发同时抓取数据汇总的示例代码:
<?php
$url_arr = array();
for ($i=0;$i<10;$i++){
$url_arr[] = "www.baidu.com?wd=".$i;
}
echo "开始执行:".date("Y-m-d H:i:s").PHP_EOL;
$_begintime=time();
$workers = array();
for ($i=0;$i<5;$i++){
$process = new swoole_process('getContents',true);
$process->start();
$process->write($i);
$workers[] = $process;
}
//主进程数据结果
foreach ($workers as $process){
echo $process->read();
echo PHP_EOL;
}
$_finishtime=time();
echo "任务全部完成:".date("Y-m-d H:i:s").",总耗时".($_finishtime-$_begintime).PHP_EOL;
function getContents(swoole_process $worker){
$_begintime=time();
$i = $worker->read();
global $url_arr;
// echo "1";
$res1 = execCurl($url_arr[($i*2)]);
$res2 = execCurl($url_arr[($i*2+1)]);
$_finishtime=time();
// $worker->write('Hello');
echo $res1.PHP_EOL.$res2."耗时:".($_finishtime-$_begintime);
}
function execCurl($url){
sleep(rand(1,10));
return "抓取网页 ".$url." 完成,";
}
网友回复
如何编写一个chrome插件实现多线程高速下载大文件?
cdn版本的vue在网页中出现typeerror错误无法找到错误代码位置怎么办?
pywebview能否使用webrtc远程控制共享桌面和摄像头?
pywebview6.0如何让窗体接受拖拽文件获取真实的文件路径?
如何在linux系统中同时能安装运行apk的安卓应用?
python有没有离线验证码识别ocr库?
各家的ai图生视频及文生视频的api价格谁最便宜?
openai、gemini、qwen3-vl、Doubao-Seed-1.6在ui截图视觉定位这款哪家更强更准?
如何在linux上创建一个沙箱隔离的目录让python使用?
pywebview如何使用浏览器自带语音识别与webspeech 的api?