聊聊Jmeter如何并发执行Python脚本
原标题:聊聊 Jmeter 如何并发执行 Python 脚本
来源:AirPython
作者:星安果
1. 前言
大家好,我是安果!
最近有小伙伴后台给我留言,说自己用 Django 写了一个大文件上传的 Api 接口,现在想本地检验一下接口并发的稳定性,问我有没有好的方案
本篇文章以文件上传为例,聊聊 Jmeter 并发执行 Python 脚本的完整流程
2. Python 实现文件上传
大文件上传包含 3 个步骤,分别是:
- 获取文件信息及切片数目
- 分段切片,并上传 - API
- 文件合并 - API
- 文件路径参数化
2-1 获取文件信息及切片数目
首先,获取文件的大小
然后,利用预设的切片大小获取分段总数
最后,获取文件名及 md5 值
import os
import math
import hashlib
def get_file_md5(self, file_path):
"""获取文件的md5值"""
with open(file_path, 'rb') as f:
data = f.read()
return hashlib.md5(data).hexdigest()
def get_filename(self, filepath):
"""获取文件原始名称"""
# 文件名带后缀
filename_with_suffix = os.path.basename(filepath)
# 文件名
filename =
filename_with_suffix.split('.')[0]
# 后缀名
suffix =
filename_with_suffix.split('.')[-1]
return filename_with_suffix, filename, suffix
def get_chunk_info(self, file_path):
"""获取分段信息"""
# 获取文件总大小(字节)
file_total_size = os.path.getsize(file_path)
print(file_total_size)
# 分段总数
total_chunks_num = math.ceil(file_total_size / self.chunk_size)
# 文件名(带后缀)
filename = self.get_filename(file_path)[0]
# 文件的md5值
file_md5 = self.get_file_md5(file_path)
return file_total_size, total_chunks_num, filename, file_md5
2-2 切片及分段上传
利用分段总数和分段大小,对文件进行切片,调用分段文件上传接口
import requests
def do_chunk_and_upload(self, file_path):
"""将文件分段处理,并上传"""
file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(file_path)
# 遍历
for index in range(total_chunks_num):
print('第{}次文件上传'.format(index + 1))
if index + 1 == total_chunks_num:
partSize = file_total_size % chunk_size
else:
partSize = chunk_size
# 文件偏移量
offset = index * chunk_size
# 生成分片id,从1开始
chunk_id = index + 1
print('开始准备上传文件')
print("分片id:", chunk_id, "文件偏移量:", offset, ",当前分片大小:", partSize, )
# 分段上传文件
self.__upload(offset, chunk_id, file_path, file_md5, filename, partSize, total_chunks_num)
def __upload(self, offset, chunk_id, file_path, file_md5, filename, partSize, total):
"""分次上传文件"""
url = 'http://**/file/brust/upload'
params = {'chunk': chunk_id,
'fileMD5': file_md5,
'fileName': filename,
'partSize': partSize,
'total': total
}
# 根据文件路径及偏移量,读取文件二进制数据
current_file = open(file_path, 'rb')
current_file.seek(offset)
files = {'file': current_file.read(partSize)}
resp = requests.post(url, params=params, files=files).text
print(resp)
2-3 合并文件
最后调用合并文件的接口,将分段小文件合成大文件
def merge_file(self, filepath):
"""合并"""
url = 'http://**/file/brust/merge'
file_total_size, total_chunks_num, filename, file_md5 = self.get_chunk_info(filepath)
payload = json.dumps(
{
"fileMD5": file_md5,
"chunkTotal": total_chunks_num,
"fileName": filename
}
)
print(payload)
headers = {
"Content-Type": "application/json"
}
resp = requests.post(url, headers=headers, data=payload).text
print(resp)
2-4 文件路径参数化
为了并发执行,将文件上传路径参数化
# fileupload.py
...
if __name__ == '__main__':
filepath = sys.argv[1]
# 每一段切片的大小(MB)
chunk_size = 2 * 1024 * 1024
fileApi = FileApi(chunk_size)
# 分段上传
fileApi.do_chunk_and_upload(filepath)
# 合并
fileApi.merge_file(filepath)
3. Jmeter 并发执行
在使用 Jmeter 创建并发流程前,我们需要编写批处理脚本
其中,执行批处理脚本时,需要跟上文件路径一起执行
# cmd.bat
@echo off
set filepath=%1
python C:\Users\xingag\Desktop\rpc_demo\fileupload.py %*
然后,在本地新建一个 CSV 文件,写入多个文件路径
# 准备多个文件路径(csv)
C:\\Users\\xingag\\Desktop\\
charles-proxy-4.6.1-win64.msi
C:\\Users\\xingag\\Desktop\\V2.0.pdf
C:\\Users\\xingag\\Desktop\\HBuilder1.zip
C:\\Users\\xingag\\Desktop\\HBuilder2.zip
接着,就可以使用 Jmeter 创建并发流程了
完整步骤如下:
- 创建一个测试计划,下面添加一个线程组这里线程组数目与上面文件数目保持一致即可
- 线程组下,添加「 同步定时器 」同步定时器中的「 模拟用户组的数量 」和上面参数数量保持一致
- 添加 CSV 数据文件设置指向上面准备的 csv 数据文件,设置文件格式为 UTF-8,变量名称设置为 file_path,最后将线程共享模式设置为「 当前线程组 」
- 添加调试取样器,方便调试
- 添加 OS 进程取样器选择上面创建的批处理文件,命令行参数设置为「 ${file_path} 」
- 添加查看结果数
4. 最后
运行上面创建的 Jmeter 并发流程,在结果数中可以查看并发上传文件的结果
当然,我们可以增加并发数量去模拟真实的使用场景,只需要修改 CSV 数据源及 Jmeter 参数即可
相关文章
-
「不厚道」的丰巢、「真实」的网民和「次世代」的社交
-
8点1氪 | 腾讯云前三季度收入逾60亿;Uber第三季度净亏9.39亿美元;比特币大跌近10%
-
济南公安通报“阿里女员工被侵害”案:涉嫌强制猥亵,无证据证明强奸
-
AI在爱奇艺商业广告中的应用和探索
-
提供AI知识产权整体解决方案“墨丘科技”获数百万Pre-A轮融资
-
jpg怎么转换成png图片?让这个图片转换工具告诉你!
-
大佬言论 | 孙为民:拼多多也是消费升级
-
暗网到底是什么?是谁创造了它?里面又有些什么不为人知的交易?
-
百度与瑞士驻华大使馆签署联合意向书:首个国家小程序面世
-
第61篇:即时性资料信息到达
-
36氪首发|「极睿科技」获红杉领投的亿元级A轮融资,用人工智能改变万亿服装业的“人货场”
-
【苹果面临三星9.5亿美元罚款因显示面板未达保底采购量】
-
亚马逊被曝通过Alexa监听用户私生活|4月11日坏消息榜
-
苹果CEO库克第14次来华“作秀”释放了什么信号?
-
从不允许“躺赢”的教育行业,51Talk是如何成为“王者”的?
-
36氪独家|阿里考拉20亿美元收购案交割在即,天猫国际高管接任考拉CEO
-
钛媒体Pro创投日报:12月6日收录投融资项目25起
-
菲林输出质量受哪些因素影响?-大凡菲林
-
智东西晚报:滴滴自动驾驶部门升级为独立公司韩国宣布投入约65亿美元自研半导体材料
-
从优青到杰青:优秀青年科技人才成长典型特征
-
K402合金|K402化学成分|K402物理性能
-
【钛晨报】苹果斥资数十亿美元改进地图服务,与谷歌地图竞争;拼多多收盘暴跌近23%,创IPO以来最大单日跌幅
-
PHA挖矿项目有哪些价值
-
支付宝回应全球移动支付报告:快2019年啦 支付宝全球用户已超9亿
-
您有新的祝福~请查收~
-
网易云音乐融资后:存量红利时代如何破局?
-
3亿人用过的腾讯微博宣布关停,新浪热搜炸了!用户数曾远超新浪,马化腾亲自宣传
-
有什么适合非单身人士的聊天软件?
-
京东云智能城市助力天津科技防疫8小时上线重点人员筛查系统