说在前面的话

导师有一个异常行为检测的小任务(吸烟行为检测),给我让我和师弟一起去完成。本身以为在YOLOv5的detect.py检测脚本中加入语音提示很简单,但是其中的过程却是一言难尽。
这也是查阅了很多资料,尝试过了各种大佬分享的经验,集百家之长完成了这个任务,感谢CSDN中各位有开源精神的大佬的代码分享。

一、语音生成脚本

首先先安装好这个库:pyttsx3
在PyCharm这个软件中打开命令行(或叫:终端),激活自己所需的虚拟环境,
然后输入指令: pip install pyttsx3
等待安装完成即可。
语音生成、合成脚本如下:

# 导入pyttsx3库import pyttsx3class Voice():def __init__(self):self.engine = pyttsx3.init()# 创建engine并初始化self.engine.setProperty('rate', 150)self.engine.setProperty('volume', 1.0)# 在0到1之间重设音量def synthesis(self, text, filename):self.engine.save_to_file(text, filename)self.engine.runAndWait()def play(self, filename):self.engine.say(filename)self.engine.runAndWait()self.engine.stop()if __name__ == "__main__":speech = Voice()speech.synthesis('注意,请勿吸烟!', '请勿吸烟.mp3') #此句是在当前文件目录下生成mp3文件, #语音内容就是:注意,请勿吸烟!speech.play('注意,请勿吸烟') #此句是直接合成语音并播放

二、本地语音播放软件

首先选取FFmpeg播放器来播放自己录制好的mp3文件,FFmpeg拥有LGPL/GPL许可和前沿音/视频编解码库libavcodec,使用方便,功能强大。虽然FFmpeg(Fast Forward mpeg视频编码标准)在Linux系统开发并且在Linux系统使用较多,但在windows系统下也同样可以用来录制、编解码、转换、流化音视频等。FFmpeg在各种各样的构建环境、机器架构和配置下编译、运行,支持Linux、Mac OS X、Microsoft Windows、bsd、Solaris等。

FFmpeg具体下载地址:https://github.com/BtbN/FFmpeg-Builds/releases,如下图:

下载ffmpeg-N-104947-g631e31773b-win64-gpl.zip文件

解压fmpeg-N-104947-g631e31773b-win64-gpl.zip文件,里面有这些:

ffmpeg.exe:音视频转码、转换器。
ffplay.exe:简单的音视频播放器。
ffprobe.exe:简单的多媒体码流分析器。

三、YOLOv5的detect.py程序改进

在detect.py代码中修改!!

仔细找程序,睁大眼睛
第一步:
找到光标定位到的这里

插入如下代码

value = det[:, 4].max().item()# 解决的是看到视频就报警 每取四个值 找到最大 大于0.5才播放告警语音if value > 0.5:# 大于0.5播放警示语音count += 1# count等于一个滤波 小延时 防止误报 累计5个数之后再报if count > 5:count = 0if time.time() - tplay > 1.8:# 防止声音叠加 1.8s播放完再继续 import os# os.system( 'start /b D:/Teacher_project/yolov5-v5s-smoke/ffmpeg/bin/ffplay.exe -autoexit -nodisp D:/Teacher_project/yolov5-v5s-smoke/abc.mp3')# 音乐播放#参数含义: start /b 后台启动ffplay音乐播放软件的位置#-autoexit 播放完毕自动退出-nodisp不显示窗口 mp3语音的位置路径 tplay = time.time()# 当前系统时钟det[:, :4] = scale_coords(im.shape[2:], det[:, :4], im0.shape).round()

效果如下:

第二步:
再找到光标定位到的这里:

加入如下代码:
t0 = time.time()
count = 0
tplay = 0

效果如下:

到这里就改完了,运行detect.py脚本就行。

四、代码思想解释

这是集百家之长所得。
加入后台语音播放的记录:(总体原理如下)
第一步计算每四帧图像的最大置信度是为了解决人眼还没看到烟时,计算机已经识别到其中一帧大于阈值的问题,选取四帧计算最大值增加了可靠性。
计算后的置信度大于阈值进入下一步,否则返回上一步继续等待,阈值设定为0.5。
count计数滤波相当于设置了一个滤波器,用较短的延时滤除掉一些小毛刺,减少误报的几率,提升准确性。
使用time.time函数计算时间差是为了完整的播放语音,防止吸烟出现时语音叠加;时间差大于设定值时播放对应语音,否则返回上一步 继续等待,设定值设置为3.0s。这个值取决于由语音的时长;最后播放对应语音时, 首先使用‘start /b’开始播放语音,可以设置为后台启动,解决了播放语音时视频卡帧的问题, 同时在后缀加上‘-autoexit’,播放完语音后自动退出,解决了语音播放完之后,窗口卡 顿的问题,再加上‘-nodisp’,可以不显示语音播放窗口。

五、效果展示

背景音有点嘈杂,大家凑合看一下吧。

素材

六、写在后面

①之前也尝试过采用多线程技术来解决这个问题,但是奈何我代码水平太差,无法将detect.py中的代码改成我需要的样子,所以放弃这个想法了。
②其实文章中的做法不是多线程,是进行的后台调用,但是最终达到的效果是差不多的。

七、最后的最后

为自己推销一下。这里还有标注好的吸烟数据集、接打电话手机数据集、电梯按键数据集,训练好的YOLOv5检测权重,YOLOv5的改进好的方案(如注意力机制、结构改进等),有需要的同学私信滴滴我哦,绝对物美价廉。