简介
Whisper 是 OpenAI 的一项语音处理项目，旨在实现语音的识别、翻译和生成任务。作为基于深度学习的语音识别模型，Whisper 具有高度的智能化和准确性，能够有效地转换语音输入为文本，并在多种语言之间进行翻译。通过不断的优化和更新，Whisper 致力于提供更加优质和高效的语音处理解决方案，以满足不同场景和需求下的语音交互应用。
- 官网地址：https://openai.com/research/whisper
- github 地址：https://github.com/openai/whisper?tab=readme-ov-file
Whisper 的优点
Whisper 借助丰富多样的数据集，这些数据集中的语音数据与互联网上的文本记录相匹配，并结合了一种名为“注意力机制”的技术。这项技术使得 Whisper 在处理语音时，能够更加有效地捕捉到语音中的关键信息。
这种综合运用数据和先进技术的方式，使得 Whisper 提高了其在各种环境下的健壮性和准确性，能够实现更为精确、智能的语音识别和翻译，为用户提供更加出色的语音处理体验。
多任务
Whisper 并不仅仅是预测给定音频的单词，虽然这是是语音识别的核心，但它还包含许多其他附加的功能组件，例如语言活动检测、说话人二值化和逆文本正态化。
采用 Transformer 序列到序列模型可以实现针对不同的语言处理任务。包括以下几种：
这些任务的输出由模型预测的令牌序列表示，使得单个模型可以代替传统的语音处理管道中的多个组件，如下所示：
应用
安装
openai-whisper
openai-whisper 与 python 3.8-3.11 和最新的 PyTorch 版本兼容。
使用 pip 命令安装：pip install -U openai-whisper
ffmpeg
openai-whisper 需要 ffmpeg 的环境，ffmpeg 是一个开源的跨平台音视频处理工具和框架，可以用来录制、转换和流式传输音视频内容 。
官网：https://ffmpeg.org/
MAC
- 安装：brew install ffmpeg
- 验证：ffmpeg -version 出现版本信息且无报错表示安装成功。
Windows
- 安装：进入下载链接：https://www.gyan.dev/ffmpeg/builds/#release-builds，选择版本下载安装:
- 环境配置：下载解压完成后，需要将 Ffmpeg 的执行文件坐在目录添加到系统的环境变量中。
- 验证：在 cmd 中输入 ffmpeg -version 出现版本信息且无报错表示安装成功。
命令行
# 将音频的内容转为文本，使用base模型whisper demo1.mp3 --model base --task transcribe
Python 代码
import whisper# 初始化一个 base 模型model = whisper.load_model("base")# 传入音频文件，并得到音频输出的文本内容res = model.transcribe("demo.mp3")print(res["text"])模型调用
安装 openai 第三方库，本篇教程使用 1.16.1 版本的 openai:pip install openai
def test_openai_whisper(): # 初始化OpenAI对象 client = OpenAI(base_url="xxx",api_key="xxx") # 打开一个音频文件 audio_file1 = open("demo1.mp3", 'rb') audio_file2 = open("demo2.mp3", 'rb') # 选择模型，并且转录音频的内容 res1 = client.audio.transcriptions.create(model="whisper-1", file=audio_file1) res2 = client.audio.transcriptions.create(model="whisper-1", file=audio_file2) # 翻译为英文 res3 = client.audio.translations.create(model="whisper-1", file=audio_file2) print(f"audio1转录结果为：{res1.text}") print(f"audio2转录结果为：{res1.text}") print(f"audio2翻译结果为：{res1.text}")总结
- 了解 Whisper 相关概念。
- 完成环境安装。
- 学会基础示例练习。
 | 
