Ubuntu22.04安装Whisper-jax

这篇具有很好参考价值的文章主要介绍了Ubuntu22.04安装Whisper-jax。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1、安装jax

1.1、前提条件

已经安装好了NVIDIA显卡驱动和CUDA。如果你还没安装,那么你可以参考我的这篇文章。

jax是谷歌推出的深度学习框架。

这里安装的是GPU版本的jax。

1.2、安装

源码地址:

https://github.com/google/jax

官方安装教程

更新pip:

pip install --upgrade pip

安装jax:

cuda 11

pip install --upgrade "jax[cuda11_pip]" -f https://storage.googleapis.com/jax-releases/jax_cuda_releases.html

cuda 12

pip install --upgrade "jax[cuda12_pip]" -f https://storage.googleapis.com/jax-releases/jax_cuda_releases.html

测试是否安装成功,可以参考这篇文章。

import jax.numpy as np

from jax import random
import time

x = random.uniform(random.PRNGKey(0),[5000,5000])
st = time.time()
try:
	y=np.matmul(x,x)

except Exception:

	print("error")

print(time.time()-st)

print(y)

如果使用国外的源无法下载时,可以更换为国内的镜像,这里推荐更换为清华大学的镜像。

2、安装cuDNN

点击这里下载cuDNN

下载完成之后上传到服务器,然后解压cuDNN。

tar -xvf xxx.tar

然后进入到解压后的目录。
然后复制到CUDA-12.1目录。

sudo cp include/* /usr/local/cuda-12.1/include
sudo cp lib/libcudnn* /usr/local/cuda-12.1/lib64
sudo chmod a+r /usr/local/cuda-12.1/include/cudnn*
sudo chmod a+r /usr/local/cuda-12.1/lib64/libcudnn*

查看cuDNN版本。

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

3、安装whisper-jax

源码:

https://github.com/sanchit-gandhi/whisper-jax

安装:这里推荐在Anaconda的虚拟环境中安装。如何安装Anaconda,可以去参考我的这篇文章。

pip install git+https://github.com/sanchit-gandhi/whisper-jax.git

注意不能使用国内pip源安装。

修改pip配置文件。

vim ~/.pip/pip.conf

把国内镜像源注释掉。

验证jax是否使用GPU

import jax
print(jax.devices()[0])

如果返回gpu:0说明可以使用GPU。

4、whisper-jax的使用

whisper-jax没有提供命令行方式运行。

from whisper_jax import FlaxWhisperPipline

# instantiate pipeline
pipeline = FlaxWhisperPipline("openai/whisper-small")

# JIT compile the forward call - slow, but we only do once
text = pipeline("audio.mp3")

# used cached function thereafter - super fast!!
text = pipeline("audio.mp3")

个人感觉whisper-jax更吃显卡性能,经过我在Tesla T4 15GB显卡上的测试,无法跑large模型。

转录的速度要比whisper更快。

4.1、调整精度

可以修改精度,加快转录速度。

对于A100显卡和TPU:

from whisper_jax import FlaxWhisperPipline
import jax.numpy as jnp

# instantiate pipeline in bfloat16
pipeline = FlaxWhisperPipline("openai/whisper-small", dtype=jnp.bfloat16)

对于非A100显卡:

from whisper_jax import FlaxWhisperPipline
import jax.numpy as jnp

# instantiate pipeline in bfloat16
pipeline = FlaxWhisperPipline("openai/whisper-small", dtype=jnp.float16)

4.2、批处理

from whisper_jax import FlaxWhisperPipline

# instantiate pipeline with batching
pipeline = FlaxWhisperPipline("openai/whisper-small", batch_size=16)

4.3、输出带时间戳的文件

from whisper_jax import FlaxWhisperPipline

pipeline = FlaxWhisperPipline("openai/whisper-small")

text = pipeline("audio.mp3", return_timestamps=True)

chunks = text["chunks"]

with open('output', 'w') as f:    
	for item in chunks:
      	f.write(str(item) + "\n")
	f.close()

更多内容欢迎访问个人博客。文章来源地址https://www.toymoban.com/news/detail-489501.html

到了这里,关于Ubuntu22.04安装Whisper-jax的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • ubuntu 22.04下载安装

    https://ubuntu.com/download 官网下载速度慢的话可以直接百度各大学的镜像下载网站去下载,如下以清华镜像网站为例: 1、百度搜索 清华镜像网站, 附上网址:https://mirrors.tuna.tsinghua.edu.cn/ 2、进入镜像网站直接搜索ubuntu,然后选择ubuntu-releases 3、选择想要下载的版本 4、 选择桌面

    2024年02月03日
    浏览(44)
  • 【Ubuntu 22.04安装CUDA】

    步骤1:更新系统 在终端中运行以下命令,确保系统已更新到最新版本: 步骤2:安装NVIDIA显卡驱动* 要使用CUDA,您需要安装NVIDIA的专有GPU驱动。运行以下命令来安装: 在安装驱动程序后,重启计算机以应用更改: 如何确定安装驱动版本 步骤3:添加NVIDIA CUDA存储库 在终端中

    2024年02月13日
    浏览(53)
  • Ubuntu 22.04 安装docker

    如果之前有安装过旧版本,则通过此命令删除旧版本 Windows 10 子系统Ubuntu 22.04 按以上步骤安装完docker后,启动 docker 可能会报错 以上可以通过将 iptables 切回 iptables-legacy

    2024年02月14日
    浏览(45)
  • Ubuntu(22.04):安装VNC

    Ubuntu(20.04):安装VNC_ubuntu安装vnc-CSDN博客 Ubuntu20.04上安装VNC与Ubuntu22.04安装VNC略有不同,试了很久才终于成功。 1.在Ubuntu22.04的终端里安装tightvncserver sudo apt install tigervnc-standalone-server 2.在Ubuntu22.04的终端里安装gnome-panel sudo apt install gnome-panel 3. 注销Ubuntu22.04登陆 4.

    2024年03月14日
    浏览(46)
  • ubuntu22.04安装过程记录

    【双系统】如何安装ubuntu22.04系统_ubuntu安装教程-CSDN博客 打开清华源官网,搜索对应系统版本的镜像源码 https://mirrors.tuna.tsinghua.edu.cn/help/ubuntu/ 原文件备份 编辑源文件  将原来内容删除,添加清华源源码 更新镜像源  Ubuntu22.04 安装显卡驱动_ubuntu安装nvidia显卡驱动_Chenxu_Wen的

    2024年02月04日
    浏览(38)
  • Ubuntu22.04安装ROS

    在安装ROS之前,需要先安装Ubuntu22.04操作系统。您可以从Ubuntu官网下载Ubuntu22.04的最新版本镜像文件,并创建一个可启动的USB。您可以参考以下步骤: 在安装ROS之前,需要先安装Ubuntu22.04操作系统。您可以从Ubuntu官网下载Ubuntu22.04的最新版本镜像文件,并创建一个可启动的USB。

    2024年02月10日
    浏览(57)
  • 电脑安装ubuntu22.04系统

    关于我 🏠 工作 | 杭州 ⭐ framework开发工程师(嵌入式软件开发工程师) ✈️公众号 | 好学程序员 ✈️微信 | l15228913797 🚀 邮箱 | 394651421@qq.com 安装系统就是从U盘启动盘去启动,利用U盘中的镜像来为电脑安装系统 不同电脑从U盘启动的方式可能不一样,一般也就两种方式 方

    2024年04月22日
    浏览(77)
  • Ubuntu22.04安装docker

    设置存储库 1.更新软件包索引并安装软件包以允许使用 基于 HTTPS 的存储库: apt``apt 2.添加 Docker 的官方 GPG 密钥: 3.使用以下命令设置存储库: 安装 Docker 引擎 1.更新包索引: apt 尝试授予 Docker 的读取权限 更新包索引之前的公钥文件: 2.安装 Docker Engine、containerd 和 Docker C

    2024年02月03日
    浏览(55)
  • Ubuntu 22.04安装docker

    docker官网 先删除旧版本 更新 ubuntu 更新数据源列表 安装 https 请求库 4. 添加Docker的官方GPG密钥 使用以下命令设置存储库 6. 安装docker 引擎

    2024年02月12日
    浏览(36)
  • Ubuntu22.04 安装Anaconda

    (1)下载地址:https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/?C=MO=D (2)选择适合您操作系统的版本进行下载 (3)下载方式有两种: 方式一,使用wget下载(注:先下载wget): 方式二:在本机下载后,通过xftp等文件上传工具,将工具包上传到服务器 (4)使用 uname -m 可以查询

    2024年02月15日
    浏览(53)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包