Ubuntu22.04安装Whisper-jax

这篇具有很好参考价值的文章主要介绍了Ubuntu22.04安装Whisper-jax。希望对大家有所帮助。如果存在错误或未考虑完全的地方,请大家不吝赐教,您也可以点击"举报违法"按钮提交疑问。

1、安装jax

1.1、前提条件

已经安装好了NVIDIA显卡驱动和CUDA。如果你还没安装,那么你可以参考我的这篇文章。

jax是谷歌推出的深度学习框架。

这里安装的是GPU版本的jax。

1.2、安装

源码地址:

https://github.com/google/jax

官方安装教程

更新pip:

pip install --upgrade pip

安装jax:

cuda 11

pip install --upgrade "jax[cuda11_pip]" -f https://storage.googleapis.com/jax-releases/jax_cuda_releases.html

cuda 12

pip install --upgrade "jax[cuda12_pip]" -f https://storage.googleapis.com/jax-releases/jax_cuda_releases.html

测试是否安装成功,可以参考这篇文章。

import jax.numpy as np

from jax import random
import time

x = random.uniform(random.PRNGKey(0),[5000,5000])
st = time.time()
try:
	y=np.matmul(x,x)

except Exception:

	print("error")

print(time.time()-st)

print(y)

如果使用国外的源无法下载时,可以更换为国内的镜像,这里推荐更换为清华大学的镜像。

2、安装cuDNN

点击这里下载cuDNN

下载完成之后上传到服务器,然后解压cuDNN。

tar -xvf xxx.tar

然后进入到解压后的目录。
然后复制到CUDA-12.1目录。

sudo cp include/* /usr/local/cuda-12.1/include
sudo cp lib/libcudnn* /usr/local/cuda-12.1/lib64
sudo chmod a+r /usr/local/cuda-12.1/include/cudnn*
sudo chmod a+r /usr/local/cuda-12.1/lib64/libcudnn*

查看cuDNN版本。

cat /usr/local/cuda/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

3、安装whisper-jax

源码:

https://github.com/sanchit-gandhi/whisper-jax

安装:这里推荐在Anaconda的虚拟环境中安装。如何安装Anaconda,可以去参考我的这篇文章。

pip install git+https://github.com/sanchit-gandhi/whisper-jax.git

注意不能使用国内pip源安装。

修改pip配置文件。

vim ~/.pip/pip.conf

把国内镜像源注释掉。

验证jax是否使用GPU

import jax
print(jax.devices()[0])

如果返回gpu:0说明可以使用GPU。

4、whisper-jax的使用

whisper-jax没有提供命令行方式运行。

from whisper_jax import FlaxWhisperPipline

# instantiate pipeline
pipeline = FlaxWhisperPipline("openai/whisper-small")

# JIT compile the forward call - slow, but we only do once
text = pipeline("audio.mp3")

# used cached function thereafter - super fast!!
text = pipeline("audio.mp3")

个人感觉whisper-jax更吃显卡性能,经过我在Tesla T4 15GB显卡上的测试,无法跑large模型。

转录的速度要比whisper更快。

4.1、调整精度

可以修改精度,加快转录速度。

对于A100显卡和TPU:

from whisper_jax import FlaxWhisperPipline
import jax.numpy as jnp

# instantiate pipeline in bfloat16
pipeline = FlaxWhisperPipline("openai/whisper-small", dtype=jnp.bfloat16)

对于非A100显卡:

from whisper_jax import FlaxWhisperPipline
import jax.numpy as jnp

# instantiate pipeline in bfloat16
pipeline = FlaxWhisperPipline("openai/whisper-small", dtype=jnp.float16)

4.2、批处理

from whisper_jax import FlaxWhisperPipline

# instantiate pipeline with batching
pipeline = FlaxWhisperPipline("openai/whisper-small", batch_size=16)

4.3、输出带时间戳的文件

from whisper_jax import FlaxWhisperPipline

pipeline = FlaxWhisperPipline("openai/whisper-small")

text = pipeline("audio.mp3", return_timestamps=True)

chunks = text["chunks"]

with open('output', 'w') as f:    
	for item in chunks:
      	f.write(str(item) + "\n")
	f.close()

更多内容欢迎访问个人博客。文章来源地址https://www.toymoban.com/news/detail-489501.html

到了这里,关于Ubuntu22.04安装Whisper-jax的文章就介绍完了。如果您还想了解更多内容,请在右上角搜索TOY模板网以前的文章或继续浏览下面的相关文章,希望大家以后多多支持TOY模板网!

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处: 如若内容造成侵权/违法违规/事实不符,请点击违法举报进行投诉反馈,一经查实,立即删除!

领支付宝红包 赞助服务器费用

相关文章

  • ubuntu 22.04版本安装

    Ubuntu 22.04安装 1、学习环境下安装ubuntu 22.04版本。 Linux:ubuntu 22.04。 学习环境:VMware虚拟机。 系统镜像:ubuntu 22.04。 2、开始安装ubuntu。 1)开启虚拟机,点击文件,新建虚拟机。 2)选择高级,然后下一步。 3)选择硬件兼容性。 4)安装客户机系统。 5)选择虚拟机中所安装

    2023年04月10日
    浏览(47)
  • Ubuntu22.04 安装Anaconda

    (1)下载地址:https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/?C=MO=D (2)选择适合您操作系统的版本进行下载 (3)下载方式有两种: 方式一,使用wget下载(注:先下载wget): 方式二:在本机下载后,通过xftp等文件上传工具,将工具包上传到服务器 (4)使用 uname -m 可以查询

    2024年02月15日
    浏览(50)
  • Ubuntu22.04安装docker

    设置存储库 1.更新软件包索引并安装软件包以允许使用 基于 HTTPS 的存储库: apt``apt 2.添加 Docker 的官方 GPG 密钥: 3.使用以下命令设置存储库: 安装 Docker 引擎 1.更新包索引: apt 尝试授予 Docker 的读取权限 更新包索引之前的公钥文件: 2.安装 Docker Engine、containerd 和 Docker C

    2024年02月03日
    浏览(51)
  • ubuntu22.04安装过程记录

    【双系统】如何安装ubuntu22.04系统_ubuntu安装教程-CSDN博客 打开清华源官网,搜索对应系统版本的镜像源码 https://mirrors.tuna.tsinghua.edu.cn/help/ubuntu/ 原文件备份 编辑源文件  将原来内容删除,添加清华源源码 更新镜像源  Ubuntu22.04 安装显卡驱动_ubuntu安装nvidia显卡驱动_Chenxu_Wen的

    2024年02月04日
    浏览(35)
  • ubuntu 22.04 -- cmake安装

    官网下载:下载链接:https://cmake.org/download/ 也可以使用命令行下载 2.1 在系统环境中指定cmake的位置(可选) Could not find OpenSSL 错误描述 解决方案 缺少 openssl 的编译依赖,安装即可 sudo apt-get install libssl-dev 其他解决方案参考资料:安装cmake,没有sudo权限,cannot find openssl;

    2024年02月10日
    浏览(35)
  • Ubuntu 22.04 安装docker

    如果之前有安装过旧版本,则通过此命令删除旧版本 Windows 10 子系统Ubuntu 22.04 按以上步骤安装完docker后,启动 docker 可能会报错 以上可以通过将 iptables 切回 iptables-legacy

    2024年02月14日
    浏览(42)
  • 【Ubuntu 22.04安装CUDA】

    步骤1:更新系统 在终端中运行以下命令,确保系统已更新到最新版本: 步骤2:安装NVIDIA显卡驱动* 要使用CUDA,您需要安装NVIDIA的专有GPU驱动。运行以下命令来安装: 在安装驱动程序后,重启计算机以应用更改: 如何确定安装驱动版本 步骤3:添加NVIDIA CUDA存储库 在终端中

    2024年02月13日
    浏览(49)
  • ubuntu 22.04安装PostgreSQL

    关系数据库管理系统是许多网站和应用程序的关键组件。 它们提供了一种结构化的方式来存储、组织和访问信息。 PostgreSQL 或 Postgres 是一种关系数据库管理系统,它提供 SQL 查询语言的实现。 它符合标准并具有许多高级功能,例如可靠的事务处理和没有读锁的并发性。 本文

    2024年02月09日
    浏览(35)
  • 电脑安装ubuntu22.04系统

    关于我 🏠 工作 | 杭州 ⭐ framework开发工程师(嵌入式软件开发工程师) ✈️公众号 | 好学程序员 ✈️微信 | l15228913797 🚀 邮箱 | 394651421@qq.com 安装系统就是从U盘启动盘去启动,利用U盘中的镜像来为电脑安装系统 不同电脑从U盘启动的方式可能不一样,一般也就两种方式 方

    2024年04月22日
    浏览(73)
  • Ubuntu 22.04 安装MySql

    MySQL是非常常用的关系型数据库,无论是大厂还是小厂,都有它的身影。最大的优点是免费,安装起来也比较简单。 画了个简图,描述了下MySQL的架构。 其中的比较有趣的点在于 连接池 和 存储引擎 。 连接池 缓存了数据库和客户端的 TCP连接 ,以减少建立连接的开销。 存储

    2024年01月21日
    浏览(54)

觉得文章有用就打赏一下文章作者

支付宝扫一扫打赏

博客赞助

微信扫一扫打赏

请作者喝杯咖啡吧~博客赞助

支付宝扫一扫领取红包,优惠每天领

二维码1

领取红包

二维码2

领红包