鸿蒙开发-音视频

Media Kit 特点

一般场合的音视频处理，可以直接使用系统集成的Video组件，不过外观和功能自定义程度低
Media kit：轻量媒体引擎，系统资源占用低
支持音视频播放/录制，pipeline灵活拼装，插件化扩展source/demuxer/codec
原生支持HDR vivid的采集与播放
支持音频池（SoundPool）低时延播放短促音效场景，如相机快门音效、信息通知

Media Kit 常用类

AVPlayer：播放
AVRecorder：录制
SoundPool：短促提示音

音频播放

流程：创建AVPlayer，设置播放资源，设置播放参数（音量/倍速/焦点模式），播放控制（播放/暂停/跳转/停止）
通过AVPlayer的state属性主动获取当前状态，或用on(‘stateChange’)监听状态变化
如要实现后台播放或熄屏播放，需要使用AVSession（媒体会话）和申请长时任务，避免播放被系统强制中断

创建实例createAVPlayer()，AVPlayer初始化idle状态
设置业务需要的监听事件，搭配全流程场景使用
设置资源：设置属性url，AVPlayer进入initialized状态
准备播放：调用prepare()，AVPlayer进入prepared状态，此时可以获取duration，设置音量
音频播控：播放play()，暂停pause()，跳转seek()，停止stop() 等

在这里插入图片描述

SoundPool - 音频池

SoundPool当前支持播放1MB以下的音频资源，超过1MB将被截断。
过程：创建SoundPool实例，加载音频，设置参数（循环模式/播放优先级等），播放控制（播放/停止），释放。

createSoundPool方法创建SoundPool实例
load方法进行音频资源加载。可以传入uri或fd加载资源，此处使用传入uri的方式为例
on(‘loadComplete’)方法，用于监听“资源加载完成”
on(‘playFinished’)方法，用于监听“播放完成”
on(‘error’)方法，设置错误类型监听
配置播放参数PlayParameters，并调用play方法播放音频。多次调用play播放同一个soundID，只会播放一次
调用setLoop方法设置循环次数
创建实例

import audio from '@ohos.multimedia.audio';
import media from '@ohos.multimedia.media';
import fs from '@ohos.file.fs'
import { BusinessError } from '@kit.BasicServicesKit';

@Entry
@Component
struct SoundPoolPage {
  soundPool?: media.SoundPool;
  streamId: number = 0;
  soundId: number = 0;
  audioRendererInfo: audio.AudioRendererInfo = {
    usage: audio.StreamUsage.STREAM_USAGE_MUSIC,
    rendererFlags: 1
  }
  PlayParameters: media.PlayParameters = {
    loop: 3, // 循环4次
    rate: audio.AudioRendererRate.RENDER_RATE_NORMAL, // 正常倍速
    leftVolume: 0.5, // range = 0.0-1.0
    rightVolume: 0.5, // range = 0.0-1.0
    priority: 0, // 最低优先级
  }
  uri: string = "";

  aboutToAppear(): void {
    this.create()
  }

  build() {
    Column() {
      Button("SoundPool播放")
        .onClick(() => {
          // this.PlaySoundPool()
          this.soundPool!.play(this.soundId).then(() => {

          }).catch((error: BusinessError) => {
            console.error("play error " + error.message)
          })
        })
    }
    .justifyContent(FlexAlign.Center)
    .width('100%')
    .height('100%')
  }

  async create() {
    //创建soundPool实例
    this.soundPool = await media.createSoundPool(5, this.audioRendererInfo);
    //注册监听
    this.loadCallback();
    this.finishPlayCallback();
    this.setErrorCallback();
    // 加载音频资源
    await fs.open(getContext(this).filesDir + '/02.mp3', fs.OpenMode.READ_ONLY).then((file: fs.File) => {
      console.info("file fd: " + file.fd);
      this.uri = 'fd://' + (file.fd).toString()
    }); // '/02.mp3' 作为样例，使用时需要传入文件对应路径。
    this.soundId = await this.soundPool!.load(this.uri);
  }

  async loadCallback() {
    // 加载完成回调
    this.soundPool!.on('loadComplete', (soundId_: number) => {
      console.info('loadComplete, soundId: ' + soundId_);
    })
  }

  //设置播放完成监听
  async finishPlayCallback() {
    // 播放完成回调
    this.soundPool!.on('playFinished', () => {
      console.info("recive play finished message");
      // 可进行下次播放
    })
  }

  //设置错误类型监听
  setErrorCallback() {
    this.soundPool!.on('error', (error) => {
      console.info('error happened,message is :' + error.message);
    })
  }

  async PlaySoundPool() {
    // // 设置循环播放次数
    // this.soundPool!.setLoop(this.streamId, 2); // 播放3次
    // // 设置对应流的优先级
    // this.soundPool!.setPriority(this.streamId, 1);
    // // 设置音量
    // this.soundPool!.setVolume(this.streamId, 0.5, 0.5);
    // 开始播放,这边play也可带播放播放的参数PlayParameters
    this.streamId = await this.soundPool!.play(this.soundId);

  }

  async release() {
    // 终止指定流的播放
    this.soundPool!.stop(this.streamId);
    // 卸载音频资源
    await this.soundPool!.unload(this.soundId);
    //关闭监听
    this.setOffCallback();
    // 释放SoundPool
    await this.soundPool!.release();
  }

  //关闭监听
  setOffCallback() {
    this.soundPool!.off('loadComplete');
    this.soundPool!.off('playFinished');
    this.soundPool!.off('error');
  }
}

AVRecorder - 音频录制

可通过AVRecorder的state属性，获取当前状态或使用on(‘stateChange’)方法监听状态变化。开发过程中应该严格遵循状态机要求，例如只能在started状态下调用pause()，只能在paused状态下调用resume()。

创建AVRecorder实例，实例创建完成进入idle状态。
设置业务需要的监听事件，监听状态变化及错误上报。
配置音频录制参数，调用prepare()接口，此时进入prepared状态。
开始录制，调用start()接口，此时进入started状态。
暂停录制，调用pause()接口，此时进入paused状态。
恢复录制，调用resume()接口，此时再次进入started状态。
停止录制，调用stop()接口，此时进入stopped状态。

import media from '@ohos.multimedia.media';
import { BusinessError } from '@ohos.base';
import fs from '@ohos.file.fs';
import AVPlayerDemo from '../utils/AVPlayerDemo';
import { abilityAccessCtrl, Permissions } from '@kit.AbilityKit';

@Entry
@Component
struct AVRecorderAudioPage {
  readonly fileName = "03.mp3"
  player = new AudioRecorderDemo(getContext(this), this.fileName)

  aboutToAppear() {
    const permission: Permissions[] = [
      "ohos.permission.MICROPHONE"
    ]
    abilityAccessCtrl
      .createAtManager()
      .requestPermissionsFromUser(getContext(this), permission)
      .then((result) => {
        if (result.authResults.indexOf(-1) === -1) {

        }
      })
  }

  build() {
    Row() {
      Column() {
        Button("开始录制")
          .margin({ bottom: 20 })
          .onClick(() => {
            this.player.startRecordingProcess();
          })
        Button("暂停录制")
          .margin({ bottom: 20 })
          .onClick(() => {
            this.player.pauseRecordingProcess();
          })
        Button("恢复录制")
          .margin({ bottom: 20 })
          .onClick(() => {
            this.player.resumeRecordingProcess();
          })
        Button("停止录制")
          .margin({ bottom: 20 })
          .onClick(() => {
            this.player.stopRecordingProcess();
          })
        Button("播放录音")
          .margin({ bottom: 20 })
          .onClick(() => {
            const playerDemo = new AVPlayerDemo(this.fileName)
            playerDemo.avPlayerUrlDemo()
          })
      }
      .width('100%')
    }
    .height('100%')
  }

  aboutToDisappear(): void {
    this.player.stopRecordingProcess();
  }
}

class AudioRecorderDemo {
  private context: Context
  private fileName: string
  private file?: fs.File
  private avRecorder: media.AVRecorder | undefined = undefined;
  private avProfile: media.AVRecorderProfile = {
    audioBitrate: 100000, // 音频比特率
    audioChannels: 2, // 音频声道数
    audioCodec: media.CodecMimeType.AUDIO_AAC, // 音频编码格式，当前只支持aac
    audioSampleRate: 48000, // 音频采样率
    fileFormat: media.ContainerFormatType.CFT_MPEG_4A, // 封装格式，当前只支持m4a-
  };
  private avConfig: media.AVRecorderConfig = {
    audioSourceType: media.AudioSourceType.AUDIO_SOURCE_TYPE_MIC, // 音频输入源，这里设置为麦克风
    profile: this.avProfile,
    url: 'fd://35', // 参考应用文件访问与管理开发示例新建并读写一个文件
  };

  constructor(context: Context, fileName: string) {
    this.context = context
    this.fileName = fileName
  }

  // 注册audioRecorder回调函数
  setAudioRecorderCallback() {
    if (this.avRecorder != undefined) {
      // 状态机变化回调函数
      this.avRecorder.on('stateChange', (state: media.AVRecorderState, reason: media.StateChangeReason) => {
        console.log(`AudioRecorder current state is ${state}`);
      })
      // 错误上报回调函数
      this.avRecorder.on('error', (err: BusinessError) => {
        console.error(`AudioRecorder failed, code is ${err.code}, message is ${err.message}`);
      })
    }
  }

  // 开始录制对应的流程
  async startRecordingProcess() {
    if (this.avRecorder != undefined) {
      await this.avRecorder.release();
      this.avRecorder = undefined;
    }
    // 1.创建录制实例
    this.avRecorder = await media.createAVRecorder();
    this.setAudioRecorderCallback();
    // 2.获取录制文件fd赋予avConfig里的url；参考FilePicker文档
    this.file = fs.openSync(this.context.filesDir + "/" + this.fileName, fs.OpenMode.READ_WRITE | fs.OpenMode.CREATE)
    this.avConfig.url = "fd://" + this.file.fd
    // 3.配置录制参数完成准备工作
    await this.avRecorder.prepare(this.avConfig);
    // 4.开始录制
    await this.avRecorder.start();
  }

  // 暂停录制对应的流程
  async pauseRecordingProcess() {
    if (this.avRecorder != undefined && this.avRecorder.state === 'started') { // 仅在started状态下调用pause为合理状态切换
      await this.avRecorder.pause();
    }
  }

  // 恢复录制对应的流程
  async resumeRecordingProcess() {
    if (this.avRecorder != undefined && this.avRecorder.state === 'paused') { // 仅在paused状态下调用resume为合理状态切换
      await this.avRecorder.resume();
    }
  }

  // 停止录制对应的流程
  async stopRecordingProcess() {
    if (this.avRecorder != undefined) {
      // 1. 停止录制
      if (this.avRecorder.state === 'started'
        || this.avRecorder.state === 'paused') { // 仅在started或者paused状态下调用stop为合理状态切换
        await this.avRecorder.stop();
      }
      // 2.重置
      await this.avRecorder.reset();
      // 3.释放录制实例
      await this.avRecorder.release();
      this.avRecorder = undefined;
      // 4.关闭录制文件fd
      fs.close(this.file)
    }
  }
}

获取音视频元数据

以获取一个音频资源的元信息为例，讲解AVMetadataExtractor。视频资源元信息获取类似，由于视频没有专辑封面，所以无法获取。

开发步骤

使用createAVMetadataExtractor()创建实例。
设置资源：用户可以根据需要选择设置属性fdSrc（表示文件描述符）, 或者设置属性dataSrc（表示dataSource描述符）。
获取元信息：调用fetchMetadata()，可以获取到一个AVMetadata对象，通过访问该对象的各个属性，可以获取到元信息。
（可选）获取专辑封面：调用fetchAlbumCover()，可以获取到专辑封面。
释放资源：调用release()销毁实例，释放资源。

import media from '@ohos.multimedia.media'
import image from '@ohos.multimedia.image'
import type common from '@ohos.app.ability.common';
import fs from '@ohos.file.fs';

const TAG = 'MetadataDemo'

@Entry
@Component
struct AVMetadataExtractorPage {
  // pixelMap对象声明，用于图片显示
  @State pixelMap: image.PixelMap | undefined = undefined;
  @State title?: string = undefined
  @State artist?: string = undefined
  @State album?: string = undefined
  @State genre?: string = undefined
  @State mimeType?: string = undefined

  build() {
    Row() {
      Column() {
        // Row() {
          Button("FdSrcByCallback")
            .margin({ bottom: 10 })
            .onClick(() => {
              // 设置fdSrc, 获取音频元信息和专辑封面（异步接口以Callback形式调用）
              this.testFetchMetadataFromFdSrcByCallback()
            })
          Button("FdSrcByPromise")
            .margin({ bottom: 10 })
            .onClick(() => {
              // 设置fdSrc, 获取音频元信息和专辑封面（异步接口以Promise形式调用）
              this.testFetchMetadataFromFdSrcByPromise()
            })
          Button("DataSrc")
            .margin({ bottom: 10 })
            .onClick(() => {
              // 设置dataSrc, 获取音频元信息和专辑封面
              this.testFetchMetadataFromDataSrc()
            })
        // }

        Text("标题： " + this.title)
        Text("歌手： " + this.artist)
        Text("专辑： " + this.album)
        Text("曲风： " + this.genre)
        Text("mimeType： " + this.mimeType)

        Image(this.pixelMap).width(300).height(300)
          .margin({
            top: 20
          })
      }
      .width('100%')
    }
    .height('100%')
  }

  // 在以下demo中，使用资源管理接口获取打包在HAP内的媒体资源文件，通过设置fdSrc属性，获取音频元信息并打印，
  // 获取音频专辑封面并通过Image控件显示在屏幕上。该demo以Callback形式进行异步接口调用
  async testFetchMetadataFromFdSrcByCallback() {
    // 创建AVMetadataExtractor对象
    let avMetadataExtractor: media.AVMetadataExtractor = await media.createAVMetadataExtractor()

    // 设置fdSrc
    avMetadataExtractor.fdSrc = await getContext(this).resourceManager.getRawFd('01.mp3');

    // 获取元信息（callback模式）
    avMetadataExtractor.fetchMetadata((error, metadata) => {
      if (error) {
        console.error(TAG, `fetchMetadata callback failed, err = ${JSON.stringify(error)}`)
        return
      }
      console.info(TAG, `fetchMetadata callback success, genre: ${metadata.genre}`)
      this.showMetadata(metadata)
    })

    //获取专辑封面（callback模式）
    avMetadataExtractor.fetchAlbumCover((err, pixelMap) => {
      if (err) {
        console.error(TAG, `fetchAlbumCover callback failed, err = ${JSON.stringify(err)}`)
        return
      }
      this.pixelMap = pixelMap

      // 释放资源（callback模式）
      avMetadataExtractor.release((error) => {
        if (error) {
          console.error(TAG, `release failed, err = ${JSON.stringify(error)}`)
          return
        }
        console.info(TAG, `release success.`)
      })
    })
  }

  // 在以下demo中，使用资源管理接口获取打包在HAP内的媒体资源文件，通过设置fdSrc属性，获取音频元信息并打印，
  // 获取音频专辑封面并通过Image控件显示在屏幕上。该demo以Promise形式进行异步接口调用
  async testFetchMetadataFromFdSrcByPromise() {
    // 创建AVMetadataExtractor对象
    let avMetadataExtractor: media.AVMetadataExtractor = await media.createAVMetadataExtractor()
    // 设置fdSrc
    avMetadataExtractor.fdSrc = await getContext(this).resourceManager.getRawFd('01.mp3');

    // 获取元信息（promise模式）
    let metadata = await avMetadataExtractor.fetchMetadata()
    console.info(TAG, `get meta data, hasAudio: ${metadata.hasAudio}`)
    this.showMetadata(metadata)

    // 获取专辑封面（promise模式）
    this.pixelMap = await avMetadataExtractor.fetchAlbumCover()

    // 释放资源（promise模式）
    avMetadataExtractor.release()
    console.info(TAG, `release success.`)
  }

  // 在以下demo中，使用fs文件系统打开沙箱地址获取媒体文件地址，设置dataSrc属性，获取音频元信息并打印，
  // 获取音频专辑封面并通过Image控件显示在屏幕上。
  async testFetchMetadataFromDataSrc() {
    let context = getContext(this) as common.UIAbilityContext
    // 通过UIAbilityContext获取沙箱地址filesDir（以Stage模型为例）
    let filePath: string = context.filesDir + '/01.mp3';
    let fd: number = fs.openSync(filePath, 0o0).fd;
    let fileSize: number = fs.statSync(filePath).size;
    // 设置dataSrc描述符，通过callback从文件中获取资源，写入buffer中
    let dataSrc: media.AVDataSrcDescriptor = {
      fileSize: fileSize,
      callback: (buffer, len, pos) => {
        if (buffer == undefined || len == undefined || pos == undefined) {
          console.error(TAG, `dataSrc callback param invalid`)
          return -1
        }

        class Option {
          offset: number | undefined = 0;
          length: number | undefined = len;
          position: number | undefined = pos;
        }

        let options = new Option();
        let num = fs.readSync(fd, buffer, options)
        console.info(TAG, 'readAt end, num: ' + num)
        if (num > 0 && fileSize >= pos) {
          return num;
        }
        return -1;
      }
    }

    // 创建AVMetadataExtractor对象
    let avMetadataExtractor = await media.createAVMetadataExtractor()
    // 设置dataSrc
    avMetadataExtractor.dataSrc = dataSrc;

    // 获取元信息（promise模式）
    let metadata = await avMetadataExtractor.fetchMetadata()
    console.info(TAG, `get meta data, mimeType: ${metadata.mimeType}`)
    this.showMetadata(metadata)

    // 获取专辑封面（promise模式）
    this.pixelMap = await avMetadataExtractor.fetchAlbumCover()

    // 释放资源（promise模式）
    avMetadataExtractor.release()
    console.info(TAG, `release data source success.`)
  }

  showMetadata(metadata: media.AVMetadata) {
    this.title = metadata.title
    this.artist = metadata.artist
    this.album = metadata.album
    this.genre = metadata.genre
    this.mimeType = metadata.mimeType
  }
}

视频播放/录制