Fork me on GitHub

【HTML5】Web Audio API打造超炫的音乐可视化效果

HTML5真是太多炫酷的东西了,其中Web Audio API算一个,琢磨着弄了个音乐可视化的demo,先上效果图:

sreenshot

 项目演示:别说话,点我!  源码已经挂到github上了,有兴趣的同学也可以去star或者fork我,源码注释超清楚的哦~~之前看刘大神的文章和源码,感觉其他方面的内容太多了,对初学者来说可能一下子难以抓到Web Audio API的重点,所以我就从一个初学者的角度来给大家说说Web Audio API这些事吧。

 

Web Audio API与HTML5提供的Audio标签并不是同样的东西,他们之间的区别可以自行搜索。简单的说Audio就是一个自带GUI的标签,他对音频的操作还是比较弱的,而Web Audio API则封装了非常多的对音频的操作,功能十分强大。Web Audio API目前还是一个草案,最新版本可以浏览这里:https://www.w3.org/TR/webaudio/,当然还有MDN上面的介绍:https://developer.mozilla.org/en-US/docs/Web/API/Web_Audio_API#Example

注意:由于Web Audio API还是非常新,所以现在浏览器的支持不是非常好,具体兼容性如下:

 

一、整体流程:

一般来说,一个典型的Audio应用的流程都是这样的:

1、创建音频环境(audio Context)

      2、创建音源,可以通过audio标签、文件流等方式

3、创建效果节点,可以是混响、压缩、延迟、增益等效果器、也可以是分析节点。

4、为音频选一个输出,比说说你的扬声器。然后将源、效果器和输出连接起来。

玩过吉他或者贝斯的哥们应该很容易理解了:音频环境就是你整个乐器硬件系统,音源就是你的乐器,效果节点就是各种效果器,当然也需要音箱输出和各种连线了。要对音乐进行处理,最重要的就是效果器节点了。这个项目没有增加其他效果,只用了一个分析节点,用来量化音频信号再关联到图形元素上面,得到可视化效果。

 

二、最简版本代码

 1 <!DOCTYPE html>
 2 <html>
 3     <head>
 4         <meta charset="UTF-8">
 5         <title>简单测试</title>
 6     </head>
 7     <body>
 8         <canvas id="myCanvas" width="400" height="400">您的浏览器不支持canvas标签</canvas>
 9         <audio id="myAudio" src="simplelove.mp3" controls="controls" >您的浏览器不支持audio标签</audio>
10         <script type="text/javascript">
11         window.onload = function () {
12             try {
13                 var audioCtx = new (window.AudioContext ||window.webkitAudioContext)();
14             } catch (err) {
15                 alert('!Your browser does not support Web Audio API!');
16             };
17             var myCanvas = document.getElementById('myCanvas'),
18                 canvasCtx = myCanvas.getContext("2d"),
19                 myAudio = document.getElementById("myAudio"),
20                 source = audioCtx.createMediaElementSource(myAudio),
21                 analyser = audioCtx.createAnalyser();
22             source.connect(analyser);
23             analyser.connect(audioCtx.destination);
24             myAudio.oncanplaythrough = function draw () {
25                 var cwidth = myCanvas.width,
26                     cheight = myCanvas.height,
27                     array = new Uint8Array(128);
28                 analyser.getByteFrequencyData(array);
29                 canvasCtx.clearRect(0, 0, cwidth, cheight);
30                 for (var i = 0; i < array.length; i++) {
31                     canvasCtx.fillRect(i * 3, cheight - array[i], 2, cheight);
32                 }
33                 requestAnimationFrame(draw);
34             };
35         };
36         </script>
37     </body>
38 </html>

这个是最精简的版本,相信可以帮助大家快速理解整个流程,但是需要注意的是这个版本不兼容移动端。 

 

三、关键代码分析 

1、创建音频环境(audio Context)

创建音频环境非常简单,但是要考虑到浏览器兼容问题,需要用一个或语句来兼容不同浏览器。另外,对于不支持AudioContext的浏览器,还需要加一个try catch来避免报错。

try {
  var audioCtx = new (window.AudioContext ||window.webkitAudioContext)();
} catch (err) {
  alert('!Your browser does not support Web Audio API!');
};

2、创建音源

创建音源的方法有以下几种: 

1) 直接从HTML的video/audio元素中获取,使用的方法为AudioContext.createMediaElementSource().

var source = audioCtx.createMediaElementSource(myMediaElement); //myMediaElement可以是页面中的元素,也可以是用new创建的audio/video对象 

注意:由于audio标签在移动端还有相当多的坑,大家可以搜索一下,避免踩坑哈!如果不考虑移动端的话,最简单的办法就是这种啦。

2) 从原始的PCM数据中创建音源,方法有AudioContext.createBuffer(),AudioContext.createBufferSource(), 和AudioContext.decodeAudioData(). 这里可以分成从网络中获取或者从本地文件中选择两种方式,关键代码如下。

var source = audioCtx.createBufferSource();  //创建一个空的音源,一般使用该方式,后续将解码的缓冲数据放入source中,直接对source操作。
// var buffer = audioCtx.createBuffer(2, 22050, 44100);  //创建一个双通道、22050帧,44.1k采样率的缓冲数据。
audioCtx.decodeAudioData(audioData, function(buffer) {
    source.buffer = buffer; //将解码出来的数据放入source中
    //其他操作
}, function(err){ 
  alert('!Fail to decode the file!');   //解码出错处理
});

 网络获取方式,需要开一个Ajax异步请求来获取文件,并且设置请求返回类型为'ArrayBuffer',代码如下:

// use XHR to load an audio track, and
// decodeAudioData to decode it and stick it in a buffer.
// Then we put the buffer into the source
function getData() {
var request = new XMLHttpRequest();  //开一个请求
    request.open('GET', url, true);    //往url请求数据
    request.responseType = 'arraybuffer';  //设置返回数据类型
    request.onload = function() {
        var audioData = request.response;
        //数据缓冲完成之后,进行解码
        audioCtx.decodeAudioData(audioData, function(buffer) {
            source.buffer = buffer;  //将解码出来的数据放入source中
            //进行数据处理
        }, function(err) {
       alert(‘!Fail to decode the file!’);   //解码出错处理
     });
    };
    request.send();
}

 本地获取的话需要通过文件类型的input标签来进行文件选择,监听input的onchnage事件,一担文件选中便开始在代码中进行文件读入,此处用到file reader来读取文件,同样的读取结果的数据类型也设置为'ArrayBuffer'。我的项目使用了file reader本地读取的办法,兼顾移动端。

var audioInput = document.getElementById("uploader"); //HTML语句:<input type="file" id="uploader" />
audioInput.onchange = function() {
  //文件长度不为0则真的选中了文件,因为用户点击取消也会触发onchange事件。
  if (audioInput.files.length !== 0) {
    files = audioInput.files[0]; //得到用户选取的文件
    //文件选定之后,马上用FileReader进行读入
    fr = new FileReader();
    fr.onload = function(e) {
      var fileResult = e.target.result;
      //文件读入完成,进行解码
      audioCtx.decodeAudioData(fileResult, function(buffer) {
        source.buffer = buffer;//将解码出来的数据放入source中
        //转到播放和分析环节          

          }, function(err) {
        alert('!Fail to decode the file'); //解码出错
      });
    };
    fr.onerror = function(err) {
      alert('!Fail to read the file');    //文件读入出错
    };
    fr.readAsArrayBuffer(rfile); //同样的,ArrayBuffer方式读取
  }
};

3、创建效果节点,选择输出并将源、效果器和输出连接起来。

前面也说过了,效果有非常多种,本文是建立分析节点。这里的连接是音源>>分析节点>>输出,为什么不直接将音源和输出连接起来呢?其实也可以直连,但因为分析节点需要做一定的处理,如果直接将音源和输出连接的话会有一定的延迟。另外,这里定义了一个status参数,用来指示状态值。最后的启动有两种写法,有兴趣的同学再去MDN上查查吧。

var status = 0,   //状态,播放中:1,停止:0
  arraySize = 128,    //可以得到128组频率值
    analyser = audioCtx.createAnalyser();     //创建分析节点
source.connect(analyser);        //将音源和分析节点连接在一起
analyser.connect(audioCtx.destination);        //将分析节点和输出连接在一起
source.start(0);  //启动音源
status = 1;  //更改音频状态

4、可视化绘图

为了得到可视化效果,还需要对分析节点做一个傅里叶变换将信号从时域转到频域中,此处原理省略一万字。。。有兴趣的同学可以去看看信号处理相关的书籍。但是,这么难得的装逼机会,我舍不得呀!看不惯的同学可以跳过,也可以微信转账给我(什么鬼。。。)。

项目中getByteFrequencyData(array)这个函数来获取所需频率的能量值,其中array数组的长度为频率的个数。有看过资料的同学会发现这里很多时候用的是analyser.frequencyBinCount和analyser.fftsize两个值,其中analyser.fftsize是快速傅立叶变换(FFT)用于频域分析的尺寸,默认为2048。analyser.frequencyBinCount是fftsize的一半,这里我不需要那么多组数据,所以自定义了一个长度为128的8位无符号整形数组(谭浩强C语言后遗症,勿怪)。另外需要注意的是频率值的范围,是0到255,如果需要精度更高的值,可以使用AnalyserNode.getFloatFrequencyData()得到32位浮点数。经过上面的得到了这些值之后,我们就可以用它来跟某些视觉元素关联起来,比如说常见的柱状频谱的高度、圆的半径、线条的密度等等。我的项目里面采用的是能量球的方式。

var canvas = document.getElementById('drawCanvas'),
    ctx = canvas.getContext('2d'),
    cwidth = canvas.width,
    cheight = canvas.height,
    visualizer = [],    //可视化形状
    animationId = null;
var random = function(m, n) {
    return Math.round(Math.random() * (n - m) + m);  //返回m~n之间的随机数
};
for (var i = 0; i < num; i++) {
    var x = random(0, cwidth),
        y = random(0, cheight),
        color = "rgba(" + random(0, 255) + "," + random(0, 255) + "," + random(0, 255) + ",0)";  //随机化颜色
    visualizer.push({
        x: x,
        y: y,
        dy: Math.random() + 0.1,   //保证dy>0.1
        color: color,
        radius: 30  //能量球初始化半径
    });
}

var draw = function() {
    var array = new Uint8Array(128);  //创建频率数组
    analyser.getByteFrequencyData(array);  //分析频率信息,结果返回到array数组中,频率值范围:0~255
    if (status === 0) {
        //array数组归零,有时候音频播完了但是频率值还残留着,这时候需要强制清零
        for (var i = array.length - 1; i >= 0; i--) {
            array[i] = 0;
        };
        var allBallstoZero = true;  //能量球归零
        for (var i = that.visualizer.length - 1; i >= 0; i--) {
            allBallstoZero = allBallstoZero && (visualizer[i].radius < 1);
        };
        if (allBallstoZero) {
            cancelAnimationFrame(animationId);   //结束动画
            return;
        };
    };
    ctx.clearRect(0, 0, cwidth, cheight);
    for (var n = 0; n < array.length; n++) {
        var s = visualizer[n];
        s.radius = Math.round(array[n] / 256 * (cwidth > cheight ? cwidth / 25 : cheight / 18));  //控制能量球大小与画布大小的比例
        var gradient = ctx.createRadialGradient(s.x, s.y, 0, s.x, s.y, s.radius);  //创建能量球的渐变样式
        gradient.addColorStop(0, "#fff");
        gradient.addColorStop(0.5, "#D2BEC0");
        gradient.addColorStop(0.75, s.color.substring(0, s.color.lastIndexOf(",")) + ",0.4)");
        gradient.addColorStop(1, s.color);
        ctx.fillStyle = gradient;
        ctx.beginPath();
        ctx.arc(s.x, s.y, s.radius, 0, Math.PI * 2, true);  //画一个能量球
        ctx.fill();
        s.y = s.y - 2 * s.dy;  //能量球向上移动
        if ((s.y <= 0) && (status != 0)) {  //到画布顶端的时候重置s.y,随机化s.x
            s.y = cheight;  
            s.x = random(0, cwidth);
        }
    }
    animationId = requestAnimationFrame(draw);  //动画
};

5、其他

音频播完:

source.onended = function() {
    status = 0;  //更改播放状态
};

自适应方面,在window的onload和onresize调整canvas尺寸,但重点不在这里。重点是能量球的大小如何跟随画布大小调节,因为动画在进行中,所以最好的方案也是在动画中动态改变,所以上段代码中的cwidth和cheight的赋值应该放在绘图动画中。

var canvas = document.getElementById('drawCanvas');
canvas.width = window.clientWidth
           || document.documentElement.clientWidth
               || document.body.clientWidth;
canvas.height = window.clientHeight
               || document.documentElement.clientHeight
               || document.body.clientHeight;

增加点小玩法:鼠标捕捉能量球,鼠标进入能量球内的时候就捕捉到能量球,并要保持移动才能持续抓紧能量球

//鼠标捕捉能量球
canvas.onmousemove = function (e) {
    if (status != 0) {
        for (var n = 0; n < visualizer.length; n++) {
            var s = visualizer[n];
            if (Math.sqrt(Math.pow(s.x-e.pageX,2) + Math.pow(s.y-e.pageY,2)) < s.radius) {
                s.x = e.pageX;
                s.y = e.pageY;
            }
        }
    }
};

最后说说非常重要的代码规范!

上述代码只是为了简化关系突出流程而改写的代码,并不符合代码规范。为了更好地进行编码,我们应该创建一个全局对象,把上述所有相关属性及方法写到其中。全局对象不但可以方便管理,而且在chrome中调试的时候,可以直接在控制台中查看并编辑,调试起来非常方便。按照惯例,对象的属性直接写在构造器里,对象的方法写到原型中方便日后扩展继承。对象内部使用的私有方法还有私有属性以短横线开头,也是从封装的角度考虑的。

 

这篇文章主要是参考了刘哇勇的博文和代码(下2),后来查看MDN的时候发现了下1的更通俗简单的版本,都是大力推荐!写文章真不容易,首先是思路重新整理,然后是材料的收集,代码的增减,工作量真心大。写作不易,赶紧点赞哈~

Reference:

1、Visualizations with Web Audio API(官方原版,强力推荐)   https://developer.mozilla.org/en-US/docs/Web/API/Web_Audio_API/Visualizations_with_Web_Audio_API

2、开大你的音响,感受HTML5 Audio API带来的视听盛宴  http://www.cnblogs.com/Wayou/p/html5_audio_api_visualizer.html

posted @ 2016-04-19 00:20  茄果  阅读(15611)  评论(7编辑  收藏  举报