window平台音视频技术栈简单梳理
音频捕获
CoreAudio
音频前处理
3A, 回音消除, 降噪, 静音检测, 声音特效, 混音等; 对于单向直播,主要是降噪,对于互动直播,需要回音消除。
音频编解码
pcm opus aac flac speex
音频播放
CoreAudio XAudio2 DirectSound waveout
视频捕获
gdi d3d9 dxgi nvfbc directshow mediafoundation 各种hook
视频前处理
美颜, 水印(用于版权保护或者进行广告设置), 滤镜等
视频编码
nvenc amf meidafoundation IntelMediaSDK libx264 libx265 libvpx (h264 h265 vp8 vp9)
视频解码
nvenc amf meidafoundation IntelMediaSDK ffmpeg dxva2 d3d11va
视频渲染
gdi d3d9 dxvahd d3d11 directdraw opengl vulkan d2d
音视频封装
ps ts mp4 mkv。。。
网络传输
rtp/rtcp rtsp rtmp sdp http websocket http-flv http-hls rudp
网络穿透与转发
stun turn ice
音视频框架
ffmpeg ffplay vlc webrtc ijkplayer

浙公网安备 33010602011771号