发版说明
- C++
- C#
v4.5.0
该版本于 2024 年 11 月 26 日发布。
该版本对部分功能的实现方式进行了优化,涉及 SDK 的行为变更、API 的改名或删除,为确保项目的正常运行,你需要在升级到该版本后更新 App 中的代码。
自 4.5.0 起,RTC SDK 和 RTM SDK (2.2.0 及以上版本) 都包含 libaosl.dll
库。如果你通过 CDN 手动集成 RTC SDK 且同时集成了 RTM SDK,为避免冲突,请手动删除版本较低的 libaosl.dll
库。4.5.0 RTC SDK libaosl.dll
库版本为 1.2.13。你可以通过查看 libaosl.dll
文件的属性来得知库的版本信息。
为提升各框架对 Native SDK 的适配性,该版本对一些 API 中的成员或参数做了如下修改:
API | 成员/参数 | 变更 |
---|---|---|
startScreenCaptureByDisplayId | displayId | 由 uint32_t 型变更为 int64_t 型 |
startScreenCaptureByWindowId | windowId | 由 view_t 型变更为 int64_t 型 |
ScreenCaptureConfiguration |
|
|
ScreenCaptureSourceInfo |
|
|
该版本调整了强效视频降噪的实现方式,在 VIDEO_DENOISER_LEVEL
中删除了 VIDEO_DENOISER_LEVEL_STRENGTH
,改为调用 setVideoDenoiserOptions
启用视频降噪后,调用 setBeautyEffectOptions
方法启用美颜磨皮功能,二者搭配使用以获得更好的视频降噪效果。实现强效降噪时,推荐磨皮参数设置详见 setVideoDenoiserOptions
。
此外,受该调整影响,实现画质优先的暗光增强效果时,需要先开启视频降噪并采用特定设置,详见 setLowlightEnhanceOptions
。
在之前版本中,当摄像头拔出并重新插入时,onVideoDeviceStateChanged
回调会将设备状态报告为 MEDIA_DEVICE_STATE_ACTIVE
(1)(设备正在使用)。该版本起,摄像头重新插入后,设备状态将改为 MEDIA_DEVICE_STATE_IDLE
(0)(设备就绪)。
为提升用户的视频互动体验,该版本优化了视频编码时的默认偏好:
- 在
COMPRESSION_PREFERENCE
枚举类中新增PREFER_COMPRESSION_AUTO
(-1) 枚举,并替代原有的PREFER_QUALITY
(1) 作为默认值。在该模式下,SDK 会根据你设置的视频场景,自动选择PREFER_LOW_LATENCY
或PREFER_QUALITY
,以获得最佳的用户体验。 - 在
DEGRADATION_PREFERENCE
枚举类中新增MAINTAIN_AUTO
(-1) 枚举,并替代原有的MAINTAIN_QUALITY
(1) 作为默认值。在该模式下,SDK 会根据你设置的视频场景,自动选择MAINTAIN_FRAMERATE
、MAINTAIN_BALANCED
或MAINTAIN_RESOLUTION
,以获得最优的综合质量体验 (QoE)。
该版本新增以下两种高级美颜功能:
- 美型:调用
setFaceShapeBeautyOptions
方法,可对人脸各部位进行修饰,你可以使用预设的模板一次性实现瘦脸、大眼、瘦鼻等微整形效果,并微调整体的修饰力度。如果预设的美型效果不能满足你的需求,你可以调用setFaceShapeAreaOptions
方法设置美型部位选项,对人脸的各个部位单独微调,实现更加精细的美型效果。 - 美妆:调用
setExtensionProperty
方法,传入指定参数,可实现眼影、美瞳、眼线、美眉、唇彩、腮红等美妆特效。
有关美型和美妆的实现步骤,详见实现高级美颜。
目前,高级美颜功能为限时免费,详见计费策略。
该版本在 VIDEO_APPLICATION_SCENARIO_TYPE
类下新增枚举 APPLICATION_SCENARIO_LIVESHOW
(3)(秀场直播),你可以调用 setVideoScenario
将视频业务场景设置为秀场直播。针对该场景对首帧出图时间和画质清晰度的高要求,SDK 进行了策略调优,例如,默认开启音视频帧加速渲染来提升首帧出图体验,无需再额外调用 enableInstantMediaRendering
,此外,也增强了在弱网环境和低端设备上的画质和流畅度表现。
该版本新增 setLocalRenderTargetFps
和 setRemoteRenderTargetFps
方法,支持设置视频在本地和远端渲染时的最大帧率,SDK 进行视频渲染的实际帧率会尽量接近该值。
在对视频渲染帧率要求不高的场景(例如:屏幕共享、在线教育)或者远端使用中低端设备的场景下,你可以通过这一组方法限制视频渲染帧率,从而减小 CPU 消耗、提升系统性能。
URL 拉流播放功能主要用于直播场景,观众端可以直接通过 OpenWithUrl
打开特定的 URL 来播放实时媒体流,无需加入频道、订阅等步骤,极大简化了观众端观看直播流的 API 调用。
在播放的过程中,观众端可以通过 SetAbrSubscriptionLayer
设置订阅视频大小流,并可以在大小流之间实现平滑切换。如果对视频体验有更高要求,可以联系联系技术支持开通 ABR(Adaptive Bitrate,自适应码率)功能。启用该功能后,可以自定义不同层级的视频流分辨率,观众可以实现不同分辨率视频流的平滑切换。
当网络情况不稳定时,观众端可以调用 SetAbrFallbackLayer
来设置订阅的视频流的回退选项。SDK 会以你指定的最低质量层级对应的视频流分辨率为下限,在此范围内根据网络状况动态调整分辨率。
该版本新增 setFilterEffectOptions
方法,你可以在 config 参数中传入指定格式的立方体贴图文件 (.cube),从而实现美白、鲜艳、冷色、黑白等自定义滤镜效果。此外,SDK 提供了一个内置的 built_in_whiten_filter.cube
文件,用于快速实现美白滤镜效果。
该版本新增本地音频合流功能,你可以调用 startLocalAudioMixer
方法,将本地麦克风采集的音频流、媒体播放器中的音频流、声卡采集的音频流、远端音频流等合并为一路音频流,你可以将合并后的音频流发布到频道中。不再需要音频合流时,你可以调用 stopLocalAudioMixer
方法停止本地音频合流;在合流过程中,可以调用 updateLocalAudioMixerConfiguration
方法更新正在合流的音频流配置。
该功能的使用场景示例如下:
- 结合本地合图功能一起使用,可将合图视频流相关的音频流同步采集和发布。
- 在直播场景下,用户接收频道内的音频流,在本地进行多路音频流合流后转发到其他频道。
- 在教育场景下,老师可将跟学生连麦互动的音频在本地进行合流,然后将合并的音频流转发到其他频道。
该版本在 VideoFrame
和 ExternalVideoFrame
中新增了 colorSpace,你可以通过该参数设置视频帧的色彩空间属性。默认情况下,色彩空间采用 Full Range 和 BT.709 标准配置,你可以根据自采集或自渲染的需求灵活调整,进一步提升视频处理的定制化能力。
onLocalVideoStateChanged
回调新增LOCAL_VIDEO_STREAM_REASON_DEVICE_DISCONNECTED
枚举,表示当前正在使用的视频采集设备已经断开连接(例如,被拔出)。MEDIA_DEVICE_STATE_TYPE
新增MEDIA_DEVICE_STATE_PLUGGED_IN
枚举,表示设备已插入。
该版本升级了虚拟背景的算法,分割人像主体部分与背景时更加准确,背景无露出,人像身体轮廓无缺块,手指细节辨识显著提高。同时,人像与背景的边缘更加稳定,减少了连续视频帧中人像边缘的跳变和闪烁现象。
该版本在 RecorderStreamInfo
中新增 type 成员。当调用 createMediaRecorder
时,可通过该成员指定录制的视频流类型为本地预览视频流,并在 MediaRecorderConfiguration
中设置录制预览视频的高、宽、帧率、采样率等参数,之后调用 startRecording
即可开始录制本地预览的视频。
该版本新增 takeSnapshot
[2/2] 和 takeSnapshotEx
[2/2] 方法,你可以在调用该方法时通过 config 参数,在指定的视频观测点进行截图,比如:编码前、编码后或渲染前的数据,以实现更加灵活的截图效果。
该版本在 AudioTrackConfig
中新增了 enableAudioProcessing
成员参数,用于控制是否对 AUDIO_TRACK_DIRECT
类型的自定义音频采集轨道启用 3A 音频处理。该参数默认值为 false
,即不启用音频处理,用户可以按需开启,此项改动提升了自定义音频处理的灵活性。
- 优化了调用
queryDeviceScore
获取设备评分等级的设计逻辑,提升了等级评分结果的准确性。 - 支持使用 YV 12 格式的虚拟摄像头作为视频采集设备。
- 调用
switchSrc
切换不同分辨率的直播流或点播流时,可以实现平滑且无感知的切换效果,并在切换失败时新增自动重试机制。SDK 会在切换失败后自动重试 3 次,如果依旧失败,会通过onPlayerEvent
回调报告PLAYER_EVENT_SWITCH_ERROR
事件,表示媒体资源切换时发生错误。 - 调用
setPlaybackSpeed
设置音频文件的播放速度时,最低支持 0.3 倍速播放。
该版本修复了以下问题:
- 调用
startScreenCaptureByWindowId
共享屏幕时,通过 regionRect 指定的窗口采集区域不准确,导致接收端看到的屏幕共享窗口宽高错误。 - Windows 7 系统下进行音视频互动,偶现找不到系统文件的报错。
- 调用
followSystemRecordingDevice
或followSystemPlaybackDevice
设置 SDK 使用的音频采集或播放设备不跟随系统默认的音频播放设备,当音频设备被移除时,本地音频状态回调onLocalAudioStateChanged
没有被触发,不符合预期。 - 调用
startAudioMixing
[1/2] 后,立即调用pauseAudioMixing
暂停播放音乐文件不生效。
v4.4.0
该版本于 2024 年 8 月 5 日发布。
该版本对部分功能的实现方式进行了优化,包括 SDK 的行为变更、API 的改名或删除,为确保项目的正常运行,你需要在升级到该版本后更新 App 中的代码。
自 v4.4.0 起,RTC SDK 提供 API 下架说明,包含各版本废弃及删除的 API 信息。详见 API 下架说明。
-
为区分不同插件回调中的上下文信息,该版本将原有的插件相关回调删除并新增可标识插件上下文信息的对应回调(见下表),你可以通过各回调中的
ExtensionContext
了解插件的名称、使用该插件的用户 ID、和提供插件的服务商名等信息。原有回调 现有回调 onExtensionEvent
onExtensionEventWithContext
onExtensionStarted
onExtensionStartedWithContext
onExtensionStopped
onExtensionStoppedWithContext
onExtensionError
onExtensionErrorWithContext
-
该版本修改了
ExternalVideoFrame
中的以下成员名称:d3d11_texture_2d
更名为d3d11Texture2d
。texture_slice_index
更名为textureSliceIndex
。metadata_buffer
更名为metadataBuffer
。metadata_size
更名为metadataSize
。
该版本新增 Alpha 透明特效功能,支持在 SDK 采集和自定义采集视频的场景下,在发送端发布视频帧的 Alpha 通道、在接收端对 Alpha 通道进行渲染处理,实现透明礼物特效、接收端自定义主播背景等:
VideoFrame
和ExternalVideoFrame
中新增alphaBuffer
:设置 Alpha 通道数据。ExternalVideoFrame
中新增fillAlphaBuffer
:对于 BGRA 或 RGBA 格式的视频数据,设置是否自动提取 Alpha 通道数据并填入到alphaBuffer
中。VideoFrame
和ExternalVideoFrame
中新增alphaStitchMode
:设置alphaBuffer
和视频帧拼接的相对位置。
另外,AdvanceOptions
中新增成员 encodeAlpha
,用于设置是否将 Alpha 信息编码并发送到远端。SDK 默认不对 Alpha 信息进行编码发送;如果需要对 Alpha 信息编码发送至远端(例如开启了虚拟背景功能),请显式调用 setVideoEncoderConfiguration
设置视频编码属性,并将 encodeAlpha
设置为 true
。
如需了解在各场景下实现 Alpha 特效的最佳实践,详见实现 Alpha 透明特效。
该版本新增 AI 调音器功能,可以实现类似物理声卡对音质和音色的提升。你可以通过调用 enableVoiceAITuner
方法并传入 VOICE_AI_TUNER_TYPE
枚举中支持的音效类型来启用 AI 调音器功能,实现大叔音、萝莉音、烟嗓歌声等声音效果。
该版本在 VIDEO_APPLICATION_SCENARIO_TYPE
类下新增枚举 APPLICATION_SCENARIO_1V1
(1v1 视频通话)。你可以调用 setVideoScenario
将视频业务场景设置为 1v1 视频通话,针对该场景低延迟、高画质的体验要求,SDK 进行了策略调优,提升了画质、首帧出图、中低端机延迟及弱网流畅度等性能表现。
该版本新增自适应硬解支持,改进了低端机的渲染流畅性,有效降低系统负载。
Windows 设备上默认启用 DirectX 11 渲染器,可提供高性能、高质量的图形渲染能力。
为了避免磨皮美颜程度较高时丢失非脸部区域的细节,该版本改进了磨皮美颜效果的实现算法。磨皮美颜现在会识别人脸的各个部位,应用在除嘴巴、眼睛和眉毛之外的人脸皮肤区域,且支持最多同时对两张人脸磨皮。
该版本还进行了如下改进:
- 优化了传输策略,调用
enableInstantMediaRendering
不再对传输链路的安全性产生影响。 onLocalVideoStateChanged
回调中新增LOCAL_VIDEO_STREAM_REASON_SCREEN_CAPTURE_DISPLAY_DISCONNECTED
枚举,表示进行屏幕采集的显示器已断开连接。- 优化了屏幕共享场景下的回声消除。
- 该版本在
Metadata
中新增channelId
参数,用于获取发送 Metadata 的源频道名称。 - 废弃了
CLIENT_ROLE_CHANGE_FAILED_REASON
中的冗余枚举值CLIENT_ROLE_CHANGE_FAILED_REQUEST_TIME_OUT
、CLIENT_ROLE_CHANGE_FAILED_CONNECTION_FAILED
。
v4.3.2
该版本于 2024 年 6 月 4 日发布。
提升了 setRemoteSubscribeFallbackOption
方法的易用性,取消了调用时序要求,即:在加入频道前后,均可调用 setRemoteSubscribeFallbackOption
动态切换弱网环境下的音视频流回退选项。
该版本修复了以下问题:
- 音视频互动过程中偶现视频流畅度不佳。
- 接收端 App 解码后的视频分辨率为奇数时偶现 App 崩溃。
- 远端用户离开频道时偶现崩溃。
- 调用
startScreenCaptureByWindowId
共享 PPT 窗口,当 PPT 播放动画画面时,接收端偶现画面闪烁。 - 在 Windows 7 系统上调用
startScreenCaptureByWindowId
共享 WPS PPT 窗口,并设置ScreenCaptureParameters
的enableHighLight
为true
开启窗口描边,放映该 PPT 后退出放映,之后选择最大化 PPT 窗口,窗口描边没有保留原始窗口大小,不符合预期。 - 调用
startScreenCaptureByWindowId
共享窗口,并设置ScreenCaptureParameters
的windowFocus
和enableHighLight
为true
以前置指定窗口并开启窗口描边,如果当前该窗口被其他窗口覆盖,无法前置该窗口,不符合预期。 - 在 Windows 7 设备上共享窗口并对窗口描边时,点击桌面控件导致描边部分闪烁。
v4.3.1
该版本于 2024 年 4 月 29 日发布。
该版本在 EncryptionConfig
中新增 datastreamEncryptionEnabled
成员用于启用数据流加密。你可以在调用 enableEncryption
开启加密时来进行设置。如果在数据流加密或解密的过程中遇到问题导致失败,你可以通过新增的 ENCRYPTION_ERROR_DATASTREAM_DECRYPTION_FAILURE
和 ENCRYPTION_ERROR_DATASTREAM_ENCRYPTION_FAILURE
枚举得知。
该版本新增视频小流的自适应配置功能,当你调用 setDualStreamMode
[2/2] 在发送端设置双流模式并设置视频小流时,SDK 的默认行为如下所示:
- 将视频小流的默认编码分辨率设为原始视频编码分辨率的 50%。
- 视频小流的码率根据视频分辨率和帧率自动匹配,无需指定。
- 新增
enableEncryptionEx
方法,用于多频道场景下开启媒体流或数据流加密。 - 新增
setAudioMixingPlaybackSpeed
方法,用于设置音乐文件的播放速度。 - 新增
getCallIdEx
方法,用于多频道场景下获取通话 ID。
该版本对屏幕共享的游戏场景进行了专项优化,在超高清(4K, 60 fps)游戏场景下提升了性能表现,增强了窗口采集的稳定性,为游戏玩家带来更清晰、流畅、稳定的游戏体验。
为了提高纯色背景下开启虚拟背景时人像分割的精确度和稳定性,该版本优化了绿幕分割算法:
- 支持识别任意纯色背景,不再局限于绿幕。
- 对背景颜色的识别更加准确,并且在分割人像时露出的背景更少。
- 分割后的人像边缘(尤其是手指边缘)更加稳定,显著减少边缘的画面闪动现象。
该版本在 EAR_MONITORING_FILTER_TYPE
中新增 EAR_MONITORING_FILTER_REUSE_POST_PROCESSING_FILTER
(1<<15) 枚举。针对复杂的音效处理场景,你可以指定该选项,复用发送端音效处理后的 Audio filter,从而降低 CPU 的消耗。需要注意的是该选项会导致耳返延迟增加,适用于对耳返延迟不敏感的使用场景。
该版本还进行了如下改进:
- 优化了非屏幕共享场景的视频编解码策略,节省系统性能开销。
- 优化了媒体播放器对 WebM 格式视频的处理能力,支持渲染 Alpha 通道。
- 在
AUDIO_EFFECT_PRESET
中新增ROOM_ACOUSTICS_CHORUS
(合唱音效),可使人声在合唱场景下更具空间立体感。 - 在
RemoteAudioStats
中新增e2eDelay
,用于报告从发送端采集音频起,到接收端开始播放音频时的延时。
该版本修复了以下问题:
- 使用媒体播放器播放包含 SEI 数据的媒体流时,SEI 数据的输出与视频渲染不同步。
- 屏幕共享场景中,App 调用
enableLoopbackRecording
开启声卡采集功能采集共享屏幕的音频,本地用户手动禁用本地音频采集设备后,声卡采集的音频发送失败,远端用户听不见共享屏幕的声音。 - 用户插拔一次蓝牙或有线耳机,音频状态改变回调
onAudioDeviceStateChanged
会触发多次。 - 在音视频互动过程中,本地用户调用
setDevice
设置系统默认播放设备为扬声器后,听远端无声。 - 在共享 Excel 文档窗口时,偶现远端用户看到的画面出现绿屏。
- 在使用 Intel 显卡的设备上发布视频小流偶现性能回退。
- 当发送端用户的网络环境恶化(例如弱网)时,接收端偶现视频流畅度降低、卡顿增加。
EncryptionConfig
中新增datastreamEncryptionEnabled
ENCRYPTION_ERROR_TYPE
中新增如下枚举:ENCRYPTION_ERROR_DATASTREAM_DECRYPTION_FAILURE
ENCRYPTION_ERROR_DATASTREAM_ENCRYPTION_FAILURE
RemoteAudioStats
新增e2eDelay
ERROR_CODE_TYPE
新增ERR_DATASTREAM_DECRYPTION_FAILED
AUDIO_EFFECT_PRESET
新增ROOM_ACOUSTICS_CHORUS
getCallIdEx
enableEncryptionEx
setAudioMixingPlaybackSpeed
EAR_MONITORING_FILTER_TYPE
新增枚举EAR_MONITORING_FILTER_BUILT_IN_AUDIO_FILTERS
(1<<15)
v4.3.0
该版本于 2024 年 2 月 22 日发布。
该版本对部分功能的实现方式进行了优化,涉及一些 API 的改名、删除或行为变更,为确保项目的正常运行,你需要在升级到该版本后更新 App 中的代码。
回调 | 原有参数名 | 现有参数名 |
---|---|---|
onLocalAudioStateChanged | error | reason |
onLocalAudioStateChanged | error | reason |
onDirectCdnStreamingStateChanged | error | reason |
onPlayerSourceStateChanged | ec | reason |
onRtmpStreamingStateChanged | errCode | reason |
原有枚举类 | 现有枚举类 |
---|---|
LOCAL_AUDIO_STREAM_ERROR | LOCAL_AUDIO_STREAM_REASON |
LOCAL_VIDEO_STREAM_ERROR | LOCAL_VIDEO_STREAM_REASON |
DIRECT_CDN_STREAMING_ERROR | DIRECT_CDN_STREAMING_REASON |
MEDIA_PLAYER_ERROR | MEDIA_PLAYER_REASON |
RTMP_STREAM_PUBLISH_ERROR | RTMP_STREAM_PUBLISH_REASON |
为了使一些回调中的参数以及枚举类中的枚举命名更加便于理解,该版本进行了如下修改,请在升级到该版本后修改回调中的参数设置。
注: 有关具体枚举的改名详见 API 变更。
为提升接口易用性,该版本删除了部分跨频道媒体流转发的方法和回调,请改用下表中列出的替代选项:
已删除的方法和回调 | 替代的方法和回调 |
---|---|
startChannelMediaRelay updateChannelMediaRelay | startOrUpdateChannelMediaRelay |
startChannelMediaRelayEx updateChannelMediaRelayEx | startOrUpdateChannelMediaRelayEx |
onChannelMediaRelayEvent CHANNEL_MEDIA_RELAY_EVENT | onChannelMediaRelayStateChanged |
该版本对 LOCAL_VIDEO_STREAM_REASON
枚举类中的枚举进行了如下修改:
LOCAL_VIDEO_STREAM_REASON_SCREEN_CAPTURE_PAUSED
(原LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_PAUSED
)的值从 23 变更为 28。LOCAL_VIDEO_STREAM_REASON_SCREEN_CAPTURE_RESUMED
(原LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_RESUMED
)的值从 24 变更为 29。LOCAL_VIDEO_STREAM_ERROR_CODEC_NOT_SUPPORT
的枚举名变更为LOCAL_VIDEO_STREAM_REASON_CODEC_NOT_SUPPORT
。
- 在 v4.3.0 之前,当你调用
disableAudio
关闭整个音频模块后,声卡采集功能不会被关闭。 - 从 v4.3.0 起,当你调用
disableAudio
关闭音频模块后,声卡采集功能也会被关闭,如果你需要再次启用声卡采集功能,需要在调用enableAudio
启用音频模块后再次调用enableLoopbackRecording
。
- 如果需要得知 API 的调用情况,请查看 API 的日志并自行打印 SDK 回调日志。
- 如有其他特殊需求,请联系技术支持并附上对应的加密日志。
该版本支持在本地预览同时预览多个画面、且画面中显示的视频分别处于视频链路上的不同观测位置。使用方式举例如下:
- 调用
setupLocalVideo
设置第一个视图:在VideoCanvas
中设置position
参数为POSITION_POST_CAPTURER_ORIGIN
(该枚举为该版本新增),对应本地采集视频之后、前处理之前的位置,此处观测到的视频不具备前处理的效果。 - 调用
setupLocalVideo
设置第二个视图:在VideoCanvas
中设置position
参数为POSITION_POST_CAPTURER
,此处观测到的视频具备视频前处理的效果。 - 观察本地预览效果:视图一为真人原始视频;视图二为经过视频前处理的虚拟人像(包括美颜、虚拟背景、水印本地预览)效果。
该版本新增 queryDeviceScore
方法,用于查询设备的评分等级,以保证用户设置的参数不会超出其设备能力。例如,在高清或超高清视频场景下,可以先调用该方法查询设备的等级评分,如果返回的评分较低(比如低于 60),则需要适当调低视频分辨率,以避免影响视频体验。不同业务场景要求的最低设备评分等级不同,具体评分推荐请联系技术支持。
该版本新增 selectMultiAudioTrack
方法,支持分别设置本地播放和发送至远端的音轨。在 K 歌等场景下,主播可以根据需求选择在本地播放一路音轨(如原声),然后发送另一路音轨至远端(如伴奏)以提升听众体验。 使用该功能前,需要通过 openWithMediaSource
打开媒体文件,并通过 MediaSource
中新增的 enableMultiAudioTrack
成员来开启音轨控制。
该版本通过了如下 API 的测试验证,可以应用于全系列 RTC 4.x SDK。
setRemoteSubscribeFallbackOption
:设置弱网环境下订阅的音视频流回退选项。onRemoteSubscribeFallbackToAudioOnly
:订阅流已回退为音频流或恢复为音视频流回调。setPlaybackDeviceVolume
:设置播放设备音量。getRecordingDeviceVolume
:获取音频采集设备音量。setPlayerOption
:设置媒体播放器选项,用于提供技术预览或特别定制功能。enableCustomAudioLocalPlayback
:设置是否在本地播放外部音频源。
该版本对 SDK 内部任务的调度机制进行了优化,具体表现在以下方面:
- 远端及本地的首帧出图与出声速度提升了 10% 到 20%。
- API 的调用耗时和响应耗时缩短了 5% 到 50%。
- SDK 的并行处理能力有明显提升,在较低端的设备上也能体验到较高的视频质量 (720P,24 fps);并且在高分辨率和高帧率视频场景下的图像处理更加稳定。
- SDK 的稳定性进一步增强,在各种特定场景下崩溃率有明显下降。
该版本为用户提供更灵活的耳返音频调整选项,支持调用 setInEarMonitoringVolume
将耳返音量设置为原始音量的 4 倍。
- 该版本优化了
setZones
方法的设计,支持将zones
参数设置为NULL
,表示清除所有隔声区域。 - 自该版本起,在调用
ILocalSpatialAudioEngine
中的方法之前,无需先取消订阅频道内所有远端用户的音频流。
该版本还进行了如下改进:
- 优化视频模块的算法、减小视频传输时对带宽的要求,在网络环境保持不变的情况下,为用户提供了更好的视频体验。
onLocalVideoStateChanged
回调中新增LOCAL_VIDEO_STREAM_REASON_SCREEN_CAPTURE_AUTO_FALLBACK
枚举,表示屏幕共享过程中发生意外错误(可能由于窗口阻塞失败),导致性能下降,但屏幕共享过程本身没有受到影响。- 该版本优化了 SDK 的域名解析策略,提高了复杂网络环境下调用 setLocalAccessPoint 解析域名时的稳定性。
- 传入含透明背景的图片作为虚拟背景的自定义背景图时,支持自定义图片透明背景的填充色。
LocalAudioStats
新增earMonitorDelay
和aecEstimatedDelay
成员,分别用于报告耳返延迟和回声消除 (Acoustic Echo Cancellation, AEC) 延迟。- 新增
onPlayerCacheStats
回调,当媒体资源开始缓存后,SDK 会每秒触发一次该回调,报告当前缓存的媒体资源的相关数据。 - 新增
onPlayerPlaybackStats
回调,当媒体资源开始播放后,SDK 会每秒触发一次该回调,报告媒体当前播放的媒体资源的相关信息。你可以通过PlayerPlaybackStats
来获取当前音、视频的码率等信息。
该版本修复了以下问题:
- 当同时共享两路屏幕共享视频流时,
onLocalVideoStats
回调上报的captureFrameRate
为 0,不符合预期。 - 在指定屏幕区域共享时,鼠标在共享区域内的坐标不准确。当鼠标位于共享区域的边界附近时,可能导致共享的画面中看不到鼠标。
- 使用 3.5 mm 耳机多次插拔设备后,SDK 未能检测到音频路由的变化。
VideoCanvas
新增subviewUid
和uid
成员enableCustomAudioLocalPlayback
queryDeviceScore
MEDIA_SOURCE_TYPE
中新增CUSTOM_VIDEO_SOURCE
枚举AudioRoute
中新增ROUTE_BLUETOOTH_DEVICE_A2DP
枚举selectMultiAudioTrack
onPlayerCacheStats
onPlayerPlaybackStats
PlayerPlaybackStats
- 以下枚举名中的
ERROR
字段全部修改为REASON
:LOCAL_AUDIO_STREAM_ERROR_OK
LOCAL_AUDIO_STREAM_ERROR_FAILURE
LOCAL_AUDIO_STREAM_ERROR_DEVICE_NO_PERMISSION
LOCAL_AUDIO_STREAM_ERROR_DEVICE_BUSY
LOCAL_AUDIO_STREAM_ERROR_RECORD_FAILURE
LOCAL_AUDIO_STREAM_ERROR_ENCODE_FAILURE
LOCAL_AUDIO_STREAM_ERROR_RECORD_INVALID_ID
LOCAL_AUDIO_STREAM_ERROR_PLAYOUT_INVALID_ID
LOCAL_VIDEO_STREAM_ERROR_OK
LOCAL_VIDEO_STREAM_ERROR_FAILURE
LOCAL_VIDEO_STREAM_ERROR_DEVICE_NO_PERMISSION
LOCAL_VIDEO_STREAM_ERROR_DEVICE_BUSY
LOCAL_VIDEO_STREAM_ERROR_CAPTURE_FAILURE
LOCAL_VIDEO_STREAM_ERROR_CODEC_NOT_SUPPORT
LOCAL_VIDEO_STREAM_ERROR_DEVICE_NOT_FOUND
LOCAL_VIDEO_STREAM_ERROR_DEVICE_DISCONNECTED
LOCAL_VIDEO_STREAM_ERROR_DEVICE_INVALID_ID
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_MINIMIZED
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_CLOSED
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_OCCLUDED
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_NO_PERMISSION
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_PAUSED
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_RESUMED
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_HIDDEN
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_RECOVER_FROM_HIDDEN
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_RECOVER_FROM_MINIMIZED
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_FAILURE
LOCAL_VIDEO_STREAM_ERROR_DEVICE_SYSTEM_PRESSURE
DIRECT_CDN_STREAMING_ERROR_OK
DIRECT_CDN_STREAMING_ERROR_FAILED
DIRECT_CDN_STREAMING_ERROR_AUDIO_PUBLICATION
DIRECT_CDN_STREAMING_ERROR_VIDEO_PUBLICATION
DIRECT_CDN_STREAMING_ERROR_NET_CONNECT
DIRECT_CDN_STREAMING_ERROR_BAD_NAME
PLAYER_ERROR_NONE
PLAYER_ERROR_INVALID_ARGUMENTS
PLAYER_ERROR_INTERNAL
PLAYER_ERROR_NO_RESOURCE
PLAYER_ERROR_INVALID_MEDIA_SOURCE
PLAYER_ERROR_UNKNOWN_STREAM_TYPE
PLAYER_ERROR_OBJ_NOT_INITIALIZED
PLAYER_ERROR_CODEC_NOT_SUPPORTED
PLAYER_ERROR_VIDEO_RENDER_FAILED
PLAYER_ERROR_INVALID_STATE
PLAYER_ERROR_URL_NOT_FOUND
PLAYER_ERROR_INVALID_CONNECTION_STATE
PLAYER_ERROR_SRC_BUFFER_UNDERFLOW
PLAYER_ERROR_INTERRUPTED
PLAYER_ERROR_NOT_SUPPORTED
PLAYER_ERROR_TOKEN_EXPIRED
PLAYER_ERROR_UNKNOWN
RTMP_STREAM_PUBLISH_ERROR_OK
RTMP_STREAM_PUBLISH_ERROR_INVALID_ARGUMENT
RTMP_STREAM_PUBLISH_ERROR_ENCRYPTED_STREAM_NOT_ALLOWED
RTMP_STREAM_PUBLISH_ERROR_CONNECTION_TIMEOUT
RTMP_STREAM_PUBLISH_ERROR_INTERNAL_SERVER_ERROR
RTMP_STREAM_PUBLISH_ERROR_RTMP_SERVER_ERROR
RTMP_STREAM_PUBLISH_ERROR_TOO_OFTEN
RTMP_STREAM_PUBLISH_ERROR_REACH_LIMIT
RTMP_STREAM_PUBLISH_ERROR_NOT_AUTHORIZED
RTMP_STREAM_PUBLISH_ERROR_STREAM_NOT_FOUND
RTMP_STREAM_PUBLISH_ERROR_FORMAT_NOT_SUPPORTED
RTMP_STREAM_PUBLISH_ERROR_NOT_BROADCASTER
RTMP_STREAM_PUBLISH_ERROR_TRANSCODING_NO_MIX_STREAM
RTMP_STREAM_PUBLISH_ERROR_NET_DOWN
RTMP_STREAM_PUBLISH_ERROR_INVALID_PRIVILEGE
RTMP_STREAM_UNPUBLISH_ERROR_OK
startChannelMediaRelay
updateChannelMediaRelay
startChannelMediaRelayEx
updateChannelMediaRelayEx
onChannelMediaRelayEvent
CHANNEL_MEDIA_RELAY_EVENT
v4.2.6
该版本于 2023 年 11 月 16 日发布。
该版本修复了在特定场景下(网络丢包率较高、主播在不销毁引擎时退出频道然后重新进入频道),接收端的视频出现卡顿或冻结。
v4.2.3
该版本于 2023 年 10 月 12 日发布。
为方便接入声网云市场提供的第三方视频审核服务,该版本有以下改动:
CONTENT_INSPECT_TYPE
中新增CONTENT_INSPECT_IMAGE_MODERATION
枚举值,代表使用声网云市场视频审核插件对视频截图并上传。ContentInspectConfig
中新增的serverConfig
可选参数用于云市场视频审核相关服务端配置,配置后可同时接入多个云市场审核插件并实现灵活控制插件开关等功能,详情请联系技术支持。
此外,该版本还新增了 enableContentInspectEx
方法,支持同时对多条视频流截图并上传。
自该版本起,SDK 支持 ID3D11Texture2D 类型的视频格式,提升了游戏场景中视频帧的渲染效果。你可以在调用 pushVideoFrame
方法将外部原始视频帧推送到 SDK 时,设置 format 为 VIDEO_TEXTURE_ID3D11TEXTURE2D
;并通过设置 d3d11_texture_2d 和 texture_slice_index 属性,来确定要使用的 ID3D11Texture2D 纹理对象。
为了帮助用户在屏幕共享场景下了解本地视频出错的准确原因,onLocalVideoStateChanged
回调中新增了如下几组枚举:
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_PAUSED
(23):屏幕采集已暂停。当前屏幕可能已切换到安全桌面,例如 UAC 对话框或者 Winlogon 桌面。LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_RESUMED
(24):屏幕采集已从暂停状态中恢复。LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_HIDDEN
(25):当前屏幕采集的窗口处于隐藏状态,并且在当前屏幕上不可见。LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_RECOVER_FROM_HIDDEN
(26):进行屏幕采集的窗口已经从隐藏状态中恢复。LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_RECOVER_FROM_MINIMIZED
(27):进行屏幕采集的窗口已经从最小化状态中恢复。
该版本新增了 isFeatureAvailableOnDevice
方法,用于查询设备能力是否满足虚拟背景、美颜等进阶功能的使用要求。
在使用进阶功能前,你可以根据查询结果判断当前设备是否支持这些功能,从而避免在低端设备上开启进阶功能导致性能下降或功能不可用的问题。你可以根据该方法的返回值,决定是否显示或启用相应的功能按钮,或者在设备能力不足时,为用户提示相应信息。
此外,自该版本起,调用 enableVirtualBackground
和 setBeautyEffectOptions
时,SDK 会自动对当前设备能力进行检查,并在设备能力不足时,通过返回错误码 -4: ERR_NOT_SUPPORTED
表示该设备不支持开启该功能。
该版本升级了虚拟背景算法,降低了虚拟背景功能的内存占用。相比之前的版本,在低端机上使用虚拟背景功能时 App 运行占用的内存降低了约 4% 到 10%(具体数值取决于设备型号和平台)。
该版本优化了在超高清(4K,60 fps)游戏共享场景下的性能和编码效率,有效降低了屏幕共享时系统资源占用率。
该版本还进行了如下改进:
- 当调用
setPlaybackSpeed
设置音频文件的播放速度时,传入非法参数后会返回错误码-2
,表示方法中设置了无效的参数,需要重新设置参数。 - 优化了 Token 解析时的逻辑,避免传入非法 Token 后 App 发生崩溃。
该版本修复了以下问题:
- 在屏幕共享场景下偶现崩溃、掉帧。
- 本地系统时间不正确时,偶现加入频道失败。
- 调用
startAudioMixing
[2/2] 使用相同的soundId
播放两个不同的音效文件,偶现第一个音效文件播放完毕后会重复播放。 - 调用一次
takeSnapshotEx
获取视频截图会收到多次onSnapshotTaken
视频截图结果回调。
-
onLocalVideoStateChanged
中新增如下枚举:LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_PAUSED
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_RESUMED
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_HIDDEN
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_RECOVER_FROM_HIDDEN
LOCAL_VIDEO_STREAM_ERROR_SCREEN_CAPTURE_WINDOW_RECOVER_FROM_MINIMIZED
-
ExternalVideoFrame
中新增d3d11_texture_2d
和texture_slice_index
成员 -
VIDEO_PIXEL_FORMAT
中新增VIDEO_TEXTURE_ID3D11TEXTURE2D
枚举 -
CONTENT_INSPECT_TYPE
新增CONTENT_INSPECT_IMAGE_MODERATION
-
ContentInspectConfig
中新增serverConfig
可选参数
v4.2.2
该版本于 2023 年 7 月 27 日发布。
该版本新增通配 Token。生成 Token 时,在用户 ID 不为 0 的情况下,声网支持你将频道名设为通配符,从而生成可以加入任何频道的通配 Token。在需要频繁切换频道及多频道场景下,使用通配 Token 可以避免 Token 的重复配置,有助于提升开发效率,减少你的 Token 服务端的压力。详见使用通配 Token。
声网 4.x RTC SDK 均支持使用通配 Token。
该版本新增 preloadChannel
和 preloadChannelWithUserAccount
方法,支持角色为观众的用户在加入频道前预先加载一个或多个频道。该方法调用成功后可以减少观众加入频道的时间,从而缩短观众听到主播首帧音频以及看到首帧画面的耗时,提升观众端的音视频体验。
在同时预加载多个频道时,为避免观众在切换不同频道时需多次申请 Token 从而导致切换频道时间增长,因此声网推荐使用通配 Token 来减少你的业务服务端获取 Token 导致的耗时,进一步加快切换频道的速度,详见使用通配 Token。
该版本在 VideoCanvas
中增加了 backgroundColor
成员,支持你在设置本地或远端视频显示属性时,自定义视频画布的背景颜色。
该版本在 ChannelMediaOptions
中新增下列成员,支持你发布第三个、第四个摄像头和屏幕采集到的视频流:
publishThirdCameraTrack
:发布第三个摄像头采集的视频。publishFourthCameraTrack
:发布第四个摄像头采集的视频。publishThirdScreenTrack
:发布第三个屏幕采集的视频。publishFourthScreenTrack
:发布第四个屏幕采集的视频。
目前 SDK 支持在同一时间、同一 RtcConnection
中发布多路音频流、一路视频流。
该版本升级了虚拟背景的人像分割算法,全面提升了人像分割的准确度、人像边缘与虚拟背景间的平滑度以及人物移动时边缘的贴合度,同时优化了虚拟背景在会议、办公、居家等场景下,以及逆光、弱光等条件下的人物边缘精度。
该版本将跨频道连麦时媒体流转发的目标频道增加至 6 个,在调用 startOrUpdateChannelMediaRelay
和 startOrUpdateChannelMediaRelayEx
时,你可以指定最多 6 个目标频道。
为提升设备编解码能力查询功能,该版本在 CodecCapInfo
中新增 codecLevels
成员。当成功调用 queryCodecCapability
后,可通过 codecLevels
得知当前设备对于 H.264 和 H.265 格式的视频的硬件和软件解码能力等级。
- 在屏幕共享场景下,SDK 根据共享的场景自动调节发送端的帧率。尤其是在共享文档场景下,避免发送端的视频码率超出预期的情况,以提高传输效率、减小网络负担。
- 为帮助用户了解更多类型的远端视频状态改变的原因,
onRemoteVideoStateChanged
回调中新增了REMOTE_VIDEO_STATE_REASON_CODEC_NOT_SUPPORT
枚举,表示本地的视频解码器不支持对收到的远端视频流进行解码。
该版本修复了以下问题:
- 网络异常导致频道连接断开后,频道连接恢复较慢。
- 在屏幕共享场景下,部分机型偶现屏幕共享画面出图延迟高于预期。
- 自采集场景下,
setBeautyEffectOptions
、setLowlightEnhanceOptions
、setVideoDenoiserOptions
和setColorEnhanceOptions
无法自动加载插件。 - 多设备音频录制场景下,反复插拔或开启/禁用音频录制设备后,偶现调用
startRecordingDeviceTest
进行音频采集设备测试时听不到声音。
preloadChannel
preloadChannelWithUserAccount
updatePreloadChannelToken
ChannelMediaOptions
中增加下列成员:publishThirdCameraTrack
publishFourthCameraTrack
publishThirdScreenTrack
publishFourthScreenTrack
CodecCapLevels
VIDEO_CODEC_CAPABILITY_LEVEL
VideoCanvas
中增加backgroundColor
成员CodecCapInfo
中增加codecLevels
成员REMOTE_VIDEO_STATE_REASON
中增加REMOTE_VIDEO_STATE_REASON_CODEC_NOT_SUPPORT
枚举
v4.2.1
该版本于 2023 年 6 月 21 日发布。
该版本改进了网络传输策略,提升了音视频交互的流畅度。
该版本修复了以下问题:
- SDK 不兼容部分旧版本 AccessToken 导致无法加入频道。
- 发送端调用
setAINSMode
开启 AI 降噪功能后,接收端用户偶现回声。 - 使用媒体播放器播放媒体文件时出现短暂杂音。
- 发送端将两路摄像头采集的视频进行本地合图并发布后,接收端偶现第二路摄像头画面缺失。
v4.2.0
该版本于 2023 年 5 月 24 日发布。
该版本对部分功能的实现方式进行了优化,请在升级到该版本后更新 App 代码。
原有用于摄像头和屏幕采集的方法已删除,请改用下表中列出的替代方法,并通过设置 sourceType
来指定视频源。
已删除方法 | 替代方法 |
---|---|
| startCameraCapture |
| stopCameraCapture |
| startScreenCapture [2/2] |
| stopScreenCapture [2/2] |
onCaptureVideoFrame
和onPreEncodeVideoFrame
回调中新增了sourceType
参数,用于表示具体的视频源类型。- 以下回调已删除,请通过
onPreEncodeVideoFrame
和onCaptureVideoFrame
中的sourceType
参数得知视频源类型。onSecondaryPreEncodeCameraVideoFrame
onScreenCaptureVideoFrame
onPreEncodeScreenVideoFrame
onSecondaryPreEncodeScreenVideoFrame
ChannelMediaOptions
中的publishCustomAudioTrackEnableAec
已删除,请改用publishCustomAudioTrack
。ChannelMediaOptions
中的publishTrancodedVideoTrack
变更为publishTranscodedVideoTrack。
ChannelMediaOptions
中的publishCustomAudioSourceId
变更为publishCustomAudioTrackId
。
- 删除
INTERFACE_ID_TYPE
中的AGORA_IID_MEDIA_RECORDER
。在创建录制对象前无需再获取AGORA_IID_MEDIA_RECORDER
接口类指针,你可以直接调用该版本新增的createMediaRecorder
方法创建录制对象。 - 删除
startRecording
、stopRecording
、setMediaRecorderObserver
中的connection
参数。 - 删除
IMediaRecorder
类中的release
方法,你可直接调用该版本新增的destroyMediaRecorder
方法来销毁录制对象以释放资源。
LocalTranscoderConfiguration
中的VideoInputStreams
变更为videoInputStreams
。TranscodingVideoStream
中的枚举类MEDIA_SOURCE_TYPE
变更为VIDEO_SOURCE_TYPE
。
onApiCallExecuted
已删除,请改用相关频道和媒体的事件通知得知 API 的执行结果。IAudioFrameObserver
类名变更为IAudioPcmFrameSink
,因此下列方法原型也有相应更新:onFrame
IMediaPlayer
下的registerAudioFrameObserver
[1/2]、registerAudioFrameObserver
[2/2]
enableDualStreamMode
[1/2] 和enableDualStreamMode
[2/2] 已废弃,请改用setDualStreamMode
[1/2] 和setDualStreamMode
[2/2]。startChannelMediaRelay
、updateChannelMediaRelay
、startChannelMediaRelayEx
和updateChannelMediaRelayEx
已废弃,请改用startOrUpdateChannelMediaRelay
和startOrUpdateChannelMediaRelayEx
。OnRecordAudioEncodedFrame
变更为onRecordAudioEncodedFrame
。OnPlaybackAudioEncodedFrame
变更为onPlaybackAudioEncodedFrame
。OnMixedAudioEncodedFrame
变更为onPlaybackAudioEncodedFrame
。
该版本新增 AI 降噪功能。开启该功能后,SDK 会智能识别和消除背景噪音,无论是在嘈杂的公共场所,还是在需要保持低延迟的实时竞技场景,都能够确保声音传输的清晰度,为用户提供更高质量的音频体验。你可以通过该版本新增的 setAINSMode
方法开启 AI 降噪,并根据实际场景,将降噪模式设置为均衡模式、强降噪模式或低延时模式。
为了增加实时视频通话的趣味性、保护用户隐私,该版本增强了虚拟背景功能。你可以在调用 enableVirtualBackground
方法时,将自定义背景设置为更多类型:
- 将背景处理为 Alpha 信息,不作替换,仅分割人像和背景,可结合本地合图功能实现人像画中画效果。
- 将背景替换为多种格式的本地视频。
该版本新增 setVideoScenario
方法用于设置视频业务场景,SDK 会根据不同场景自动启用最佳实践策略,调整关键性能指标,进而优化视频质量,提升用户体验。无论是正式的商务会议还是轻松的在线聚会,该功能都能确保视频质量满足需求。目前,该特性主要为实时视频会议场景提供了以下针对性的优化:
- 针对会议场景对小流码率要求较高的情况,自动启用多项抗弱网技术,提升小流的抗弱网能力,确保多路流订阅时接收端的流畅性。
- 实时监测接收端大小流的订阅人数,根据订阅人数动态调节大流配置、动态开启和关闭小流,以节省上行带宽和消耗。
该版本新增本地录制远端音视频功能。本地用户可以录制远端用户的音频视频流,便于将来回放、分析或分享,适用于在线教育、企业培训、在线会议等多类场景。为更准确报告录制状态,该版本在 onRecorderStateChanged
、onRecorderInfoUpdated
中新增 channelId
和 uid
参数,用于表示录制的音视频流的具体信息,并新增 createMediaRecorder
方法,用于创建本地或远端的录制对象。
你可以通过如下方法体验本地录制远端音视频功能:
createMediaRecorder
:创建录制对象。如需同时录制本地和远端的音视频,可以多次调用该方法创建多个录制对象。setMediaRecorderObserver
:设置录制回调对象。startRecording
:开始录制。stopRecording
:停止录制。destroyMediaRecorder
:销毁录制对象。
该版本新增了 onLocalVideoTranscoderError
回调,当你在开启本地合图或者更新本地合图配置失败时,SDK 会触发该回调并报告合图失败的原因。
在实时合唱的场景中,可能会出现网络原因导致各接收端下行链路不一致的情况,该版本新增 getNtpWallTimeInMs
方法获取当前的 NTP(网络时间协议)时间,用于对齐多个接收端的歌词和音乐,实现合唱同步、歌词进度同步等,为用户提供更佳的协同体验。
该版本新增了 setLocalVoiceFormant
方法,用于设置共振峰比率以改变语音的音色。该方法还可以和 setLocalVoicePitch
方法一起使用,同时调节音调和音色,实现更多样化的变声效果。
提升了渲染的兼容性,解决了部分设备渲染失败而导致的黑屏问题。
针对自定义视频和音频采集场景,该版本新增 getCurrentMonotonicTimeInMs
方法用于获取当前的 Monotonic Time,将该值传入视频帧和音频帧的时间戳,可以精确控制音视频时序,确保音视频同步。
该版本新增 startCameraCapture
和 startScreenCapture
[2/2] 方法,通过多次调用并指定 sourceType
参数可以开启多路摄像头采集的视频流和多路屏幕采集的视频流,用于本地合图或多频道发布。适用于如远程医疗、远程教育等连接多个摄像头和显示器的场景。
该版本新增 startOrUpdateChannelMediaRelay
和 startOrUpdateChannelMediaRelayEx
方法,通过一个方法实现开始跨频道转发和更新转发的目标频道,提升了接口易用性;同时,优化内部交互次数,有效降低调用了延迟。在降低开发难度的同时,为开发者提供更顺畅的使用体验。
为更好地满足音频自采集的场景需求,该版本新增了 createCustomAudioTrack
和 destroyCustomAudioTrack
方法用于创建和销毁自定义音频轨道,并提供了两种音频轨道类型供用户选择,进一步提升了自采集音频处理的灵活性和易用性:
- 可混音的音频轨道:支持将多路外部音频源混合发布到同一频道中,适用于多路音频源的自采集场景。
- 非混音的音频轨道:仅支持将一路外部音频源发布到单个频道中,适用于实时低延迟的自采集场景。
该版本修复了当快速切换身份角色时,观众端听不到声音的问题。
startCameraCapture
stopCameraCapture
startScreenCapture
[2/2]stopScreenCapture
[2/2]startOrUpdateChannelMediaRelay
startOrUpdateChannelMediaRelayEx
getNtpWallTimeInMs
setVideoScenario
getCurrentMonotonicTimeInMs
onLocalVideoTranscoderError
setAINSMode
createCustomAudioTrack
destroyCustomAudioTrack
createMediaRecorder
destroyMediaRecorder
AudioTrackConfig
RecorderStreamInfo
AUDIO_AINS_MODE
AUDIO_TRACK_TYPE
VIDEO_APPLICATION_SCENARIO_TYPE
SCREEN_CAPTURE_FRAMERATE_CAPABILITY
RtcEngineContext
中新增domainLimit
和autoRegisterAgoraExtensions
属性onRecorderStateChanged
、onRecorderInfoUpdated
中新增channelId
和uid
参数onCaptureVideoFrame
和onPreEncodeVideoFrame
中增加sourceType
参数BACKGROUND_SOURCE_TYPE
中新增BACKGROUND_NONE
和BACKGROUND_VIDEO
OnRecordAudioEncodedFrame
变更为onRecordAudioEncodedFrame
OnPlaybackAudioEncodedFrame
变更为onPlaybackAudioEncodedFrame
OnMixedAudioEncodedFrame
变更为onPlaybackAudioEncodedFrame
enableDualStreamMode
[1/2]enableDualStreamMode
[2/2]startChannelMediaRelay
startChannelMediaRelayEx
updateChannelMediaRelay
updateChannelMediaRelayEx
onChannelMediaRelayEvent
CHANNEL_MEDIA_RELAY_EVENT
startPrimaryScreenCapture
startSecondaryScreenCapture
stopPrimaryScreenCapture
stopSecondaryScreenCapture
startPrimaryCameraCapture
startSecondaryCameraCapture
stopPrimaryCameraCapture
stopSecondaryCameraCapture
onSecondaryPreEncodeCameraVideoFrame
onScreenCaptureVideoFrame
onPreEncodeScreenVideoFrame
onSecondaryPreEncodeScreenVideoFrame
onApiCallExecuted
ChannelMediaOptions
中的publishCustomAudioTrackEnableAec
getMediaRecorder
IMediaRecorder
类中的release
AGORA_IID_MEDIA_RECORDER
startRecording
、stopRecording
、setMediaRecorderObserver
中删除connection
参数
v4.1.1
该版本于 2023 年 2 月 8 日发布。
自该版本起,SDK 对视频编码的算法进行了优化,将默认的视频编码分辨率从 640 × 360 提升为 960 × 540,以适应设备性能和网络带宽的提升,在各种音视频互动场景下,为用户提供全链路的高清体验。
如果你想自定义视频编码分辨率,可调用 setVideoEncoderConfiguration
方法,重新设置视频编码参数配置中的视频编码分辨率。
由于默认分辨率的提升,会影响集合分辨率从而导致费用变更。详见计费策略。
该版本新增 enableInstantMediaRendering
方法,用于开启音视频帧的加速渲染模式,可加快用户加入频道后的首帧出图与出声速度。
该版本新增 startMediaRenderingTracing
和 startMediaRenderingTracingEx
方法,SDK 以调用该方法的时刻作为起点,开始跟踪频道内视频帧的渲染状态,并通过 onVideoRenderingTracingResult
回调报告相关事件的信息。
声网推荐你将该方法和 App 中的 UI 设置(按钮、滑动条等)结合使用。例如:在终端用户点击“加入频道”按钮的时刻调用该方法进行打点,然后通过 onVideoRenderingTracingResult
回调获取视频帧渲染过程中的指标,从而方便开发者针对指标进行专项优化,以提高出图效率。
自该版本起,SDK 对 onRenderVideoFrame
回调进行了优化,在不同的视频处理模式下返回值的意义不同:
- 当视频处理模式为
PROCESS_MODE_READ_ONLY
时,返回值无实际含义。 - 当视频处理模式为
PROCESS_MODE_READ_WRITE
时,返回true
代表设置 SDK 接收视频帧;返回false
代表设置 SDK 丢弃视频帧。
该版本修复了以下问题:
- 使用媒体播放器播放网络摄像头的 RTSP 码流时,偶现花屏。
- 使用媒体播放器播放采样率超过 48 kHz 的音频时,播放失败。
- 在本地合图场景下,不支持对 PNG 和 GIF 图片的 Alpha 通道渲染,导致透明底色的图片显示为非透明底色。
- 加入频道后添加水印然后删除,远端仍能看到水印。
- 开始屏幕共享后添加水印,远端接收的屏幕共享画面没有水印。
- 加入频道后接入外接摄像头,调用
setDevice
指定视频采集设备为该外接摄像头,方法未生效。 - 在屏幕共享场景下,如果将一个窗口设置为前置和描边,则必现窗口前置失败。
- 当频道内有多路视频流时,调用部分视频增强插件相关 API 偶现失败。
- 客户端主动退出频道时未向服务端发起请求,导致服务端判定为退出频道超时。
enableInstantMediaRendering
startMediaRenderingTracing
startMediaRenderingTracingEx
onVideoRenderingTracingResult
MEDIA_TRACE_EVENT
VideoRenderingTracingInfo
enableRemoteSuperResolution
RemoteVideoStats
中删除superResolutionType
v4.1.0
该版本于 2022 年 12 月 19 日发布。
该版本新增 setHeadphoneEQParameters
方法,用于调节耳机均衡器的低频和高频参数,主要应用于空间音频场景。如果在调用 setHeadphoneEQPreset
后仍未达到预期的耳机均衡效果,你可以调用该方法进行调节。
该版本新增 setRemoteVideoSubscriptionOptions
和 setRemoteVideoSubscriptionOptionsEx
方法,当你调用 registerVideoEncodedFrameObserver
方法为编码后的视频注册视频帧观测器时,SDK 默认订阅编码后的视频帧。如果你想要修改订阅选项,可以调用该新增的方法进行设置。
有关更多注册视频观测器和订阅选项的介绍,详见API 参考。
自该版本起,SDK 支持 MPUDP 协议,在 UDP 协议的基础上,允许连接并使用多个路径来最大化信道资源的使用。你可以同时在移动端和桌面端使用不同的物理网卡并将其聚合,达到有效对抗网络抖动、提升传输质量的效果。
如果你希望体验该功能,请联系 sales@shengwang.cn。
该版本新增 registerExtension
方法,用于注册插件。当使用第三方插件时,你需要按照以下顺序调用插件相关的 API:
调用 loadExtensionProvider
-> registerExtension
-> setExtensionProviderProperty
-> enableExtension
。
该版本新增了一系列回调,帮助你更好地了解音视频设备的状态。
onVideoDeviceStateChanged
:当视频设备的状态发生改变时上报。onAudioDeviceStateChanged
:当音频设备的状态发生改变时上报。onAudioDeviceVolumeChanged
:当音频设备或 App 的音量发生改变时上报。
该版本在 CameraCapturerConfiguration
中增加了 followEncodeDimensionRatio
成员,你可以在使用摄像头采集视频时,通过该成员设置是否跟随 setVideoEncoderConfiguration
中已经设置的视频宽高比。
该版本增加了一系列多频道相关的方法,你可以通过调用这些方法,实现对多频道中音视频流的管理。
- 新增
muteLocalAudioStreamEx
和muteLocalVideoStreamEx
方法,分别用于取消或恢复发布本地音频流和视频流。 - 新增
muteAllRemoteAudioStreamsEx
和muteAllRemoteVideoStreamsEx
方法,分别用于取消或恢复订阅所有远端用户的音频流和视频流。 - 新增
startRtmpStreamWithoutTranscodingEx
、startRtmpStreamWithTranscodingEx
、updateRtmpTranscodingEx
和stopRtmpStreamEx
方法,用于实现多频道场景下的旁路推流。 - 新增
startChannelMediaRelayEx
、updateChannelMediaRelayEx
、pauseAllChannelMediaRelayEx
、resumeAllChannelMediaRelayEx
和stopChannelMediaRelayEx
方法,用于实现多频道场景下的跨频道媒体流转发。 - 新增
leaveChannelEx
[2/2] 方法,相较于leaveChannelEx
[1/2] 方法新增了options
参数,用于在多频道场景下离开频道时,选择是否停止麦克风采集。
一般场景下,声网默认的视频编码配置能满足需求。对于特定场景,该版本在 VideoEncoderConfiguration
中新增 advanceOptions
成员,用于视频编码属性的进阶设置:
compressionPreference
:视频编码的压缩偏好设置,用于选择视频的低延时或高质量偏好。encodingPreference
:视频编码器偏好设置,用于选择视频的自适应偏好、软件编码偏好或硬件编码偏好。
使用声网私有媒体服务器的场景下,为支持用户在调用 setLocalAccessPoint
方法时的进阶设置,该版本在 LocalAccessPointConfiguration
结构体中新增 advancedConfig
成员参数,该参数支持如下设置:
logUploadServer
:默认情况下,SDK 会将日志上传至声网的日志服务器。你可以通过该参数自定义日志上传的服务器。
为方便用户分辨切换后的用户角色属于互动直播还是极速直播,该版本在 onClientRoleChanged
回调中新增 newRoleOptions
参数,该参数取值如下:
AUDIENCE_LATENCY_LEVEL_LOW_LATENCY
(1): 低延时,属于极速直播。AUDIENCE_LATENCY_LEVEL_ULTRA_LOW_LATENCY
(2): 超低延时,属于互动直播。
该版本对屏幕共享功能做了一系列优化,除以下列出的功能性改进之外,还有一部分可用性提升,详见问题修复。
- 在
ScreenCaptureSourceInfo
中增加了minimizeWindow
成员,用于表示目标窗口是否已最小化。 - 在
ScreenCaptureParameters
中增加了enableHighLight
、highLightColor
和highLightWidth
成员,支持你在屏幕共享时对目标窗口或屏幕进行描边。 - 兼容更多主流 App,包括但不限于:WPS Office,Microsoft Office PowerPoint,Visual Studio Code,Adobe Photoshop,Windows Media Player,Scratch。
- 兼容更多设备和操作系统,包括但不限于:Windows 8 系统,无独立显卡的设备,双显卡设备。
- 支持超高清视频 (分辨率为 4K,帧率为 60 fps),你可以在满足要求的设备上使用该功能。声网推荐的最低设备规格为:intel(R) Core(TM) i7-9750H CPU @ 2.60GHZ。
为提升 CDN 推流的用户体验,当设置的视频分辨率超出摄像头设备支持的范围时,SDK 会根据你的设置进行自适应,取最接近、且长宽比与你设置的分辨率一致的值进行采集、编码、推流,同时通过 onDirectCdnStreamingStats
回调报告推送的视频流的实际分辨率。
该版本对 updateChannelMediaRelay
方法做了如下优化:
- 4.1.0 版本前:如果服务器内部原因导致目标频道更新失败,SDK 返回错误码
RELAY_EVENT_PACKET_UPDATE_DEST_CHANNEL_REFUSED
(8),你需要重新调用updateChannelMediaRelay
方法。 - 4.1.0 版本及之后:如果服务器内部原因导致目标频道更新失败,SDK 会重新尝试更新直到目标频道更新成功。
该版本基于 AI 方法重构了 AEC 算法,相比传统 AEC 算法,新的算法可以在较恶劣的回信比 (echo-to-signal) 条件下保存完整、清晰、流畅的近端人声,显著提高系统的回声消除和双讲性能,带给用户更舒适的通话和直播体验。适用于会议、语聊、K 歌等场景。
该版本对虚拟背景算法做了如下优化:
- 在处理虚拟背景的边界时更加细腻,抠图精细程度达到发丝级别。
- 在人像静止或移动时都能确保虚拟背景的稳定性,有效解决背景闪烁、超出画面范围的问题。
- 支持更多应用场景,无论在黑夜、白天、室内、室外等各种环境下都能获得良好的虚拟背景效果。
- 支持识别多种姿态,包括半身静态、身体晃动、手部摆动,并支持精细识别手指动作,在不同手势下均能达到良好的虚拟背景效果。
- 降低了推送外部音频源时的上行延迟。
- 提升了会议场景 (
AUDIO_SCENARIO_MEETING
) 默认参数配置下的回声消除性能。 - 提升了 SDK 视频渲染的流畅度。
- 降低了当主播调用
muteLocalVideoStream
方法时本地设备的 CPU 占用率和耗电量。 - 增强对不同网络协议栈的识别能力,在多种运营商网络场景下提升 SDK 的接入能力。
该版本修复了以下问题:
-
在屏幕共享场景下,将共享的窗口最小化时,偶现远端用户出现黑屏或远端画面切换为视频小流。
-
在直播场景下,主播开启屏幕共享时,偶现观众听主播说话有回声。
-
在屏幕共享场景下偶现系统声音音量变小。
-
在屏幕共享场景下,在横屏显示器与竖屏显示器之间共享屏幕时出现黑屏。
-
在屏幕共享场景下屏蔽窗口时,屏幕共享区域超出屏幕分辨率导致崩溃。
-
调用
startScreenCaptureByDisplayId
进行屏幕共享时无法屏蔽窗口。 -
在屏幕共享场景下,远端用户看到的画面偶现黑屏、卡顿、崩溃。
-
在屏幕共享场景下,偶现
onNetworkQuality
回调报告频道内指定用户的上下行网络状态不准确。 -
在屏幕共享场景下,在共享窗口中看到的鼠标位置与实际位置有偏差。
-
从普通场景切换屏幕共享场景后,由于两种场景下设置的分辨率不同导致偶现崩溃。
-
在直播场景下,主播在扬声器和听筒之间进行切换后,观众听主播的声音会听到滋啦杂声。
-
onVideoPublishStateChanged
回调报告的视频源类型不准确。 -
调用
getExtensionProperty
失败,返回空字符串。 -
当以观众身份进入一个已播放较长时间的直播间,首帧出图时间缩短。
-
leaveChannelEx
[2/2] -
startChannelMediaRelayEx
-
updateChannelMediaRelayEx
-
CameraCapturerConfiguration
中增加followEncodeDimensionRatio
-
LocalVideoStats
中增加hwEncoderAccelerating
-
VideoEncoderConfiguration
中增加advanceOptions
成员 -
LocalAccessPointConfiguration
中增加advancedConfig
成员 -
onClientRoleChanged
中增加newRoleOptions
-
IRtcEngine
类中的setParameters
onApiCallExecuted
,改用具体方法触发的回调
onChannelMediaRelayEvent
中删除RELAY_EVENT_PACKET_UPDATE_DEST_CHANNEL_REFUSED
(8)
v4.0.1
该版本于 2022 年 9 月 29 日发布。
如果你已经使用了以下类或方法,请在升级到该版本后重新调用方法并更新参数设置。
删除了 enableDualStreamMode
[3/3] 和 enableDualStreamModeEx
中的 sourceType
参数以及 enableDualStreamMode
[2/3] 方法,因为 SDK 支持对自定义采集或 SDK 采集的各种视频源开启双流模式,不再需要指定视频源类型。
该本版新增耳返功能。你可以调用 enableInEarMonitoring
开启耳返功能。
成功开启耳返功能后,你可以调用 registerAudioFrameObserver
注册音频观测器,SDK 会触发 onEarMonitoringAudioFrame
回调报告耳返原始音频数据。你可以使用自己的音效处理模块对耳返音频数据进行前处理,实现自定义音效,声网推荐你在如下两种方式中选其一来设置耳返音频数据格式:
- 调用
setEarMonitoringAudioFrameParameters
方法设置耳返音频数据格式,SDK 会根据该方法中的参数计算采样间隔,并根据该采样间隔触发onEarMonitoringAudioFrame
回调。 - 在
getEarMonitoringAudioParams
回调的返回值中设置耳返音频数据格式,SDK 会根据该回调的返回值计算采样间隔,并根据该采样间隔触发onEarMonitoringAudioFrame
回调。
如需调节耳返音量,你可以调用 setInEarMonitoringVolume
。
为方便用户在任何阶段知悉本地网络的连接类型,该版本新增 getNetworkType
方法。你可以通过该方法获取正在使用的网络连接的类型,包括 UNKNOWN、DISCONNECTED、LAN、WIFI、2G、3G、4G、5G。当本地网络连接类型发生改变时,SDK 会触发 onNetworkTypeChanged
回调,报告当前的网络连接类型。
该版本新增音强选流功能。该功能开启后,声网服务器会根据音量大小对音频流进行筛选,选出 N 路音量最大的音频流并传输至接收端。N 默认为 3 路,如需自定义设置 N,请联系技术支持。
同时,声网还支持发流端自定义设置是否参与音强选流,不参与选流的音频流会直接和被选出的 N 路音频流一同传输至接收端。在大型会议等多人发流的场景下,开启音强选流功能可以帮助减轻接收端的下行带宽压力和系统资源消耗,详见音强选流。
如需开启该功能,请联系技术支持。
该版本对双流模式做了优化,在加入频道前后均可调用 enableDualStreamMode
和 enableDualStreamModeEx。
扩展了订阅视频小流的实现方式,SDK 默认在发送端开启小流 auto 模式(即:默认不主动发送小流),可通过以下步骤开启发送小流:
- 接收端主播调用
setRemoteVideoStreamType
或setRemoteDefaultVideoStreamType
发起接收小流申请。 - 发送端收到申请后自动切换为发送小流模式。
如果你想修改上述发送端的默认行为,可以调用 setDualStreamMode
[1/2] 或 setDualStreamMode
[2/2] 方法,将 mode
参数设置为 DISABLE_SIMULCAST_STREAM
(始终不发送小流)或 ENABLE_SIMULCAST_STREAM
(始终发送小流)。
SDK 默认使用播放设备为声卡采集设备,自该版本起,你可以另外指定声卡采集设备并将其采集到的音频发布到远端。
setLoopbackDevice
:用于指定声卡采集设备,当你不希望当前的播放设备为声卡采集设备时,可以调用该方法另外指定别的设备作为声卡采集设备。getLoopbackDevice
:用于获取当前的声卡采集设备。followSystemLoopbackDevice
:用于设置声卡采集设备是否跟随系统默认的播放设备。
该版本新增了如下适用于空间音频场景的特性,在虚拟互动场景下可以有效提升用户的临场感体验。
- 隔声区域:你可以通过调用
setZones
设置隔声区域和声音衰减系数。当音源(可以为用户或媒体播放器)跟听声者分属于音障区域内部和外部时,会体验到类似真实环境中声音在遇到建筑隔断时的衰减效果。你也可以通过调用setPlayerAttenuation
和setRemoteAudioAttenuation
方法分别针对媒体播放器和用户设置声音衰减属性,并指定是否使用该设置强制覆盖setZones
中的声音衰减系数。 - 多普勒音效:你可以通过设置
SpatialAudioParams
中的enable_doppler
参数开启多普勒音效,在声源和接收方发生高速相对位移的情况下(比如赛车游戏场景),接收方会体验到明显的音调变化。 - 耳机均衡器:你可以通过调用
setHeadphoneEQPreset
方法使用预设的耳机均衡效果,以改善耳机的听感。
该版本优化了 onVideoSizeChanged
的触发逻辑,当单独调用 startPreview
时,也可触发该回调并上报本地视频大小发生改变。
该版本缩短了首帧出图时间,以提升用户视频体验。
该版本修复了以下问题:
- 调用
stopPreview
关闭本地视频预览时,导致已设置的虚拟背景一定概率失效。 - 开启虚拟背景并设置为背景虚化效果时,多次退出频道再加入频道时偶现崩溃。
- 本地端使用 1920 x 1080 的摄像头作为视频采集源,偶现远端视频的分辨率与本地端不一致。
- 通过摄像头采集视频时,如果在
CameraCapturerConfiguration
中设置的视频宽高比例和在setVideoEncoderConfiguration
中设置的不一致,导致本地视频预览的画面比例未按照后者的设置呈现。 - 在频道内调用
setVideoEncoderConfigurationEx
将视频的分辨率调高时,偶现失效。 - 使用媒体播放器播放视频,先调用
play
再调用pause
暂停播放后,调用seek
指定一个新的播放位置,偶现视频画面依然是暂停播放时的画面;调用resume
恢复播放后,偶现视频画面出现快进。
enableInEarMonitoring
setEarMonitoringAudioFrameParameters
onEarMonitoringAudioFrame
setInEarMonitoringVolume
getEarMonitoringAudioParams
getNetworkType
setRecordingDeviceVolume
ChannelMediaOptions
中新增isAudioFilterable
setDualStreamMode
[1/2]setDualStreamMode
[2/2]setDualStreamModeEx
SIMULCAST_STREAM_MODE
setLoopbackDevice
getLoopbackDevice
followSystemLoopbackDevice
setZones
setPlayerAttenuation
setRemoteAudioAttenuation
muteRemoteAudioStream
SpatialAudioParams
setHeadphoneEQPreset
HEADPHONE_EQUALIZER_PRESET
enableDualStreamMode
[3/3]enableDualStreamModeEx
startEchoTest
[2/3]
enableDualStreamMode
[2/3]
v4.0.0
该版本于 2022 年 9 月 13 日发布。
v4.0.0 SDK 对部分功能的实现方式进行了优化,从而导致与 v3.7.0 不兼容。升级 SDK 后,你需要结合实际业务场景更新 App 代码,详见迁移指南。
- 多频道
- 媒体流发布控制
- 自定义视频采集与渲染(Media IO 方式)
- 警告码
该版本通过设置 IRtcEngineEx
和 ChannelMediaOptions
实现一个 IRtcEngine
实例同时采集多组音视频流并发布到远端:
- 调用
joinChannel
加入首个频道后,多次调用joinChannelEx
加入多个频道,通过不同的用户 ID (localUid
) 和ChannelMediaOptions
设置发布指定的流到不同的频道。 - 支持通过设置
ChannelMediaOptions
中的publishSecondaryCameraTrack
和publishSecondaryScreenTrack
同时发布多路摄像头采集或者屏幕共享的视频流。
该版本支持通过 createCustomVideoTrack
方法实现自定义视频采集。你可以参考如下步骤,体验同时发布多路自定义采集视频流:
-
创建自采集视频轨道:调用
createCustomVideoTrack
方法创建一个自定义视频轨道,并获得视频轨道 ID。 -
设置频道中待发布的自采集视频轨道:在每个频道的
ChannelMediaOptions
中,将customVideoTrackId
参数设置为你想要发布的视频轨道 ID,并将publishCustomVideoTrack
设置为true
。 -
推送外部视频源:调用
pushVideoFrame
,并将videoTrackId
指定为步骤 2 中指定的视频轨道 ID,即可实现在多个频道中发布对应的自定义视频源。
结合多频道能力,你还可以体验如下功能:
- 将多组音视频流通过不同的用户 ID (
uid
) 发布到远端。 - 将多路音频流混音后通过一个用户 ID (
uid
) 发布到远端。 - 将多组视频频流通过不同的用户 ID (
uid
) 发布到远端。 - 将多路视频流合图后通过一个用户 ID (
uid
) 发布到远端。
为提升视频互动体验,SDK 对视频采集、编码、解码、渲染全流程做出了优化,自该版本起支持 4K 分辨率。优化了 FEC(Forward Error Correction)算法,可根据视频帧包数与帧率进行自适应切换,降低 4K 场景下的视频卡顿率。
你可以在调用 setVideoEncoderConfiguration
时,设置编码分辨率为 4K (3840 × 2160)、帧率为 60 fps。当你的设备不支持 4K 时,SDK 支持自动回退到适合的分辨率和帧率。
为减少 SDK 包体积、集成时间,以及简化 API 的调用步骤,该版本支持内置媒体播放器。调用 createMediaPlayer
创建媒体播放器后,你可以通过 IMediaPlayer
类的一系列方法体验内置媒体播放器的各类功能:
- 自动播放本地、在线、自定义的媒体资源。
- 预先加载待播放的媒体资源。
- 根据网络情况切换媒体资源的播放线路。
- 将媒体播放器的音视频流推送到任意频道、分享给远端用户。
- 实时缓存媒体资源文件,该功能开启后,播放器会预先缓存当前正在播放的媒体文件的部分数据到本地,可提高播放流畅度,帮助节省网络流量。
自该版本起,SDK 支持新版 AI 降噪(相对于 v3.7.0 中的基础 AI 降噪)功能。相比原版 AI 降噪,新版 AI 降噪具有更好的人声保真度、更干净的噪声抑制,并新增了去混响 (Dereverberation) 能力。
如果你希望体验新版 AI 降噪,请联系 sales@shengwang.cn。
为还原音频的细节、提升音频的清晰度,该版本新增 ULTRA_HIGH_QUALITY_VOICE
。在语聊、歌唱等以人声为主的场景中,你可以调用 setVoiceBeautifierPreset
并使用该枚举体验超高音质。
空间音频功能当前处于实验阶段,请联系 sales@shengwang.cn 开通空间音频功能,如果需要技术支持,请联系技术支持。
该版本提供直角坐标系方案实现空间音频:
-
使用
ILocalSpatialAudioEngine
类实现空间音频,通过 SDK 计算远端用户的空间坐标。你需要分别调用updateSelfPosition
和updateRemotePosition
更新本地和远端用户的空间坐标,本地用户才能听到远端用户的空间音频。 -
通过 SDK 计算媒体播放器的空间坐标。你需要在
ILocalSpatialAudioEngine
类中分别调用updateSelfPosition
和updatePlayerPositionInfo
更新本地用户和媒体播放器的空间坐标,本地用户才能听到媒体播放器的空间音频。
该版本为实时合唱赋予了如下能力:
- 支持两人及两人以上合唱。
- 每位歌手相互独立。一位歌手出现问题或退出合唱,其他歌手还可以继续合唱。
- 极低延时体验。每位歌手可以实时听到彼此的歌声,观众也可以实时听到每位歌手。
该版本新增 AUDIO_SCENARIO_CHORUS
枚举来设置极低延时。使用该枚举后,在网络条件良好的情况下,用户可以体验到极低延时的实时合唱。
为在声网 SDK 的基础上增强实时音视频互动性,该版本支持声网云市场插件的一站式解决方案:
- 方便集成:只需执行简单统一的 API 即可实现模块化功能的集成,将实时互动模块集成效率提高约 95%。
- 可扩展性设计:模块化和可扩展的 SDK 设计风格赋予了声网 SDK 良好的可扩展性,更有利于开发者基于声网云市场插件生态快速搭建好用的实时互动应用。
- 打造生态系统:可容纳众多开发者的实时音视频 App 社区,提供多种扩展组合。添加并开启云市场插件后,开发者可以实现更为丰富的实时音视频互动功能。
- 助力服务商:支持服务商将技术产品以插件的形式与声网 SDK 做技术上的融合,在声网云市场中展示并售卖,与声网一起共建开发者的实时互动生态系统,详见云市场文档。
为满足各类业务场景对频道管理的需求,该版本在 ChannelMediaOptions
结构体中新增了如下功能:
- 设置或切换多种音视频源的发布
- 设置或切换频道场景、用户角色
- 设置或切换订阅视频的大小流类型
- 控制音频发布时延
在调用 joinChannel
或 joinChannelEx
时设置 ChannelMediaOptions
,明确媒体流发布和订阅行为,例如,是否发布摄像头采集或者屏幕共享的视频流,是否要主动订阅远端用户的音视频流。加入频道后,调用 updateChannelMediaOptions
随时更新 ChannelMediaOptions
中的设置,例如,切换发布的音视频源。
该版本优化了开启屏幕共享的逻辑,你可以根据实际场景选择不同的方式开启屏幕共享:
- 在加入频道前调用
startScreenCaptureByDisplayId
,然后调用joinChannel
[2/2] 加入频道并设置publishScreenTrack
或publishSecondaryScreenTrack
为true
,即可开始屏幕共享。 - 在加入频道后调用
startScreenCaptureByDisplayId
,然后调用updateChannelMediaOptions
设置publishScreenTrack
或publishSecondaryScreenTrack
为true
,即可开始屏幕共享。
该版本新增音视频流订阅黑/白名单功能,支持灵活订阅频道内发流用户的音视频流。你可以通过以下 API 来将指定用户的用户 ID 加入到相应的音视频黑白名单中,从而实现订阅/不订阅指定用户的音频或视频流。在多频道场景下,你可以通 IRtcEngineEx
类下的同名方法来实现该功能。
setSubscribeAudioBlacklist
:设置音频订阅黑名单。setSubscribeAudioWhitelist
:设置音频订阅白名单。setSubscribeVideoBlacklist
:设置视频订阅黑名单。setSubscribeVideoWhitelist
:设置视频订阅白名单。
如果某个用户同时在音频或视频订阅的黑、白名单中,只有黑名单会生效。
为方便用户灵活修改音频场景,该版本新增 setAudioScenario
方法,支持你根据业务需求设置音频场景。例如,如果你在频道内想将音频场景从自动场景 (AUDIO_SCENARIO_DEFAULT
) 切换为高音质场景 (AUDIO_SCENARIO_GAME_STREAMING
),你可以调用该方法。
该本版新增 setLocalAccessPoint
方法,用于在成功部署声网混合云、私有化平台后,指定 Local Access Point 来设置本地代理。你可以联系 sales@shengwang.cn 了解和部署声网混合云或声网私有化平台。
该版本新增垫片推流功能,支持你在发流时使用本地 png 格式的图片来替代当前发布的视频流画面进行推流。你可以通过 enableVideoImageSource
来开启该功能,并通过 options
参数自定义垫片图片;在你关闭垫片功能之后,远端用户看到的依旧是当前你发布的视频流画面。
该版本新增本地合图功能,可支持在本地将多路视频流合并为一路视频流。常见场景如下:
在直播场景或使用旁路推流功能时,可以在本地将多个主播的画面合并为一个画面。
将本地采集的多路视频流(例如:摄像头采集的视频、屏幕共享流、视频文件、图片等)合并为一路视频流,然后在频道内发布已合图的视频流。
你可以调用 startLocalVideoTranscoder
方法开启本地合图、调用 stopLocalVideoTranscoder
方法停止本地合图;在开启本地合图后,可以调用 updateLocalTranscoderConfiguration
进行本地合图的配置更新。
视频采集设备可能支持多种视频格式,每一种格式都支持不同的视频帧宽度、视频帧高度、帧率组合。
该版本新增 numberOfCapabilities
和 getCapability
方法,用于获取视频采集设备支持的视频格式数量以及指定视频格式下的视频帧详细信息。在调用 startPrimaryCameraCapture
或 startSecondaryCameraCapture
方法使用摄像头采集视频时,你可以使用指定的视频格式进行采集。
SDK 会根据你在 VideoEncoderConfiguration
中的设置,自动选择选择视频采集设备的最佳视频格式进行采集。一般情况下,你不需要用到该组新增方法。
该版本通过 leaveChannel
和 joinChannel
切换频道即可实现和 v3.7.0 中 switchChannel
一样的切换速度,无需额外调用 switchChannel
方法。
该版本新增支持推送 I422 格式的外部视频帧,你可以通过 pushVideoFrame
[1/2] 方法将 I422 格式的外部视频帧推送至 SDK。
该版本在 onAudioVolumeIndication
的 AudioVolumeInfo
中新增 voicePitch
参数。你可以通过 voicePitch
获取本地用户的人声音调,从而实现唱歌评分等业务功能。
该版本优化了 startPreview
方法的调用逻辑。如果你需要开启本地视频预览,你可以直接通过 startPreview
方法来开启视频预览,无调用时序要求。
你可以通过 setRemoteDefaultVideoStreamType
方法,根据你想要订阅的视频流分辨率和码率来灵活设置默认订阅视频流类型。
v4.2.1
该版本于 2023 年 6 月 21 日发布。
该版本改进了网络传输策略,提升了音视频交互的流畅度。
该版本修复了以下问题:
- SDK 不兼容部分旧版本 AccessToken 导致无法加入频道。
- 发送端调用
SetAINSMode
开启 AI 降噪功能后,接收端用户偶现回声。 - 使用媒体播放器播放媒体文件时出现短暂杂音。
- 发送端将两路摄像头采集的视频进行本地合图并发布后,接收端偶现第二路摄像头画面缺失。
v4.2.0
该版本于 2023 年 5 月 26 日发布,是 C# SDK 的第一个版本。
功能简介
该版本基于 RTC Windows SDK v4.2.0 封装,功能特性详见 C++ 发版说明。
参考文档
你可以参考以下文档集成 SDK,实现相应的实时音视频功能:
声网在 GitHub 提供一个开源的 CSharp API Example 示例项目,你也可以前往下载并体验。