实时语音翻译 SDK 简介
概述
(1) 概念解释
实时语音翻译:可实现对连续音频流的实时识别,实时识别和翻译语音输入的内容,转换成文本信息并返回对应文字流。
(2) 说明
Hi,您好,欢迎使用有道智云实时语音翻译 Android SDK。如果您想快速体验服务,建议您前往实时语音翻译体验中心 或者在体验中心右下侧找到小程序二维码,扫描进行体验。
本文档主要针对需要集成实时语音翻译服务 Android SDK 的开发工程师,详细描述有道智云实时语音能力及集成过程。
如果您有与我们商务合作的需求,可以通过一下方式联系我们:
商务邮箱: AIcloud_Business@corp.youdao.com
如果您对文档内容有任何疑问,可以通过以下几种方式联系我们:
客服 QQ:1906538062
智云翻译技术交流 QQ 1 群: 652880659
智云翻译技术交流 QQ 2 群: 669384425
智云翻译技术交流 QQ 3 群: 807539209
智云翻译技术交流 QQ 4 群: 936752411
联系邮箱: zhiyun@corp.youdao.com
温馨提示: 本文档主要针对开发人员,接入测试前需要在后台创建 Android 应用,并绑定实时语音翻译实例;如果您还没有,请按照新手指南 操作。 平台向每个账户赠送 50 元的体验金,供用户集成前测试所用,具体资费规则详见 实时语音翻译服务报价 。
###功能介绍
有道智云实时语音翻译 SDK 是有道智云开放平台提供的云服务之一,是有道在线实时语音翻译接口的一种实现,支持实时语音翻译和整句翻译。
###兼容性
支持设备:运行了 Android 4.0.3 及以上系统的 Android 设备
实时语音翻译 SDK 集成指南
集成前提
开始集成 SDK 之前开发者需要登录有道智云平台 , 创建应用获取应用 ID(或者通过运营人员获取应用 ID),以便使用实时语音翻译。
集成步骤
1. SDK 包导入
请将 ydasr-release.aar 拷贝到 libs 目录下,并将以下代码添加到 app 的 build.gradle 中:
apply plugin: 'kotlin-android'
apply plugin: 'kotlin-android-extensions'
android {
...
repositories {
flatDir {
dirs 'libs'
}
}
compileOptions {
sourceCompatibility JavaVersion.VERSION_1_8
targetCompatibility JavaVersion.VERSION_1_8
}
}
dependencies {
...
implementation "android.arch.lifecycle:extensions:$lifecycleVersion"
implementation "android.arch.lifecycle:common-java8:$lifecycleVersion"
implementation "com.squareup.okhttp3:okhttp:$okHttpVersion"
implementation "com.google.code.gson:gson:$gsonVersion"
implementation "org.jetbrains.kotlin:kotlin-stdlib:$kotlinVersion"
implementation (name:'ydasr-release', ext:'aar')
kapt "android.arch.lifecycle:compiler:$lifecycleVersion"
}
buildscript {
ext {
// App dependencies
gsonVersion = '2.8.5'
kotlinVersion = '1.3.0'
lifecycleVersion = '1.1.1'
okHttpVersion = '3.11.0'
}
dependencies {
...
classpath "org.jetbrains.kotlin:kotlin-gradle-plugin:$kotlinVersion"
}
}
2.AndroidManifest 配置
添加权限
<uses-permission android:name="android.permission.ACCESS_NETWORK_STATE" />
<uses-permission android:name="android.permission.INTERNET" />
<uses-permission android:name="android.permission.RECORD_AUDIO" />
<uses-permission android:name="android.permission.WRITE_EXTERNAL_STORAGE" />
<uses-permission android:name="android.permission.READ_EXTERNAL_STORAGE" />
<uses-permission android:name="android.permission.MODIFY_AUDIO_SETTINGS" />
<uses-permission android:name="android.permission.BROADCAST_STICKY" />
<uses-permission android:name="android.permission.BLUETOOTH" />
其中 RECORD_AUDIO 和 WRITE_EXTERNAL_STORAGE 权限需要动态申请
3. 代码混淆配置
代码混淆文件 proguard-project.txt,添加如下内容
# Gson
-keepattributes Signature
-keepattributes *Annotation*
-keep class sun.misc.Unsafe { *; }
-keep class com.google.gson.stream.** { *; }
#okhttp3
-dontwarn com.squareup.okhttp3.**
-keep class com.squareup.okhttp3.** { *;}
-dontwarn okhttp3.**
-dontwarn okio.**
-dontwarn javax.annotation.**
-dontwarn org.conscrypt.**
#lifecycle
-keep public class android.arch.lifecycle.** {
public protected *;
}
-keepclassmembers class ** {
@android.arch.lifecycle.OnLifecycleEvent public *;
}
#kotlin
-dontwarn kotlin.**
#AsrSdk
-keep class com.youdao.ydasr.** { *; }
-keep interface com.youdao.ydasr.** { *; }
-keep class com.youdao.audio.** { *; }
-keep interface com.youdao.audio.** { *; }
使用说明
// 创建asr返回接口,如果不想实现所有接口,可以使用实现 OptionalAsrListener
private AsrListener mAsrListener = new AsrListener() {
// 开始识别回调
@Override
public void onAsrStart() {}
// 重连后再次连接成功回调
@Override
public void onAsrRestart() {}
// 结束识别回调
@Override
public void onAsrStop() {}
// 正在重连提示
@Override
public void onAsrReconnecting() {}
// 错误回调
@Override
public void onAsrError(@NotNull AsrResultCode error) {
// ASR结果回调 识别结果:result.getResult().getContext()
// 翻译结果:result.getResult().getTranContent()
@Override
public void onAsrNext(@NotNull AsrResult result, boolean isPartial) {}
// 音量变化回调
@Override
public void onAsrVolumeChange(float volume) {}
// 后端点静音回调
@Override
public void onAsrSilentEnd() {}
// 前端点静音回调
@Override
public void onAsrSilentStart() {}
// 连接上蓝牙麦克风提示
@Override
public void onBluetoothAudioConnected() {}
// 蓝牙麦克风断开提示
@Override
public void onBluetoothAudioDisconnected() {}
};
// 在onCreate中调用,创建AsrManager,并注册生命周期观察
asrParams = new ASRParams.Builder()
.transPattern(transPattern) //翻译模式 支持实时(stream)和整句(sentence)翻译
.timeoutStart(5000L)
.timeoutEnd(10000L)
.sentenceTimeout(3000L)
.connectTimeout(10000L)
.isWaitServerDisconnect(true)
.build();
mAsrManager = AsrManager.getInstance(this, "your appKey", asrParams, mAsrListener);
getLifecycle().addObserver(mAsrManager);
//设置是否添加头文件
mAsrManager.addWavHead = true;
//设置源语言和目标语言 FROM源语言,TO目标语言,当前已支持多达80余种语言的互译
mAsrManager.setASRLanguage(from, to);
//如果是本地已经录制好的文件不需要加头,其余情况需要添加头文件
mAsrManager.addWavHead = true;
// 开始连接(注:先连接,后插入数据流)
mAsrManager.startConnect();
// 停止识别
mAsrManager.stop();
// 数据实时翻译
mAsrManager.insertAudioBytes(bytes);
注:音频目前仅支持 16k 采样率,通过手机录音获取的音频需要添加头文件,本地文件不需要头文件
support library 26.1.0 以下处理办法
针对 support library 26.1.0 以下,请使用这个版本去除 lifecycle 依赖版本
同时需要去除 lifecycle 依赖:
dependencies {
...
// implementation "android.arch.lifecycle:extensions:$lifecycleVersion"
// implementation "android.arch.lifecycle:common-java8:$lifecycleVersion"
implementation "com.squareup.okhttp3:okhttp:$okHttpVersion"
implementation "com.google.code.gson:gson:$gsonVersion"
implementation "org.jetbrains.kotlin:kotlin-stdlib:$kotlinVersion"
// implementation (name:'ydaudiosdk-release', ext:'aar')
implementation (name:'ydasrsdk-release', ext:'aar')
// kapt "android.arch.lifecycle:compiler:$lifecycleVersion"
}
并在调用过程中去除
// getLifecycle().addObserver(mAsrManager);
并添加:
@Override
protected void onDestroy() {
mAsrManager.destroy();
super.onDestroy();
}
识别结果说明
| 参数 | 含义 | 说明 |
|---|---|---|
| bg | 分句开始时间 | 单位毫秒/ms |
| ed | 分句结束时间 | 单位毫秒/ms |
| context | 识别结果 | |
| tranContent | 翻译结果 | |
| partial | 是否是中间结果 | true:中间结果;false:完整句子 |
| segId | 分句 id | 从 0 开始递增 |
支持语言
| 代码 | 语言 |
|---|---|
| zh-CHS | 简体中文 |
| en | 通用英文 |
| enzh | 中英混合 |
| ar-IL | 阿拉伯语(以色列) |
| ar-JO | 阿拉伯语(约旦) |
| ar-AE | 阿拉伯语(阿拉伯联合酋长国) |
| ar-BH | 阿拉伯语(巴林) |
| ar-DZ | 阿拉伯语(阿尔及利亚) |
| ar-SA | 阿拉伯语(沙特阿拉伯) |
| ar-IQ | 阿拉伯语(伊拉克) |
| ar-KW | 阿拉伯语(科威特) |
| ar-MA | 阿拉伯语(摩洛哥) |
| ar-TN | 阿拉伯语(突尼斯) |
| ar-OM | 阿拉伯语(阿曼) |
| ar-PS | 阿拉伯语(巴勒斯坦国) |
| ar-QA | 阿拉伯语(卡塔尔) |
| ar-LB | 阿拉伯语(黎巴嫩) |
| ar-EG | 阿拉伯语(埃及) |
| pl | 波兰语(波兰) |
| da | 丹麦语(丹麦) |
| de | 德语(德国) |
| ru | 俄语 |
| fr | 法语(法国) |
| fr-CA | 法语(加拿大) |
| fi | 芬兰语(芬兰) |
| ko | 韩语(韩国) |
| nl | 荷兰语(荷兰) |
| cs | 捷克语(捷克共和国) |
| hr | 克罗地亚语(克罗地亚) |
| lv | 拉脱维亚语(拉脱维亚) |
| ro | 罗马尼亚语(罗马尼亚) |
| ms | 马来语(马来西亚) |
| pt-BRA | 葡萄牙语(巴西) |
| pt | 葡萄牙语(葡萄牙) |
| ja | 日语(日本) |
| sv | 瑞典语(瑞典) |
| te | 泰卢固语(印度) |
| ta | 泰米尔语(印度) |
| ta-SG | 泰米尔语(新加坡) |
| ta-LK | 泰米尔语(斯里兰卡) |
| ta-MY | 泰米尔语(马来西亚) |
| th | 泰语(泰国) |
| tr | 土耳其语(土耳其) |
| es | 西班牙语(西班牙) |
| es-AR | 西班牙语(阿根廷) |
| es-BO | 西班牙语(玻利维亚) |
| es-CL | 西班牙语(智利) |
| es-COL | 西班牙语(哥伦比亚) |
| es-CR | 西班牙语(哥斯达黎加) |
| es-EC | 西班牙语(厄瓜多尔) |
| es-SV | 西班牙语(萨尔瓦多) |
| es-US | 西班牙语(美国) |
| es-GT | 西班牙语(危地马拉) |
| es-HN | 西班牙语(洪都拉斯) |
| es-MEX | 西班牙语(墨西哥) |
| es-NI | 西班牙语(尼加拉瓜) |
| es-PA | 西班牙语(巴拿马) |
| es-PY | 西班牙语(巴拉圭) |
| es-PE | 西班牙语(秘鲁) |
| es-PR | 西班牙语(波多黎各) |
| es-DO | 西班牙语(多米尼加共和国) |
| es-UY | 西班牙语(乌拉圭) |
| es-VE | 西班牙语(委内瑞拉) |
| it | 意大利语(意大利) |
| hi | 印地语(印度) |
| en-AUS | 英语(澳大利亚) |
| en-CA | 英语(加拿大) |
| en-GH | 英语(加纳) |
| en-GBR | 英语(英国) |
| en-IND | 英语(印度) |
| en-IE | 英语(爱尔兰) |
| en-KE | 英语(肯尼亚) |
| en-NZ | 英语(新西兰) |
| en-NG | 英语(尼日利亚) |
| en-PH | 英语(菲律宾) |
| en-SG | 英语(新加坡) |
| en-ZAF | 英语(南非) |
| en-TZ | 英语(坦桑尼亚) |
| en-US | 英语(美国) |
| vi | 越南语(越南) |
| zh-TWN | 台湾普通话(中国台湾) |
| lo | 老挝语(老挝) |
| bn | 孟加拉语(孟加拉) |
| bn-IN | 孟加拉语(印度) |
| tl | 菲律宾语 |
错误代码列表
| 错误码 | 含义 |
|---|---|
| 101 | 缺少必填的参数 |
| 102 | 不支持的语言类型 |
| 103 | 翻译文本过长 |
| 104 | 不支持的 API 类型 |
| 105 | 不支持的签名类型 |
| 106 | 不支持的响应类型 |
| 107 | 不支持的传输加密类型 |
| 108 | 应用 ID 无效,注册账号,登录后台创建应用和实例并完成绑定,可获得应用 ID 和应用密钥等信息 |
| 109 | batchLog 格式不正确 |
| 110 | 无相关服务的有效实例 |
| 111 | 开发者账号无效 |
| 113 | q 不能为空 |
| 114 | 不支持的图片传输方式 |
| 201 | 解密失败,可能为 DES,BASE64,URLDecode 的错误 |
| 202 | 签名检验失败 |
| 203 | 访问 IP 地址不在可访问 IP 列表 |
| 205 | 请求的接口与应用的平台类型不一致,如有疑问请参考入门指南 |
| 206 | 因为时间戳无效导致签名校验失败 |
| 207 | 重放请求 |
| 301 | 辞典查询失败 |
| 302 | 翻译查询失败 |
| 303 | 服务端的其它异常 |
| 304 | 会话闲置太久超时 |
| 401 | 账户已经欠费停 |
| 402 | offlinesdk 不可用 |
| 411 | 访问频率受限,请稍后访问 |
| 412 | 长请求过于频繁,请稍后访问 |
| 1001 | 无效的 OCR 类型 |
| 1002 | 不支持的 OCR image 类型 |
| 1003 | 不支持的 OCR Language 类型 |
| 1004 | 识别图片过大 |
| 1201 | 图片 base64 解密失败 |
| 1301 | OCR 段落识别失败 |
| 1411 | 访问频率受限 |
| 1412 | 超过最大识别字节数 |
| 2003 | 不支持的语音声道 |
| 2004 | 不支持的语音上传类型 |
| 2005 | 不支持的语言类型 |
| 2006 | 不支持的识别类型 |
| 2201 | 识别音频文件过大 |
| 2301 | 识别音频时长过长 |
| 2411 | 不支持的音频文件类型 |
| 2412 | 不支持的发音类型 |
| 3001 | 不支持的语音格式 |
| 3002 | 不支持的语音采样率 |
| 3003 | 不支持的语音声道 |
| 3004 | 不支持的语音上传类型 |
| 3005 | 不支持的语言类型 |
| 3006 | 不支持的识别类型 |
| 3007 | 识别音频文件过大 |
| 3008 | 识别音频时长过长 |
| 3009 | 不支持的音频文件类型 |
| 3010 | 不支持的发音类型 |
| 3201 | 解密失败 |
| 3301 | 语音识别失败 |
| 3302 | 语音翻译失败 |
| 3303 | 服务的异常 |
| 3411 | 访问频率受限,请稍后访问 |
| 3412 | 超过最大请求字符数 |
| 4001 | 不支持的语音识别格式 |
| 4002 | 不支持的语音识别采样率 |
| 4003 | 不支持的语音识别声道 |
| 4004 | 不支持的语音上传类型 |
| 4005 | 不支持的语言类型 |
| 4006 | 识别音频文件过大 |
| 4007 | 识别音频时长过长 |
| 4201 | 解密失败 |
| 4301 | 语音识别失败 |
| 4303 | 服务的异常 |
| 4411 | 访问频率受限,请稍后访问 |
| 4412 | 超过最大请求时长 |
| 5001 | 无效的 OCR 类型 |
| 5002 | 不支持的 OCR image 类型 |
| 5003 | 不支持的语言类型 |
| 5004 | 识别图片过大 |
| 5005 | 不支持的图片类型 |
| 5006 | 文件为空 |
| 5201 | 解密错误,图片 base64 解密失败 |
| 5301 | OCR 段落识别失败 |
| 5411 | 访问频率受限 |
| 5412 | 超过最大识别流量 |
| 9001 | 不支持的语音格式 |
| 9002 | 不支持的语音采样率 |
| 9003 | 不支持的语音声道 |
| 9004 | 不支持的语音上传类型 |
| 9005 | 不支持的语音识别 Language 类型 |
| 9301 | ASR 识别失败 |
| 9303 | 服务器内部错误 |
| 9411 | 访问频率受限(超过最大调用次数) |
| 9412 | 超过最大处理语音长度 |
| 10001 | 无效的 OCR 类型 |
| 10002 | 不支持的 OCR image 类型 |
| 10004 | 识别图片过大 |
| 10201 | 图片 base64 解密失败 |
| 10301 | OCR 段落识别失败 |
| 10411 | 访问频率受限 |
| 10412 | 超过最大识别流量 |
| 11001 | 不支持的语音识别格式 |
| 11002 | 不支持的语音识别采样率 |
| 11003 | 不支持的语音识别声道 |
| 11004 | 不支持的语音上传类型 |
| 11005 | 不支持的语言类型 |
| 11006 | 识别音频文件过大 |
| 11007 | 识别音频时长过长,最大支持 30s |
| 11201 | 解密失败 |
| 11301 | 语音识别失败 |
| 11303 | 服务的异常 |
| 11411 | 访问频率受限,请稍后访问 |
| 11412 | 超过最大请求时长 |
| 12001 | 图片尺寸过大 |
| 12002 | 图片 base64 解密失败 |
| 12003 | 引擎服务器返回错误 |
| 12004 | 图片为空 |
| 12005 | 不支持的识别图片类型 |
| 12006 | 图片无匹配结果 |
| 13001 | 不支持的角度类型 |
| 13002 | 不支持的文件类型 |
| 13003 | 表格识别图片过大 |
| 13004 | 文件为空 |
| 13301 | 表格识别失败 |
| 15001 | 需要图片 |
| 15002 | 图片过大(1M) |
| 15003 | 服务调用失败 |
| 17001 | 需要图片 |
| 17002 | 图片过大(1M) |
| 17003 | 识别类型未找到 |
| 17004 | 不支持的识别类型 |
| 17005 | 服务调用失败 |
| -1000 | 未知错误 |
| -2000 | 查询输入为空 |
关于 Demo 中本地文件识别命名规则说明
将 wav 后缀文件储存至手机存储的 ydasrDemo/temp 目录下,将文件名改成对应 from 语言的对应参数时,可自动根据所选 from 语言种类自动选择相对应的音频文件。
例如:该目录下存在 da.wav 的音频文件。当选择 from 语言为丹麦语(丹麦)时,点击翻译本地文件按钮后,自动开始翻译 da.wav 文件。
版本更新记录
| 上线日期 | 版本号 | 更新内容 |
|---|---|---|
| 2019.06.20 | v1.0.0 | 支持实时语音翻译和整句翻译 |
| 2019.09.19 | v1.1.0 | 扩充小语种 |