改名 Meta 之后，Facebook 的元宇宙愿景正在一点点实现。这一次，Facebook 把目光投在了元宇宙社交上。
Meta 发布语音处理模型 XLS-R
近日，Meta 正式发布 XLS-R——一套用于各类语音任务的新型自监督模型。据悉，XLS-R 由海量公共数据训练而成(数据量是过去的十倍)，能够将传统多语言模型的语言支持量增加两倍以上。目前，XLS-R 共支持 128 种语言。
Meta 认为，语音交流是人们最自然的一种交互形式。“随着语音技术的发展，我们已经能够通过对话同自己的设备及未来的虚拟世界直接互动，由此将虚拟体验与现实世界融为一体。”
杭州互联网法院：用户在元宇宙平台发布NFT 平台应尽到审查义务:金色财经消息，4月20日，杭州互联网法院发布微信文章称，杭州互联网法院依法公开开庭审理原告奇策公司与被告某科技公司侵害作品信息网络传播权纠纷一案，并当庭宣判，判决被告立即删除涉案平台上发布的“胖虎打疫苗” NFT作品 ，同时赔偿奇策公司经济损失及合理费用合计4000元。
法院经审理认为， 被告某科技公司经营的“元宇宙”平台作为NFT数字作品交易服务平台，未尽到审查注意义务，存在主观过错，其行为已构成帮助侵权，遂作出上述判决。[2022/4/20 14:36:42]
这与扎克伯格此前宣称的“公司业务将以元宇宙优先”不谋而合。此前，扎克伯格曾概述了他建立“元世界”的计划：一个建立在我们自己的数字世界之上的数字世界，包括虚拟现实和增强现实。“我们相信元宇宙将会接替移动互联网”。
Audius与DeFi Land达成合作，将在元宇宙中建设电台:4月6日消息，去中心化流媒体应用Audius宣布与Solana链游DeFi Land达成合作，将在元宇宙中建设电台，这意味着在DeFi Land上玩游戏的人可以在享受游戏快乐的同时还能听取Audius流媒体库中数百万首歌曲。（ventsmagazine）[2022/4/7 14:09:03]
而 XLS-R 作为元宇宙社交中必不可少的一环，可以帮助母语不同的人在元宇宙无障碍对话。
值得一提的是，为了通过单一模型实现对多种语言的广泛语音理解能力，Meta 对 XLS-R 进行了微调，使其获得语音识别、语音翻译及语言识别等功能。据介绍，XLS-R 在 BABEL、CommonVoice 以及 VoxPopuli 语音识别基准测试，CoVoST-2 的外语到英文翻译基准测试，以及 VoxLingua107 语言识别基准测试中都取得了不错的成绩。
韩国信用卡公司Shinhan Card组织员工在元宇宙中进行培训:3月18日消息，韩国新韩金融集团的信用卡子公司Shinhan Card宣布，其所有员工都将前往Gather.town元宇宙接受业务运营中数据使用方面的培训。据悉，韩国NH银行、友利银行、韩亚银行、韩国国民银行均已涉足元宇宙业务。此前报道，韩国新韩银行推出其元宇宙平台。（Forkast）[2022/3/18 14:04:49]
为了尽可能降低功能访问门槛，目前，Meta 与 Hugging Face 联手发布了模型本体，并通过 fairseq GitHub repo 全面开放。
试用地址：https://huggingface.co/spaces/facebook/XLS-R-2B-22-16
微软CEO：游戏将在元宇宙平台的发展中发挥关键作用:金色财经报道，1月18日消息，微软发布声明称，将以每股95美元的价格收购动视暴雪，全现金交易总价值687亿美元。微软董事长兼首席执行官Satya Nadella表示，游戏是当今所有平台中最具活力和令人兴奋的娱乐类别，并将在元宇宙平台的发展中发挥关键作用。我们正在对世界一流的内容、社区和云进行深入投资，以开创一个新的游戏时代，将玩家和创作者放在第一位，并使游戏安全、包容并向所有人开放。[2022/1/19 8:57:52]
XLS-R 工作原理
据介绍，XLS-R 在 wav2vec 2.0 训练集上接受了超过 43 万 6 千小时的公开语音录音训练，从而实现了对语音表达的自监督学习方法。这样的训练量已经达到去年发布的当时最强的模型 XLSR-53 的 10 倍。利用从会议记录到有声读物的多种语音数据来源，XLS-R 的语言支持范围扩展到 128 种，涵盖的语种量达到前代模型的近 2.5 倍。
作为 Meta 打造的有史以来最大模型，XLS-R 中包含超过 20 亿个参数，性能远高于其他同类模型。Meta 表示，事实证明，更多参数能够更充分地体现、数据集中的各类语种。此外，Meta 还发现，规模更大的模型在单一语言预训练方面的性能也同样优于其他较小模型。
Meta 在四种主要多语言语音识别测试中对 XLS-R 做出评估，发现它在 37 种语言上获得了超越以往模型的效能。具体测试场景为：BABEL 中选取 5 种语言，CommonVoice 中选取 10 种语言，MLS 中选取 8 种语言，以及 VoxPopuli 上选取 14 种语言。
BABEL 上的单词错误率基准测试结果。XLS-R 较前代模型实现了显著改进。
此外，Meta 还评估了语音翻译模型，即将录音资料直接翻译成另一种语言。为了打造一套能够执行多种任务的模型， Meta 同时在 CoVoST-2 基准测试的数个不同翻译方向上对 XLS-R 进行了微调，使其能够在英语与多达 21 种语言之间实现内容互译。
在使用 XLS-R 对英语以外的其他语言进行编码时，获得了显著的效能提升，这也是多语言语音表达领域的一次重大突破。据 Meta 介绍，XLS-R 在低资源语言学习中实现了显著改进，例如印尼语到英语的翻译，其中 BLEU 准确率平均翻了一番。BLEU 指标的提升是指模型给出的自动翻译结果与处理同一内容的人工翻译结果间重合度更高，代表着模型在改进口语翻译能力方面迈出了一大步。
以 BLEU 指标衡量的自动语音翻译准确率，其中较高值表示 XLS-R 从高资源语言(例如法语、德语)、中资源语言(例如俄语、葡萄牙语)或低资源语言(例如泰米尔语、土耳其语)语音记录翻译至英语时的准确率。
Meta 认为，XLS-R 证明扩大跨语言预训练规模可以进一步提高低资源语言的理解性能。它不仅提高了语音识别率，同时也将由外语到英语的语音翻译准确率提高了一倍以上。
“XLS-R 是我们朝着以单一模型理解多种不同语言(语音)目标迈出的重要一步，也代表着我们在利用公共数据推进多语言预训练方面做出的最大努力。我们坚信这是一条正确的探索方向，将让机器学习应用更好地理解所有人类语音、并促进后续研究，大大降低语音技术在全球范围内、特别是服务匮乏社群中的使用门槛。我们将不断开发新方法，通过低监督学习拓展模型的语言理解能力、逐步使其覆盖全球 7000 多种语言，实现算法的持续更新。”Meta 提到。
https://ai.facebook.com/blog/xls-r-self-supervised-speech-processing-for-128-languages/
郑重声明： 本文版权归原作者所有， 转载文章仅为传播更多信息之目的， 如作者信息标记有误， 请第一时间联系我们修改或删除， 多谢。