亚马逊AI语音新技术录音合法性引人们担忧

2022-06-24  来源:网络 浏览次数:
“6月24日消息,当地时间周三,亚马逊AI语音数字助理Alexa可模仿任何声音的人性化演示文稿在网络上引起巨大反响,人们对于是否可能出现伪造声音的情况表示担忧,例如使用合法录音来”

6月24日消息,当地时间周三,亚马逊AI语音数字助理Alexa可模仿任何声音的人性化演示文稿在网络上引起巨大反响,人们对于是否可能出现伪造声音的情况表示担忧,例如使用合法录音来模仿人们说他们实际上没有说过的话,来实施绑架诈骗或在公司重大决策中伪造音频。

format-jpg

据悉,亚马逊高级副总裁罗希特・普拉萨德(Rohit Prasad)周三透露其公司正在开发一种系统,可使AI语音数字助理Alexa在听不到一分钟音频后模仿任何声音。

该技术研发的消息公布时,人们只是简单地想到其带来的好处,Alexa的首席科学家Rohit Prasad也在周三的公司演示中充分展示了数字助理的人性化,演示了Alexa冒充一位祖母阅读《绿野仙踪》摘录的画面。

他表示,同理心和情感等人类特征是与人建立信任的关键,“在疫情持续的这段时间里,当我们失去了我们所爱的人时,这些属性变得更加重要”,“虽然人工智能无法消除那种失落的痛苦,但绝对可以让他们的记忆永存。”该演示给人以将该技术作为一种数字化死者复活工具的印象。

format-jpg

不过,普拉萨德在随后拉斯维加斯举行的亚马逊技术会议中表示,该服务的主要目的不是模拟死者的声音。

随着该演示在网络上发酵讨论,引发了巨大反响,与此同时出现了一些表示担忧的声音,即是否会使用合法的录音来模仿人们说他们实际上没有发声的话。

format-jpg

据了解,布法罗大学计算机科学与工程教授Siwei Lyu的研究涉及深度伪造和数字媒体取证,他表示他对这一发展感到担忧,“亚马逊开发的语音转换技术肯定有好处,但我们应该意识到潜在的误用,例如绑匪可以在电话中伪装成家人或朋友来引诱不知情的受害者,或者高层管理人员在对公司财务状况发表言论时伪造录音,可能会使股市出现问题。”

为本文评分

评论

澳通用户[field:writer/]
澳通504236

泉州到香港包车,泉州发货到香港

[发表于6分钟前]
1 11
澳通用户[field:writer/]
澳通788459

美国亚马逊FBA海运双清包税到门 中国出美国海运物

[发表于46分钟前]
00 00
澳通用户[field:writer/]
澳通498905

深圳南山发试剂盒到荷兰快递服务

[发表于7小时前]
14 00

我来写评论

我来写评论
提交评论
关注微信

猜你喜欢

  Alexa      伪造音频      亚马逊      录音合法性   
请进
提交留言