澎湃Logo
下载客户端

登录

  • +1

Pika推出音画同步新功能一天后,翻车视频来了

2024-03-11 16:36
来源:澎湃新闻·澎湃号·湃客
字号

机器之心报道

编辑:杜伟、陈萍

Pika 的音效新功能「Sound Effects」,有大大的惊喜,也有小小的「惊吓」。

Sora 的出现让文生视频模型及应用火了起来。不过,此类模型生成的视频大多数都是无声的。因此,人们开始探索为 AI 生成的视频「配音」。

这一领域的代表有 AI 语音克隆初创公司 ElevenLab,此前该公司为 Sora 的演示视频生成配音,音效与视频画面几乎没有违和感。

现在,曾经引爆了 AI 圈的视频生成初创公司 Pika 终于有了新动作 —— 推出 Sound Effects,可以为 Pika 生成的视频无缝加音效了。

Pika 生成音效的方式有两种:一种是给出 prompt,描述你想要听到的声音;一种是直接根据视频内容自动生成声音。

至于音效与视频内容的匹配效果如何?我们先一睹为快。

不过,Pika 的 Sound Effects 功能只对超级合作者(Super Collaborator)和 Pro 用户开放测试。普通用户只能再等等了。

目前,Pika 官方放出了许多 Demo。

体验地址:https://pika.art/

例如滋滋啦啦的烤肉声音,还能隐约看到烤肉时冒出的烟雾,高清的画面配上逼真的音效,让人顿时感觉焦酥,鲜咸,麻辣涌入舌尖:

如果你想换个声音,也没问题,点击视频下方的 Redo 按钮,在出现的对话框中,输入你想要的音频描述就可以了:

小青蛙趴在荷叶上呱呱的叫,如果你仔细聆听,还能听见远处的蝉鸣声(不过生成的视频看起来缺陷很明显,例如荷叶是红色的,青蛙腹部有腿):

烟花在空中绽放,绽放瞬间发出响亮的爆竹声,点卡的很准:

以上只是官方示例,生成的音频效果到底如何,我们还得看看第一波体验用户的真实感受。

第一批试用体验出炉:有惊喜,也有翻车

在 Pika 推出 Sound Effects 功能之后,第一批试用用户已经晒出了他们加上音效的 AI 视频。

比如用户 @TomLikesRobots 生成的雨中人物视频,他表示音效似乎与视频非常匹配,增添了很多氛围感。

比如用户 @RetropunkAI 生成的兔子大片,生成的音效非常有趣。

比如用户 @AiFreak_tool,为生成的视频添加了不同的音效。

当然,Sound Effects 生成的音效并不总是能够契合视频主题和画面,比如下面这个示例。

图源:@TomLikesRobots

还有用户 @DavidmComfort,他表示生成音效有时会驴头不对马嘴,但毕竟 beta 阶段,情有可原。

原标题:《Pika推出音画同步新功能一天后,翻车视频来了》

阅读原文

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    收藏
    我要举报

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602000299号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2024 上海东方报业有限公司

            反馈