Wonder Journey
Wonder Journey简介
Wonder Journey,只需要1张图片或段文字描述就可以创建3D场景动画,这是一个用于永久场景生成的模块化框架,由斯坦福大学和谷歌联手打造,是一项突破性项目。
Wonder Journey网址体验入口:https://kovenyu.com/wonderjourney
与之前专注于单一类型场景的视图生成工作不同, 我们从用户提供的任何位置(通过文本描述或图像)开始, 并通过一长串不同但连贯相连的 3D 场景生成旅程。 我们利用LLM来生成这个旅程中场景的文本描述, 文本驱动的点云生成管道,用于制作引人入胜且连贯的 3D 场景, 每个场景都充满多样性且紧密相连,以及一个大型 VLM,用于验证生成的场景。 我们在各种场景类型和风格中展示引人注目的、多样化的视觉效果,形成想象中的“奇妙旅程”。
Wonder Journey 的独特之处在于它可以灵活地从任何位置启动,无论是图像还是文本描述。这开启了一场“奇妙之旅”——沿着相机轨迹的一系列 3D 场景,展示了多样化但相互关联的景观。
从任意位置(由文本或图像指定)开始,Wonder Journey 生成一系列 沿着相机轨迹的多样化但连贯相连的 3D 场景(即“奇妙之旅”)。 我们使用来回的摄像机轨迹来渲染“奇妙之旅”。
Wonder Journey 可以合成长篇“wonder journeys”。 将鼠标悬停在视频上可暂停自动滑动。
从同一位置开始,Wonder Journey 可以生成 一系列多样化的“奇妙之旅”,在不同的目的地结束。我们使用相机姿势的轨迹来渲染下面的每个视频。 将鼠标悬停在视频上可暂停自动滑动。
Wonder Journey 还可以生成受控的 wonder journeys 给定一系列文本描述,例如诗歌、俳句和故事摘要。 将鼠标悬停在视频上可暂停自动滑动。此功能允许用户影响旅程的主题方向和进展,使其不仅成为探索的工具,而且成为讲故事和艺术表达的工具。