《哈利波特》世界裡有一種神奇的魔法報紙,報中照片上的人物可以動起來,看起來有點像GIF 圖。在故事裡這當然是「魔法」的功勞,現實世界中還沒有造出這樣的報紙。
不過,華盛頓大學的幾個科學家不死心,他們想用AI 演算法來讓照片中的人動起來。
這種技術叫做Photo Wake-Up。先來看一下效果,他們在照片、海報和藝術畫上都進行了實驗。
首先向我們走來的是籃球運動員庫裡,看起來是剛進了球。
然後是鋼鐵人。哎,你從太空回來了?
是超級賽亞人孫悟空!只是原地跳了幾下...... 我以為他要變身了
還有一位長相奇怪的女子,原來是畢卡索的《女孩與船》。
是不是很酷炫?這些人物就像是從畫中走出來的一樣,不僅從2D 變成了3D,還能做各種動作。
其實類似的嘗試之前就有人做過,把照片裡的2D 形象映射到3D 模型上,然後讓它們動起來。不過結果嘛,像是行屍走肉。
因為2D 形像都是從某一個固定角度去看的,用3D 模型的標準去控制,會出現不匹配的情況。更不用說畢卡索畫裡的人,根本沒有一個合適的模型來匹配。讓2D 形象動起來還有一個難點,就是身體部位的重疊部分不好控制,走路的時候哪隻手在前?哪隻手在後?還要被身體擋住。這些複雜的問題不解決,根本無法做到栩栩如生。
團隊給出的解決方案是AI 演算法。首先將2D 形象與3D 形變模型匹配,標記出身體各部位的位置。然後按照形變演算法,一步步構建網格。按照關鍵點位置控制網格,還原出皮膚資料,構建好貼圖。最後,把貼圖放回到原圖中,用演算法填充背景,人物就可以隨便跑了!
團隊還特別提到,頭部姿勢的準確性對動起來的人十分重要,因為大部分人會將注意力放在人物的臉上。因此,他們的演算法還可以辨識形象的頭部角度,還有注視方向。
為了讓這個演算法可以實際應用,團隊還提供一個調整的選項,允許使用者改動關鍵點的位置。
這項技術可以被用到AR、VR 中,配合相應設備來使用。想像一下,未來我們在博物館中看的藝術畫,可能是動起來的。
- Photo Wake-Up項目地址:https://grail.cs.washington.edu/projects/wakeup/
- 本文授權轉載自極客公園
請注意!留言要自負法律責任,相關案例層出不窮,請慎重發文!