最近更傳出Reality Labs部門將重整,要終止或延後部分專案,專注在核心產品開發。 最近,Meta首度公開了Reality Labs部門歷年的研發成果,來消弭外界對發展不順的質疑。 Quest Pro 2 個 LCD 顯示器提供 1800×1920 解析度,每英寸像素(pixels per inch,PPI)較 Quest 2 增加 37%,每度像素(pixels per degree)則多 10%,無論是閱讀文字或玩遊戲的畫質皆有提升。
- 有別於Tobii等廠商的「主流」技術,見臻不走尋常路,從成立之初至今,堅持不使用任何紅外線光源,只靠二顆鏡頭搭配自家演算法運作,盡可能降低模組的體積與重量,力求讓眼鏡變得更輕、更簡單。
- 不管是,你遠方家庭成員,或是專案協作的對象,你喜歡的藝術家,都可以讓他們跟你有同在一個物理空間存在的感覺。
- 控制器配備新的 Meta TruTouch Haptics 升級觸覺回饋系統,提供更廣泛與更精確的回饋範圍。
- 可是一但採用了變焦鏡頭,要隨著使用者的眼球來修正聚焦的物體,連動到虛擬影像的失真情況,也會隨著眼睛移動,查看不同方向而發生不同的失真變化。
- 而在全球屈指可數的眼球追蹤廠商中,由台大師生組成的見臻,技術實力深獲奇景、仁寶、緯創青睞,領先競爭同業,打造出全球第一支輕薄型眼球追蹤AR眼鏡。
Meta在2015年打造出的第一款變焦VR眼鏡原型,裝上馬達來改變顯示器鏡頭位置,非常笨重,但從此確定了變焦是可以更接近真實的未來技術目標。 Meta 創辦人暨執行長祖克柏(Mark Zuckerberg)12 日凌晨親自揭曉全新 VR 頭戴式裝置──Meta Quest Pro,具強大 MR 體驗的高解析度感應器、清晰視覺效果的 LCD 顯示器,眼球追蹤與自然臉部表情幫助用戶的虛擬替身更自然地在虛擬世界反映出各種變化。 即日起 Quest Pro 於台灣在內的 22 個市場開放預購、10 月 25 日出貨,在台訂購的售價達到 1,650 美元、折合台幣約 52,625 元,整套包括頭戴式裝置、Quest Touch Pro 控制器、筆尖套、局部遮光罩、充電座。
眼球追蹤: 眼動測量儀的種類
「2017年我們就在開發(眼球追蹤)了,那時也不確定用法,但總要先釋出硬體,才能讓開發者找出應用。」hTC全球產品策略發展負責人葉申說道。 2年後,hTC正式發表全球第一款搭載眼球追蹤技術的VR眼鏡—VIVE Pro Eye,售價飆破新台幣4萬元,堪稱當時旗下最貴的VR產品。 祖克柏展示一款VR眼鏡原型概念設計Mirror Lake,集結了過去7年的研究成果,整合到一個小巧、方便穿戴的護目鏡眼鏡設計,來提供混合實境的真實3D顯示方式,但目前還沒實作。 2017年春天Meta找了60個受試者體驗動態變焦的VR眼鏡,Half Doom Zero眼鏡 ,這是第一次的大規模VR原型使用者體驗測試。 為了了解變焦如何提升VR的體驗,必須要先打造出一款更小更輕的眼鏡裝置,Marina Zannoli解釋,重量和形式必須接近Oculus Rift,但不能有變焦馬達的噪音和震動,後來,就發展出了Half Doom Zero這款變焦VR眼鏡。
- 定位上 Quest 2 鎖定偏愛健身、遊戲以及其他娛樂的客群,Quest Pro 則是能夠負擔得起更高價格的企業和專業人士。
- 「繼AR、VR之後,眼球追蹤下一個『潛力舞台』,將是車輛安全應用。」蘇亦堂樂觀看待。
- 2015年開始銷售第一款VR頭盔Oculus Rift的時候,當時,Meta就發現到對焦距離的挑戰。
- 此外,受疫情影響,人人都想減少「觸摸」,已有手機大廠考慮未來靠眼睛也能「滑手機」,「過去三星和華為有推出類似功能,但時間太早了,現在還在等待時機點,讓眼球追蹤『捲土重來』!」1位市場人士透露。
- 毫無疑問,如今畫面解析度上看8K、360度無死角的VR眼鏡,時時刻刻都得花費龐大運算力呈現畫面場景,但人類眼球能看到的範圍其實非常有限、僅10到20度,根本不到全畫面的5%;眼球追蹤可做到的第一點是「注視點渲染」,只讓用戶注視的畫面範圍清晰即可,此舉可大幅減少運算,省下至少10倍的電力。
- 史塔克(Tony Stark)只要眼睛看向某物,面罩內的螢幕畫面上便會自動顯示它的各項數據及資訊;動一動眼球、多看一秒鐘,眼神就跟「按下滑鼠左鍵」和「手指螢幕點二下」一樣,能直接鎖定目標,出擊作戰。
這台眼動儀的原理是,將一束光打到眼睛表面,然後使用膠捲記錄從眼睛反射回來的光,據此分析眼睛注視點的位置。 巴斯韋爾對人們進行文字閱讀[3]和瀏覽照片[4]時的眼動狀況做了系統的研究。 1879年,法國巴黎的眼科醫生賈馮(Louis Émile Javal)發現人們在閱讀文字的時候,眼睛的注視點並不是平滑的划過所注視的文字,而是在某一點停留一段時間(注視),然後進行一詞快速眼動切換[1] 。 人們根據這項發現提出了關於文字閱讀的許多被認為重要的問題:人們的眼睛遇到哪些單詞會停下來? 這個研究也準備了特定的VR展示影片,並鼓勵測試者觀察他們周遭很近的東西,因為這是過去VR世界的使用者會避免做的事,來自原有定焦系統VR眼鏡的限制。 Half Doom Zero眼鏡比原本變焦眼鏡的原型小了4倍,而且完全跟當時所有Rift遊戲相容,也有非常好的對焦能力。
眼球追蹤: 全新 Tobii Eye Tracker 4C 眼球追蹤儀 眼動儀 眼控儀開發套件
不過,新世代視覺體驗的挑戰不只是解析度而已,甚至還有一些平面顯示裝置不會出現的挑戰。 例如,VR眼鏡獨特的挑戰是VR所用的鏡片是曲線鏡,會造成影像變形,就得靠軟體來校正,但是,這個變形還會隨著眼睛移動而改變,長時間配戴看到失真影像,會造成不舒服、疲勞的感覺。 另一個挑戰是對焦的挑戰,眼睛會想要對焦物體,但是,顯示器是以固定距離來投影,就得解決不同距離的聚焦問題。 Michael Abrash表示,Meta研發VR眼鏡七年來所遇到的顯示系統挑戰,除了解析度、變焦到失真校正的課題,還有一個很重要的挑戰就是HDR(高動態範圍),這是涉及亮度和對比的問題,亮處夠亮可以感覺到顏色清楚,而暗處夠暗才會讓場景變得栩栩如生。 當前的挑戰是,「 螢幕生動的程度,跟真實世界相比,有相當大的差異。」目前高階電視的亮度可以達到1萬尼特,電視產業也往HDR的方向前進,但當前Quest VR眼鏡的亮度只有100尼特,要提供HDR的亮度,也需要在電池跟重量之間取得平衡。
特別的是,控制器中的 3 個內建感應器,將獨立於頭戴式裝置之外,自我追蹤在 3D 空間中的位置,讓用戶在所有的 VR App 體驗中,都能在完整的 360 度行動範圍內被穩定追蹤。 無論在 Horizon Workrooms 的虛擬辦公室中工作,或與無法實體碰面的親朋好友在虛擬世界相聚,擁有外型看起來像本人,而且可以像在真實世界般行動與表現自我的虛擬替身(Avatar)是相當重要的。 透過 Quest Pro 的眼球追蹤與自然臉部表情(Natural Facial Expressions)技術,強化虛擬替身的臉部表情,能有微笑、眨眼、挑眉等表現,讓用戶也能在虛擬世界中展現真實自我。 據可靠消息指出,包括廣達、鴻海在內等電子五哥,也都和Tobii接洽導入相關技術,預計在近1、2年內,就將看到台灣本土的眼球追蹤AR、VR裝置問世,像是各式商用、供3D空間使用的AR眼鏡。 「若以後都要戴著眼鏡出門,在捷運、餐廳、便利商店等公共場合,覺得用『手勢操作』太高調誇張,眼球追蹤就很適合!現在其實已有很多用法,未來在元宇宙中只會更重要,預計1到3年內,應該就會在2C(to consumer)的裝置上被廣泛採用。」葉申說道。 臉書曾有一款原型產品,稱為Butterscotch,可以提供超高解析度,來達到1.0視力的文字辨識效果,這是2015年時的Rift眼鏡或是當前的Quest 2眼鏡就都達不到的效果,可以看清楚視力檢測表上1.0的文字。
眼球追蹤: Tobii Eye tracker 5 新款眼球追蹤儀 眼動追蹤儀 眼控儀
「只有一個部分沒有做好,實境感覺就會消失,這種實境破壞感,比2D平面更明顯。」祖克柏坦言,這就是真實感VR眼鏡的嚴峻挑戰,需要軟體、晶圓技術、感應器等各種技術的合作。 Quest Pro 擁有全新的感應器架構,配備高解析度的對外攝影機,可捕捉的像素為 Quest 2 對外攝影機的 4 倍,進而打造高解析度、全彩的 MR(Mixed Reality,混合實境)體驗。 Quest 2 的穿透模式僅限於黑白模式查看裝置外的實體環境,但使用 Quest Pro 則可透過全彩模式觀看周遭環境,也有助於開發者運用 Meta 的 Presence Platform 工具套件,打造更強大的 MR 體驗。 史塔克(Tony Stark)只要眼睛看向某物,面罩內的螢幕畫面上便會自動顯示它的各項數據及資訊;動一動眼球、多看一秒鐘,眼神就跟「按下滑鼠左鍵」和「手指螢幕點二下」一樣,能直接鎖定目標,出擊作戰。 Quest Pro 是首款搭載高通 Snapdragon XR2+ 晶片的裝置,特別針對 VR 進行最佳化,效能較 Quest 2 高 50%,散熱更佳,因此性能大幅提升。
Quest Pro 還配備 12GB 眼球追蹤 記憶體、256GB 儲存空間,以及 10 個高解析度的感應器(頭戴式裝置內部 5 個、外部 5 個),有助於提供多樣化的沉浸式體驗。 此外,受疫情影響,人人都想減少「觸摸」,已有手機大廠考慮未來靠眼睛也能「滑手機」,「過去三星和華為有推出類似功能,但時間太早了,現在還在等待時機點,讓眼球追蹤『捲土重來』!」1位市場人士透露。 「眼球絕對是AR未來最重要的人機操作介面,當機器快速知道你的注意力在哪裡,才能即時給你想要的資訊。你想想看,如果你在趕公車,卻不知道眼前這一班車能不能到目的地,等打開Google Maps查完,車已經走了,如果你眼睛看向車牌,就能立馬在眼鏡內顯示所有停靠站點,這才是『虛實互動』的未來。」梁文隆總結道。 有別於Tobii等廠商的「主流」技術,見臻不走尋常路,從成立之初至今,堅持不使用任何紅外線光源,只靠二顆鏡頭搭配自家演算法運作,盡可能降低模組的體積與重量,力求讓眼鏡變得更輕、更簡單。 從實驗室走向市場,一路磕磕碰碰,即便眾多舉足輕重的大廠都來接洽並嘗試合作,但都仍處在「蜻蜓點水」的階段。
眼球追蹤: [歐洲原裝全新] Tobii Eye Tracker 5 眼球追蹤儀
不只如此,「一旦可以打造出真實感的VR顯示器,就可以創造新一代的視覺體驗。」祖克柏補充,文化會適應科技所帶來的深度和豐富性,當新一代科技出現,就會帶來新的藝術和表現形式,每一個人都希望被了解,這個真實感VR顯示器,會成為一種強大的工具,可以用一種近似現實的方法來表達自己。 Meta執行長祖克柏強調,我們的目標是打造出通過視覺圖靈測試的次世代VR體驗,這是目前還不存在的未來技術。 祖克柏(Mark Zuckerber)日前公開表示,透過Zoom等通話軟體聯絡,因為沒有「眼神交流」,只會讓人感到疏遠,未來在VR社交中,眼球追蹤功能可以抓到真人細膩的眼神變化和臉部表情,讓虛擬人同步呈現,將是Meta下一代Oculus Quest產品的亮點。 毫無疑問,如今畫面解析度上看8K、360度無死角的VR眼鏡,時時刻刻都得花費龐大運算力呈現畫面場景,但人類眼球能看到的範圍其實非常有限、僅10到20度,根本不到全畫面的5%;眼球追蹤可做到的第一點是「注視點渲染」,只讓用戶注視的畫面範圍清晰即可,此舉可大幅減少運算,省下至少10倍的電力。 第一台非侵入式的眼動儀是巴斯韋爾(Guy Thomas Buswell)在芝加哥發明的。
Meta目前最先進的VR裝置原型HoloCake 2,採用餅乾式全像技術,也需要搭配特殊雷射光源來提供全像呈現所需,不同於今天VR眼鏡慣用的LED光源。 經過使用者實驗後發現,使用變焦系統比較不會累,也比較不會出現模糊的視線,使用者更容易跟蹤物件,在VR世界中閱讀文字也更比定焦系統更容易,可以對物件的反應更快速。 雖然這款VR眼鏡仍有噪音和震動的問題,不過,這次使用者研究,多數人可以接受噪音和震動下的變焦系統。 為了解決這個問題,Meta的解法是動態移動鏡片,來改變景深,就像是相機自動對焦的感覺。 後來,Meta用了1個月的時間,做出了第一款變焦的VR眼鏡原型,可以提供正確的焦深,尤其是看近的物件,會更清楚。
眼球追蹤: 功能
在全視野的表現上,Quest Pro 的中央視野清晰度提升 25%,周邊區域則提升 50%,色域擴大 1.3 倍。 蘇亦堂說,2019年歐盟要求所有歐洲出廠的車輛,都必須搭載DMS(駕駛行為偵測系統,Driver Monitoring System),他國車廠的車要賣到歐洲,也得遵循同樣的規定,最慢在2025年後,將對所有車輛全面實施。 由於眼球追蹤技術可輔助分析駕駛人當下的認知及心理狀態,包括是否夠專注、疲勞、情緒不佳等,可望獲得車廠青睞。 「我們的產品要實際配戴、實際操作才有感覺,但因疫情都只能在線上交流,其實對開發客戶來說很吃虧!但這一個成品出來,我們就可以直接寄給客戶體驗,很有意義。今年營收可以達成千萬元,預計有望賣出5千台!」簡韶逸期許道。 「這類廠商在全球非常少,屈指可數!」佐臻董事長梁文隆盤點道,但其中最有分量的廠商,無疑是全球市占第一的Tobii,不僅hTC、SONY、Pico都已經採用Tobii的產品,幾乎每一家VR大廠都正與Tobii洽談合作中。 值得一提的是,Meta 有將隱私要素納入考量,眼球追蹤與自然臉部表情預設為關閉狀態;若選擇開啟,眼球追蹤與臉部圖像也只存於頭戴式裝置上,這些資料在處理後將會被刪除,永遠不會與 眼球追蹤 Meta 或第三方 App 共享。
「繼AR、VR之後,眼球追蹤下一個『潛力舞台』,將是車輛安全應用。」蘇亦堂樂觀看待。 專攻眼球追蹤演算法的見臻,在2018年成立之初,就獲得奇景大力支持,成為其天使投資人和最大股東、握有3成股權;今年仁寶、鼎創(緯創子公司)也加入股東行列,並列第二大股東。 目前,見臻資本額高達2.4億元,不但高出新創業界平均值,更遠遠超越同為AR/VR軟體的台灣指標性新創公司iStaging(愛實境)的1億元資本額。 據Tobii統計,從2021年起,全球眼球追蹤市值複合成長率將達35%,預估10年後,總體產值將達40億美元。 VR眼鏡是Meta實現元宇宙大夢的關鍵設備,2015年就發表了所併購子公司Oculus的首款虛擬實境頭盔Rift,而Oculus團隊後來也成了Meta的VR研發部門,也就是Reality Labs。 最後,Quest Pro 將與定價近 400 美元起的 Quest 2 並列,後者仍將持續銷售。
眼球追蹤: Denny- Tobii EyeX /Eye Tracker 4C 新款眼球追蹤儀 眼動追蹤儀 眼控儀
定位上 Quest 眼球追蹤2023 2 鎖定偏愛健身、遊戲以及其他娛樂的客群,Quest Pro 則是能夠負擔得起更高價格的企業和專業人士。
不過,Mirror Lake只是一個概念設計,Meta還沒有真正實現這樣的架構。 先前就提到VR眼鏡的鏡片是曲面鏡,原本就會出現影像失真的問題,VR眼鏡大多透過軟體來修正這個影像的失真。 可是一但採用了變焦鏡頭,要隨著使用者的眼球來修正聚焦的物體,連動到虛擬影像的失真情況,也會隨著眼睛移動,查看不同方向而發生不同的失真變化。 在Meta公司Reality Labs部門實驗室中,有一面原型展示牆,陳列了實驗室設立七年來所開發的數十款VR眼鏡原型,有的輕巧如太陽眼鏡,但更多是笨重,大小不一的設備。 這是去年改名為Meta的臉書,最重要的元宇宙研發基地,Meta創辦人暨執行長祖克柏強調,我們的目標是打造出通過視覺圖靈測試的次世代VR體驗,這是目前還不存在的未來技術。 在Meta的Reality Labs團隊中還有一組人馬,負責整合科技和新的光學元件,他們的挑戰就是要盡可能減少這些光學元件的體積。