尤其面對ChatGPT熱潮，已經順勢推動高速運算、高速傳輸等需求。 「歷史上只要有新的技術、新的趨勢出現，永遠都會伴隨新的王者。遊戲圖像介面時代出現了NVIDIA、搜索引擎出現Google、社交網站出現Facebook。」劉峻誠認為，隨著大家對AI的接受度愈來愈高，耐能有機會躋身成為一線廠。 如今的耐能團隊，有創辦人過去在韓國三星、美國高通、台灣晨星半導體等公司累積的人脈與能量，有客戶（中國騰訊）提供的上億等級數據資料庫來訓練算法，最近一年可以生產300、400萬顆AI晶片，營收主要來自美國、歐洲、日本與韓國市場。 台積電強攻3D IC，力晶集團旗下力積電與愛普成為台積電最強夥伴，三家公司已共同完成全球第一個DRAM與邏輯晶片的「真3D堆疊異質整合技術」，是業界最強的異質整合高頻寬記憶體（VHM），現已量產中，攜手搶攻高速運算、AI、網通等龐大商機。 國泰投信分析，雖然先前5G布建後尚未見到殺手級應用，但在ChatGPT橫空出世後，高速網路需求大幅竄升，相關應用瓜熟蒂落的徵兆終於顯現，今年是AI應用+5G基建技術的起點，未來必定有更多AI新應用傾巢而出，這都要仰賴更多、更廣的5G布建來支持，推升半導體、高速運算、網路伺服器等產業。
Cohere 於去年完成的 B 輪募資總計為 1.25 億美元，由著名對沖基金老虎環球（Tiger Global）領投，而目前著名 SaaS 軟體大廠 Salesforce （CRM）以接近完成一筆 2.5 億美元的投資，表示該公司同樣看好生成式 AI 的發展，預將生成式 AI 技術導入其 CRM 服務當中。 新創公司 Hugging face 就是機器學習界的 GitHub，不僅自行研發開源模型，更託管了大大小小科技公司的程式碼與模型，形成社群一般，其目的希望搭建科研與應用的橋樑。 目前投資者包括 Lux Capital、紅杉資本以及 NBA 球星 Kevin Durant 等。
高速運算晶片: 相關權證
NVIDIA加速運算一切源起於GPU、CPU及DPU晶片，DGX、HGX、EGX、RTX及AGX系統，均為HPC的相關應用。 此外，新興記憶體技術也具有實現晶片內嵌設計的潛力，可將邏輯 IC 與記憶體元件整合在同一顆晶片中。 以單一晶片就能達成運算與儲存的功能，這對於物聯網或人工智慧裝置、經常需要大量數據運算與資料儲存來說，非常具有吸引力。
四月營收表現方面，創意因客戶委託設計(NRE)業績滑落影響緣故，整體營收因而縮水至新台幣一○． 沈士傑特別指出，力旺與ARM的合作案進展方面，由於已實際導入的客戶合作案，非常成功，因此看好雙方未來會進一步擴大合作產品領域。 創意NRE第二季營收業績，與第一季表現相比，可能減少20％以上；不過，量產業績可望較第一季呈現顯著成長，成為支撐創意今年第二季營收，得以維持第一季持平水準的最大功臣。 4月營收表現方面，創意因客戶委託設計(NRE)業績滑落影響緣故，整體營收因而縮水至新台幣10.12億元，月減23.40％，與去年同期相較下，也減少6.10％。
高速運算晶片: 威鋒四月營收為歷史第三高 持續趨勢型穩健成長動能不變
以台灣半導體電子廠商而言，高速傳輸晶片主要設計供應商有祥碩、譜瑞-KY、創惟、威鋒電子等。 高速運算晶片2023 唯各家產品、技術優勢並不盡相同，進一步分析，控制晶片可分為主控端(Host)、集線器(Hub)、裝置端(Device)三大類應用別。 簡單區別可分為：Host端內建於筆電主機板中，作為各個不同類型傳輸介面間的轉換控制中心；Hub端則為自筆電所連接出來的集線器，用以連結筆電與周邊裝置(如：滑鼠、鍵盤等)；Device端部份，則包括：USB接口裝置、外接硬碟等，各家廠商彼此間布局腳步不盡相同，惟仍各具競爭優勢。 美系外資法人表示，台灣IC設計專業廠祥碩(5269)，為超微(AMD)所設計的高速傳輸相關應用介面IC業務，為其主要收入成長來源，自二○一六年開始正式出貨以來，複合平均年增率成長強勁，目前占整體營收比重已達七○％以上。 隨著下半年營運邁入成長爆發期後，因受惠採用七奈米製程、CoWoS先進封裝製程，人工智慧、高效能運算(AI/HPC)處理器NRE業務開始認列營收緣故，第三季營運料將明顯轉強。
而所有新記憶體技術都能夠對於儲存位址的資料隨機存取，也無須如目前記憶體的架構作法，採用個別保留兩個數據副本在快閃記憶體及 DRAM 的動作來實現單次存取目的。 雲端伺服器大廠緯穎財務長陳昌偉表示，ChatGPT已帶來更多AI運算需求，且耗電更高，隨之而來的溫度升高，散熱變得更重要，2022年AI伺服器占緯穎比重在20%左右，目前新開案子約有五成都是AI伺服器，可看出AI機器人風潮確實興起。 二○一○～二○一七年，因桌上型電腦、筆記型電腦出貨量縮減，因而導致ABF載板市場一度供過於求，為了避免重蹈覆轍慘痛經驗，ABF載板供應廠商的擴產步伐，踩得因此相對穩健不少，二○一八年時，ABF載板市場需求再度見到明顯提升，市場因此開始出現供需緊俏市況，待到二○一九年時，市場供給缺口更進一步放大。 其次，由於中國資料中心市場進入第二季後，拉貨就相對保守，亦有可能是中國資料中心客戶先前拉貨動能強勁，近期選擇暫停拉貨，才有該市場消息傳出。 中美衝突升溫，傳出兩大GPU晶片廠超微（AMD）、輝達（NVIDIA），恐暫停旗下所有針對AI高速運算HPC及數據中心在中國大陸市場的發貨，此舉等同掐住中國後續超級運算電腦的命根。 我們可以透過網路向伺服器發送請求（Request），伺服器會在接收到之後開始處理資料，然後發送回應（Response）給用戶。
高速運算晶片: 高速運算(HPC)核心中樞 IP廠運籌帷幄大搶商機
台灣IC載板暨印刷電路板(PCB)廠南電(8046)，法說會對營運後市釋出樂觀展望，預期受惠5G基礎建設、網通客戶需求提升，以及人工智慧(AI)、高效能運算(HPC)應用帶動特殊應用晶片(ASIC)需求擴增下，看好ABF產能現階段吃緊、供不應求情況，將可延續至二○二三年，之後才有望稍見紓緩。 另外，半導體IC晶片製造廠，為了延續知名的摩爾定律，半導體晶圓製造、封裝次產業，因此從設計、封裝製程階段著手，且日漸普及的小晶片化設計，所消耗的ABF載板數量，又高於全微縮製程。 同時，IC晶片先進封裝製程所使用ABF載板尺寸，又較原本單一晶片製造、封裝時的尺寸更為加大，而且單一封裝的IC晶片生產良率較低，預估也將進一步拉高ABF載板應用需求。
輝達（Nvidia）的H100晶片是當前AI狂潮的核心，但這款處理器少不了搭配使用特殊記憶體晶片來推動秒速的計算，而南韓記憶體晶片大廠SK海力士正是輝達頂級AI處理器晶片最新高頻寬記憶體（HBM）的主要供應商，該公司今年來股價已大漲近60%，漲幅是同業三星電子的近三倍，也遠高於美光的約30%漲幅。 晶心科瞄準三大應用板塊市場，先前所推出多款產品線，已獲得客戶導入應用，成功打入5G、雲端系統等應用領域。 而終端應用市場規模的逐步擴增，催生更多新IC技術規格與新晶圓製程，對於半導體上游具更高速功能與更多樣化型態IP的應用需求，勢必只會有增無減，再也回不去了。 毛利率方面，有機會受惠英特爾(Intel)新處理器平台「Whitley」伺服器(市場看好可望自今年第二季開始出貨放量)搭配散熱模組出貨，拉高ASP(平均銷售單季)之下，維持二二％水準，外資因此於一月下旬時維持「買進」評等，目標價上看二九○元。
高速運算晶片: 36 VIP》蘋果和三星在手機市場各憑本事 採用策略大不同
過往為了讓電子元件具有學習能力，就必須要導入記憶體元件，對場效應電晶體來說，會在介電層中插入浮動閘極(floating gate)，利用浮動閘極來記憶存取資料，但這樣的浮動閘極結構製程相對複雜。 在本團隊中，我們提出新的神經型態半導體材料，設計出能夠記憶資料的高分子半導體材料，如此一來就不需要浮動閘極或是額外的電荷儲存層就可以達到資料記憶的目的，其結構如圖一所示。 高速運算晶片 藉由讓而這樣的離子導入後，會使得半導體材料具有更顯著的記憶行為與學習能力。
值得關注的是，今年譜瑞-KY 併購睿思科技（Fresco Logic），該公司主要產品為 USB3.1 Host/Hub 控制晶片，雙方產品線互補，對於未來譜瑞-KY 的產品線與營運也將比起其他同業來說更為完整。 與採用USB Type-C的DP替代模式相較之下，威鋒電子VL830終端裝置控制晶片，可提供至高二倍影像傳輸頻寬，最多可同時支援單個8K 60Hz高動態範圍(HDR)顯示器，以及多個USB 3.2 Gen2裝置。 當VL830與DisplayPort多串流傳輸(MST)搭配時，可支援多個4K或高更新率顯示器，且可同時享受USB資料傳輸高速。
高速運算晶片: 【關鍵報告】雲端服務商機！白話文解構「伺服器產業」
譜瑞-KY旗下產品線，大多以DP/eDP T-CON規格為主，惟亦有占整體營收多達40％高速傳輸晶片。 其中，今年主要注目焦點之一為「PCIe Gen4高速訊號中繼器(retimer)」未來發展性。 該產品主要應用於伺服器、資料中心等，且客戶皆為Tier1大廠；去年下半年，AMD平台、Intel平台接續量產，也將成為今年主要營運成長動能之一。 同時，譜瑞-KYPCIe Gen5相關產品線，也已開始進行研發作業，布局廣度相當完整。
ChatGPT等生成式AI工具會消化大量數據，這些數據必須從記憶體晶片中提取出來並送往處理器進行運算。 HBM靠著垂直堆疊式設計，能夠密切與輝達、超微（AMD）與英特爾等公司設計的處理器合作，提升性能。 華爾街日報報導，十年前，SK海力士比同業更積極押注HBM，在其中，動態隨機存取記憶體（DRAM）採用如摩天大廈樓層般的垂直方式堆疊。 SKh海力士負責先進記憶體產品設計的主管朴明在（Park Myeong-jae，音譯）表示，這塊領域當時被認為是未知領域。 現在，隨著仰賴HBM的AI應用崛起，SK海力士已成為早期硬體贏家之一。
高速運算晶片: 伺服器的產業鏈
有關新產品應用開發方面，沈士傑表示，力旺看好「NeoFuse取代eFuse」做為密碼儲存，已成為全球趨勢，市場應用板塊都持續朝向更先進製程推展，力旺先前所做的產品開發布局計劃，也將開始慢慢發酵。 另外，目前亦有PUF-based相關IP的市場導入，於Mobil storage (UFS)、FPGA、AI、IoT、Data Processor Unit(DPU)、區塊鏈、自動駕駛、工業自動化等應用領域，持續開展、擴大中。 受惠人工智慧(AI)客戶有意加速進行開發計畫，後續如果發展順利的話，創意客戶委託設計(NRE)今年業績，與去年相比之下，可望成長個位數百分點年增率，優於市場原先所預估持平水準；創意今年整體營收表現展望方面，料將可成長15％至17％年增率，小幅優於先前所預估12％至14％年成長率水準。 未來半導體市場眾所矚目的小晶片市場，金麗科也傳出已開始投入小晶片應用市場研發，目前處於產品研發階段，最快今年內傳來好消息，並有望成功打入高效運算、人工智慧等新興應用板塊藍海市場，進一步擴大金麗科營收業績規模。 晶心科公告今年第一季合併營收達1.51億元，與去年同期相比下，明顯成長達42.80％年增率。
DRAM 在伺服器中作為暫存，擁有高頻寬，提供 CPU、GPU 等處理器計算時即時所需的資料；而 Flash 則是拿來存放資料所用，在伺服器中主要是以固態硬碟（SSD，Solid State Drive）的型態存在。 人類對於AI的想像早已在一些電影當中顯見，像是1984年《神通情人夢》（Electric Dreams），或是2013年的《雲端情人》（Her）。 但，什麼時候能夠更加優化機器，從現在一問一答的模式，變成像是電影當中的超級助理，擁有自我人格意識，而且能成長的AI系統，這樣更像人類的可能性持續發展並演進當中。 這些電腦都使用專門編程的FPGA晶片及超大型密集晶片，縱然犧牲普遍性也要提高成本效能比率。 根據摩爾定律及經濟規模，一個現代的桌面電腦比15年前的超級電腦有更高效能，皆因某些超級電腦的設計已經放在桌面電腦內。 FinSight 認為，此舉將更有效率實現系統整合的一站式服務，並大幅拉開與競爭對手的技術差距，將成為台積電擴大護城河的重要關鍵。
高速運算晶片: 合作夥伴
整體而言，若以區域來看，歐美大廠聚焦加速AI運算效能，但最積極發展AI晶片產業的則屬產官學三方皆支持的? 心，代表性廠商包含地平線、華為旗下海思等代表；台灣則由產業聯盟領頭與聯發科和耐能等重要廠商。 高速運算性能IC現階段已與消費者的日常生活密不可分，而且終端產品應用範圍日益廣濶，加以全球半導體IC製造技術，持續朝向更先進、更高階製程分級演進，預期可促成IC晶片發揮高速運算效能的ABF載板，後市對全球半導體產業、市場的應用重要性，料將因此不斷提高。 高速傳輸市場需求不斷加熱，自AI、NB、HPC等應用面不斷擴大，USB 4(傳輸速度最高可達每秒四○GB，為上一代二倍速度)市場去年滲透率持續升高，可望帶來新市場商機，預料台灣高速傳輸晶片設計廠商有望受惠，如祥碩、譜瑞-KY等。 創意為台積電的關係企業（台積電是最大股東，持有 34.83% 股份）。 創意專注於提供客戶先進 ASIC／SoC 設計服務，同時提供內部矽智財解決方案給客戶執行晶片設計。
在半導體製造，晶圓代工龍頭台積電無疑是大贏家，台積電去年高效能運算業績年增 59%，占營收比重達 高速運算晶片2023 41%，超越智慧型手機，是台積電最大技術平台。 在晶片設計，法人分析，AI 晶片帶動特殊應用晶片應用，ASIC 架構是按照特定演算法和架構設計的客製化晶片，客製化程度高、功耗低、算力也高於中央處理器（CPU）、繪圖處理器（GPU）、可編程邏輯閘陣列（FPGA）晶片等，隨著人工智慧生成內容技術與算力普及化，ASIC 晶片具競爭優勢。 FPGA主要是能提供用戶根據自身的需求進行重複程式設計，解決可程式化元件電路數不足問題，且運行效率高於GPU、CPU，功耗也相對較低，但當處理的任務重複性不強、邏輯較為複雜時，該晶片效率就會低於使用馮紐曼架構的處理器。 就在當天上午，耐能正式宣布自研的人工智慧系統晶片KL720，成功打入美國處理器晶片大廠高通（Qualcomm）的產品線。 劉峻誠表示，此番象徵著耐能邁向下一個里程碑，不僅在商用領域有實績，其AI晶片實力也將會被更多人看見。
高速運算晶片: 服務
台廠包括封測大廠日月光投控早已深耕AI晶片封測，旗下日月光半導體布局包括覆晶多晶片模組FCMCM（Flip Chip Multi-Chip Module）、2.5D & 3DIC和扇出型基板上晶片封裝（FOCOS）等小晶片技術。 力旺第一季合併營收5.97億元，季增率20.10％，年增率43.60％；歸屬母公司稅後淨利2.93億元，季度別營收、獲利雙創歷史新高；單季EPS 3.93元，表現優於原先預期，單季營業淨利率季增加達9.2個百分點，達56.60％，與去年同期相較，增加9.9個百分點。 隨著智慧型手機日漸普及，高端晶片市場成為市場主流，導致中低階晶片市場發展不樂觀，聯發科因專注在中低階晶片的市場而陷入困境。 為了因應 5G 時代到來，聯發科也著重發展高端手機晶片，但是高成本的研發費用讓聯發科備感壓力，加上外在高通（Qualcomm, QCOM-US）等競爭者的追殺，讓聯發科歷經百戰。 聯發科的總部位在新竹，遍布全球 50 個研發及營業據點，包含：美國、英國、芬蘭、新加坡、印度等地。 聯發科的產品主要應用於光儲存、高解析度 DVD、無線通訊、高解析度數位電視等領域。
相對於其它新興存儲技術而言，電阻式記憶體除了在功耗與速度方面有相當的優勢之外，由於其結構特別簡單，而電阻材料也可採用半導體製程通用的二元金屬氧化物例如二氧化鈦、氧化鉿、氧化鎳等來製作，因此也能具有低成本的產品特點。 近年來隨著半導體產業持續朝更小的技術節點邁進，DRAM 與 NAND Flash 嚴重面臨到尺寸微縮挑戰，DRAM 目前已接近微縮極限、而 NAND Flash 則全力朝 3D 架構轉型；除此之外，此兩者在高速運算的進階應用上也遭遇到阻礙。 根據IDC統計，2021及2022年全球伺服器產值約1,025億及1,216億美元，目前ChatGPT AI伺服器產值僅占不到 1%，隨著使用人數及提問數持續提升， ChatGPT訊號斷線次數逐漸增加，未來勢必持續增加伺服器需求。 高速運算晶片2023 物聯網在傳統上多以感知層、網路層、系統層與應用層作為架構堆疊，主要經濟效益雖來自應用層的智慧情境發展，然感知層所需的產業鏈之上游零組件仍是支撐終端場景運作重要核心，其中又以微控制器（MCU）、連接晶片與AI晶片最關鍵。
高速運算晶片: 使用 AI 加速極端天氣預報
過去前十年中，半導體IP廠業務的成長動能，主要依賴智慧型手機市場的持續成長。 高速運算晶片2023 高速運算晶片 然而，伴隨全球智慧型手機應用市場發展已臻成熟階段、成長動能已開始減緩後，取而代之者，為高速運算、資料中心、有線與無線網路、物聯網等應用領域市場需求，將迎來一波爆發成長熱潮，市場預估將成為半導體IP廠後續營收成長主要動能。 外資認為，由於全球居家辦公趨勢仍舊未有改變，加以邊緣預算、資料中心應用需求仍持續成長，因此帶動筆電客戶拉貨力道強勁，筆電、VGA成長動能料將可延續至今年中。 預料雙鴻今年第一季營收表現，有望淡季不淡，營運維持高檔水準，但與去年第四季相較，營收約季減九％。
- 南電表示，預估IC載板今年供不應求狀況仍將持續，主要因為市場需求量，仍遠大於供給量能，而且各類應用對晶片載板拉貨需求亦持續擴增。
- 產業人士指出，小晶片技術已應用在高效能中央處理器、FPGA晶片和網路晶片等，隨著人工智慧應用熱夯，小晶片封裝技術也備受矚目。
- 力旺為全球領導性的邏輯基礎之內嵌式非揮發性記憶體（Logic eNVM）矽智財開發商及供應商，產品製程橫跨 0.25um 到 4 / 5nm 以下。
- NVLink-C2C 可將領先業界的 NVIDIA® NVLink® 技術擴展為晶片至晶片互連技術。
台積電是大型權值股，佔據大盤近3成，掌握台積電現況，幾乎就能把握下半年的股市走勢，近期有許多對於台積電的質疑與雜音，股價似乎也在五百元左右徘徊，但事實是台積電仍囊括全球晶圓代工市場的58.5市佔率，喊要超車的三星電子，根本看不到台積電的車尾燈。 近期傳出IC相關供應鏈哀號的消息，因為台積電即使面對庫存飆高，台積電寧願讓上游砍單，也不接受議價談判。 台積電毛利率近五年平均達51.72%，遠勝於品牌商蘋果的40.09%，這是少數代工廠能贏過品牌商，畢竟台積電掌握7奈米以下的製程與高良率，因此掌握話語權，而技術頂尖的背後，是每年高達百億元的資本支出。 根據集邦科技的資料， 在這塊市場中，三星今年預料將追上SK海力士的市占，兩者分別占46%至49%，美光預料拿下約5%的市占。 IP意為矽智財(Silicon Intellectual Property)，通常用於滿足特定應用規格，為可經過事先設計、定義、驗證可重複使用的功能IC電路區塊。 但因二○二○年肺炎疫情影響工作天數，基期因此較低，單季營運有望交出優於去年同期佳績。
