361期
2024 年 07 月 26 日
  北美智權官網 智權報文章分類/搜尋   歷期智權報   訂閱北美智權報  
 
從美國AI & Big Data Expo看生成式AI創新發展
吳碧娥╱北美智權報 編輯部

AI and Big Data Expo為全球十大AI展會之一,每年分別於北美、歐洲各舉辦一場國際大規模展會,主要展示企業人工智慧、機器學習、資訊安全、可信任AI、深度學習以及自然語言處理等創新產品與技術,從2017年舉辦首屆展會開始,累計250名以上業界專家到場演講,每場次均吸引7,000名以上專業人士與會。

2024年北美地區的AI and Big Data Expo,已於6月5日至6月6日在美國聖荷西的聖塔克拉拉國際會議中心舉辦,在兩天的展會時間裡,展示來自Google Cloud、IBM、Oracle、Dell Technologies等250多家參展商最前沿的人工智慧技術。今年展會關鍵議題包括企業生成式AI採用策略、負責任AI、生成式AI對勞動力影響、運用AI推動數位轉型等範疇。

資策會日前舉辦【MIC大展直擊】國際主要AI展會重點觀測線上研討會,透過MIC分析師現場直擊與分享,提供產業人士在AI創新與未來發展方向上的參考。

展望未來:下一個十年之生成式AI進展

企業資料多屬於時間序列資料,不一定非要使用大型語言模型才能分析或預測,使用善於處理時間序列資料的知識圖譜技術,也能有效提供企業決策所需的分析。美國新創公司Ikigai在麻省理工學院長年以來的AI研究基礎上,研發出具專利的大型圖像模型(Large Graphical Model,LGM),善於分析結構化的表格與時間序列資料,將不同資料之間的複雜關係視覺化。

資策會產業情報研究所產業分析師楊淳安指出,大型語言模型(LLM)是基於Transformer 模型,以線性方式分析高維度資料,需大量訓練資料集才能提供高品質的答案;而LGM則是超越線性結構,能按順時間、逆時間、最大金額到最小金額的順序等進行分析,稀疏的資料集也能提供精確分析。舉例來說,LGM可透過銷售趨勢、社群媒體、廣告支出和失業率分析各種資料,協助零售商準確預估季節性的勞動力需求,根據AI預測結果做出最適當的人員配置決策,例如A、B、C 商店需要增加50%的季節性員工而X、Y、Z 商店只需增加10%的員工。

Ikigai於2024年3月成立AI道德委員會,匯集資料科學、AI和道德演算法、法律和國家安全領域等具有不同背景和經驗的學者和企業家,旨在解決當今最急迫的生成式AI安全問題並提供指導方針,AI道德委員會每季召開一次會議討論AI治理、資料最小化、保密性、合法性、準確性等重要議題,於會後發布組織應考慮的行動和後續步驟建議。今年在AI and Big Data Expo中發表主題演講的Ikigai總裁Kamal Ahluwalia也預測,下一個十年的人才將有1/3被生成式AI替代、1/3成為與生成式AI協作、1/3則是出現新型態的人才與工作類型,像是AI 提示工程師(Prompt Engineer)。

而總部位於美國加州的大型跨國金融服務公司Visa,在過去十年投入大量資金發展AI相關服務,隨著生成式AI崛起,Visa技術發展藍圖結合分析型AI與生成式AI,也是今年AI and Big Data Expo的代表性參展商。

圖1. Visa公司的AI發展策略

資料來源:Visa,MIC整理,2024年6月

Visa將分析型AI+生成式AI應用於六項金融服務,其中,即時偵測詐欺活動是生成式AI重點發展項目,使用生成式AI能輸入更多資料、模型訓練速度更快,而檢索增強生成技術(Retrieval-Augmented Generation,簡稱RAG)有助於強化詐欺偵測能力。在人才培育方面,Visa致力於培育人才的Copilot能力(透過尋找資訊建立原創內容,並快速完成工作),以發揮生成式AI的最大效用。

由於Visa是大型的跨國金融服務公司,雖然積極採用生成式AI等新興技術,但同時也相當關注風險與挑戰,透過研究各國法規政策,制定Visa內部的AI原則,減緩生成式AI導致的道德倫理議題。Visa認為,確保演算法是否公平且沒有歧視強化資安防護避免受到生成式AI導致的駭客攻擊相同的問題或Prompt應得到相同的答案落實資料治理與監管措施以保護資料隱私,將成為生成式AI所帶來四大風險與挑戰。因此,Visa的生成式AI發展策略緊扣三大核心理念,運用生成式AI提升生產力的同時,也必須注意伴隨的風險,以建立可信任AI為核心原則,發展安全可靠的數位金融服務。

AI向量資料是生成式AI生態系的重要關鍵

AI 向量檢索(AI Vector Search)是基於語意檢索(Semantic Search)的新興檢索技術,Vector是一連串稱為「Dimensions」的數字,用來獲取資料的關鍵特徵,透過ML Embedding Model生成,主要用於相似度檢索,可以幫助大型語言模型透過檢索RAG技術,提供更準確且與上下文相關的結果,且無需管理和整合多個資料庫。

楊淳安指出,若採用傳統的向量資料庫匯集企業各種形式的資料內容,容易產生資料過時、架構複雜等痛點;大型科技軟體公司甲骨文(Oracle)今年展出在資料庫方面的強項,透過LLM結合AI向量檢索,能有效解決此痛點,即時檢索出具領域知識的企業資料內容。AI向量檢索搭配資料檢索與生成功能的RAG技術,可望有效回答用戶問題。

Oracle日前宣布推出23ai資料庫服務(Oracle Database 23ai),是Oracle融合式資料庫的最新版本,包含Oracle AI Vector Search 和超過 300個主要功能,著重於簡化AI與資料的使用、加速應用程式開發及執行關鍵任務工作負載。使用生成式AI讓用戶以自然語言查詢儲存於Oracle資料庫中的企業資料,將AI演算法帶到資料所在的位置,而不是將資料移至AI演算法所在的位置,可在Oracle資料庫中即時執行AI,大幅提升AI的有效性、效率和安全性,不論是否具備程式開發的基礎都能使用,有助於提升企業內部所有人才的數位轉型能力[1]

一站式生成式的AI開發平台,解決人才不足痛點

Lightning AI公司前身是Grid.ai,後來因為發明用於訓練AI模型的深度學習框架PyTorch Lightning,在AI開發領域受到好評而改名Lightning AI。自2019年以來,Lightning AI致力於提供訓練、微調以及部署AI模型的開發平台,讓用戶無需擔心基礎設施、成本管理和其他技術問題。Lightning AI提供一站式生成式AI開發平台,提升模型的開發效率並降低成本,為企業解決開發AI模型會面臨的人才不足與缺乏好用工具的痛點。

圖2. 發明AI模型的深度學習框架的Lightning AI公司

資料來源:Lightning AI ,MIC整理,2024年6月

根據Lightning AI的調查發現,企業在開發AI模型時,主要面臨的痛點是缺乏AI人才、預算不足以及缺乏好用的開發工具,加上開發AI模型必須先建立基礎設施,由於基礎設施的技術架構過於複雜,導致容易產生配置錯誤的情形,造成企業在資源上的損失,為了解決上述痛點,Lightning AI將所有AI開發工作流程整合至Lightning AI Studio,從基礎設施的設定、模型框架到部署都能一站式完成,成功縮短AI模型的訓練時間。Lightning AI認為新型態AI人才並非要具備艱深的技術能力,而是能善用新興工具進行開發與維運,Lightning AI藉由優化操作介面,提供更好用的AI模型開發工具,協助企業培育新型態的AI人才。

 

資料來源:

 

備註:

 

作者: 吳碧娥
現任: 北美智權報主編
學歷: 政治大學新聞研究所
經歷: 北美智權報資深編輯
驊訊電子總經理室特助
經濟日報財經組記者
東森購物總經理室經營企劃

 

 

Facebook 在北美智權報粉絲團上追踪我們       

 





感謝您閱讀「北美智權報」,歡迎分享智權報連結。如果您對北美智權電子報內容有任何建議或欲獲得授權,請洽:Editorial@naipo.com
本電子報所登載之文章皆受著作權保護,未經本公司授權, 請勿轉載!
© 北美智權股份有限公司 & 北美聯合專利商標事務所 版權所有     234新北市永和區福和路389號五樓 TEL:+886-2-8923-7350