AI资讯
掌握人工智能AI动态,领略未来风采!
云端与AI 将成为企业转型的下个决胜点,今年度Google Cloud Summit 重磅回归,提供4 场大会主题演讲、6 大精选技术分场专题、还有多家企业分享第一手应用心法,以期带给台湾市场第一手的AI 技术分享,协助企业在云端环境使用AI 来加速商业效率。INSIDE 团队摘录本次活动重要技术趋势及AI 产业应用,探索云端与生程式AI 的最前沿。
今年不仅是Google Cloud 云端区域在台湾营运十周年,也是Google 创立25 周年、Google 在台湾设立办公室的第17 年。
Google Cloud 北亚区董事总经理李孔源首先指出,经过1/4 世纪的发展, Google 已成为搜寻的代名词,旗下6 种产品拥有超过20 亿使用者。走过Web2.0、行动装置时代,如今来到AI 关键路口, Google 会持续以AI 为本,运用AI 技术解决个人、企业及社会各种棘手问题。
接着Google 台湾总经理林雅芳盘点,过去十多年Google 在台湾布局的多项里程碑。Google 总是在第一时间把最先进的产品与服务带到台湾,不仅协助台湾产业生态,拥有稳固的基础建设,也让产品、服务、人才、内容跃上国际舞台。
Google Data Center Operations Site Manager 董育成,提到Google 持续在台湾的资料中心扩充硬体设施、提升节能与运算效率,以及加强安全防护,种种努力让台湾成为Google 网路基础建设布局当中的战略枢纽。
因应近年前瞻技术飞速进展, Google Cloud 北亚区解决方案总经理孙素梅提到, Google Cloud 为了协助企业客户落实数位化及AI 转型,提供包含Data and AI Cloud、Modern Infrastructure Cloud、Collaboration Cloud 以及Security Cloud 等多元解决方案,从多个面向赋能企业,更敏捷、韧性面对未来的挑战。
企业若想克服挑战,该怎么善用AI 工具?Google Cloud 台湾客户解决方案副总经理林书平解释,企业发展AI 模型需特别重视四大元素,分别是:模型算法、资料分析、平台算力、以及资料安全。Google Cloud 的AI 战略就是要帮助企业,创造「优化顾客体验、提高生产力、商业显著转型」等三个关键价值。
以提升客户体验、赋能数据价值为例,中华电信指出与Google Cloud 的合作,不仅让中华电信能够提升自身数位转型能力,也能藉由内部导入经验,协助企业客户实现数位转型。「我们运用了一站式的Data Cloud 解决方案,将智慧电信的概念应用于业务中,通过在云端环境中部署BigQuery、Cloud Storage、Cloud SQL 等应用,并结合人工智慧和机器学习技术来辅助分析电信资料,资料分析速度提升57% 。这项改进不仅改善了通讯品质,还加速了讯号监控的成效。」
对于经营超过一甲子,同时又并购海外公司的远东集团,远资信息技术总经理易换棣坦言,集团IT 架构相当复杂,而且面临资料存取安全、硬体基础设施效能、网路稳定等实际痛点。评估后开始导入Google Cloud 一系列搬迁方案,像是运用Google Cloud Vmware Engine 的可扩展运算资源,并且搭配Google Cloud 旗下的Actifio、Veeam 搬迁工具,有效把资料和应用程式移转到云端,最终帮助远东打造新一代安全、自动化、智慧化跨境维运,并符合远东新ESG 目标的IT 架构。
随着营运数据翻倍成长,加上IT 架构多元化,资讯安全也成为棘手课题。Mandiant North Asia General Manager Michael Chue 提到,截至到今年9 月,全球发生的zero-day 威胁(一种利用没有修复方案的安全性漏洞攻击)多达72 件,预计比2022 年将多一倍成长。
对于横跨资本及货币市场唯一后台法定特许事业的台湾集中保管结算所,总稽核张紫薇在Google Cloud Summit 上有提及,集保数据牵涉大量有价证券机敏资料,他们在2019 年就透过与白帽骇客合作,进行红队演练模拟国际骇客密集攻击,借此强化人力与系统反应速度,强化资安韧性、严谨落实风险控管。
既然现在是放眼AI 的关键时机, Google Cloud 全球AI 业务董事总经理Caroline Yap 建议企业应该意识到AI for growth、AI for efficiencies、AI for the future ,善用AI 可以降低使用复杂数据的障碍,又或是把AI 工具导入对话式商务、聊天机器人和虚拟代理,借此提升企业的生产力。
「一项研究发现,使用AI 的企业之中,有66% 看到营运效率提高, 57% 改善客户体验、49% 加速创新, 48% 提高员工生产力;更重要的是,有90% 的消费者表示,他们愿意多付费来获得更好的体验,」Caroline 表示。
为了帮助机器学习工程师或开发者可以快速上手,打造生成式AI 应用程式, Google Cloud 台湾AI 与机器学习架构师沉升廷解释Vertex Gen AI Studio 有哪些资源可以善用。第一,简洁UI 介面可进行模型的指令(prompt)设计、实验及调整,并且在生产环境中应用REST API、Python API 。第二,为了让企业快速创新,使用Vertex Conversation 建立具有流程处理能力的聊天和语音机器人,搭配Workflow generator 生程自动化流程动作,让AI 对话体验有温度又符合业务逻辑。第三,运用Vertex Search ,基于资料回答复杂查询的即时个性化搜寻,从各种资料来源,包含企业网站资讯、结构化/ 非结构化资料,撷取知识并支援多轮搜寻。经过测试后, Vertex AI Search 有助于减少导入RAG(检索增强一代)架构成本。
旅游电商平台KKday Data Architecture Team Lead 郭羿辰提到, KKday 客服单位原本需要从多个知识库搜索,才有办法查找到顾客问题的答案,但现在我们透Google Cloud 环境上的生成式AI 服务打造出一个内部系统,来帮助客服能够更迅速的获得完整且高品质的回覆给消费者。对于KKday 而言AI 的存在不是为了吸引目光,而是围绕着提升各种情境下的用户体验服务。
除了程式开发,企业现在也很重视AI/ML 的管理机制。Google Cloud 台湾客户解决方案架构师蔡坤达说明, Vertex AI 赋能新世代管理需求,可避免重工、资料孤岛,乃至于持续优化特征工程(feature engineering)控管机制,在众多资料海找到重要资料。蔡坤达接着介绍Vertex AI 的第二代Feature Store 有几项更新,包含建立在BigQuery 强化资料管理能力、Ultra 低延迟可达到低于2 秒的速度、以及有Gen AI 辅助让资料回答更精准。
对于特征工程的管理情况, 17LIVE 资深机器学习工程师(Sr. Machine Learning Engineer) 林奇炜及刘谨玮,探讨直播平台为了让直播主知道何时开播的效益最好,以及找出哪些观众最可能贡献「打赏」。另外,针对直播串流稳定度提升, 17LIVE 将串流资料结合Vertex AI ,开发一项High Latency Prediction 模型,把资料库的历史资料丢到BigQuery 及Cloud Storage ,根据指令训练模型,预测每次时间点发生的风险系数。经过压测,发现这个模型的效能能帮助工程师的回覆时间,从40 分钟缩短到20 分钟。
Photo Credit:Google Cloud
放眼未来,既然AI 不会停下脚步, Google Cloud 的解决方案当然也不会停止迭代。Google Cloud 台湾客户解决方案副总经理林书平说, Vertex AI 基础模型包含PaLM、Cody、Imagen、Embeddings 已推出新版本,表现效能皆有所提升。技术面之外, Google Cloud 也希望能持续协助企业发掘与打造内部的生程式AI 场景。
拥抱未来的不确定性、与因应快速更迭的市场脉动与需求, Google Cloud 期待成为企业转型路上的伙伴,帮助更多人从AI 时代受惠,以及在商业赛道上取得优势。