NEC 開發並推出專為企業使用的生成式 AI服務

NEC 集團已開發並將提供可針對每個客戶進行客製化的生成式人工智慧（AI）服務，協助客戶因應新技術帶來的商業變革，並為企業創造新價值。此一新的「NEC 生成式AI服務」將從今年七月起於日本推出，提供獲有專利的大型語言模型（LLM）授權、專用的硬體、軟體以及諮詢服務等，並將在 2024 會計年度後逐步擴展到新的市場。

此外，NEC已與近10家公司和大學合作，於7月推出「NEC生成式AI進階客戶計畫」，透過該計畫，NEC將與客戶合作，支援他們創建模型，以及開發善用LLM的軟體、組織等。

另外，NEC在今年7月1日成立了「NEC 生成式AI中心」，作為專門推動客戶業務轉型的部門，此部門由研究人員、提供精準AI指導的提示工程師（prompt engineer）、顧問、數位信任專家等專業人員組成。NEC 的目標是藉由這些生成式AI 相關業務，在未來三年內達成500億日元（約 3.46 億美元）的銷售額。

生成式AI領域正受到市場極大的關注，這是因為各個企業和地方政府都考慮使用各種語言模型進行業務轉型，例如 ChatGPT，在2022年11月推出服務後兩個月內用戶數量就超過一億。

然而，使用生成式AI時，將面臨資訊洩露和安全弱點等安全問題，以及與系統準確性和持續使用相關的問題。此外，企業的AI應用必須致力於比翻譯和摘要更重要的用途，例如針對公司所累積的知識建立模型，以及開發一套促進公司內部AI使用的系統。

NEC集團於今年五月開始在內部業務中使用生成式AI，在兩週內建立了員工可以安心、安全使用的環境和系統。該系統連結到內部聯繫和網路會議工具等內部系統，目前約有二萬名使用者，每天使用約一萬次。

系統導入後已見有成效，例如開發內部系統所需編寫原始碼的工時減少了80%，產生文件所需的時間減少了50%，以及撰寫會議記錄所需時間從平均30分鐘減少到約5分鐘。

NEC將除了繼續利用該系統來改進文件校對及所有員工其他共同任務的效率外，也將運用在軟體開發等專業領域，並展現NEC藉由內部使用LLM相關服務所累積的專業知識。

在解決這些挑戰和內部使用經驗的基礎上，現在NEC將運用自有的生成式AI協助客戶創造新的企業價值。

NEC獨特的LLM功能

• 精通日語：在業務營運所需的知識量和閱讀理解能力方面達到頂尖水準
• 輕量級：模型的規模輕巧，可在標準GPU伺服器上執行

NEC生成式AI服務

NEC將以其積累的專業經驗和創新精神為基礎，藉由「NEC生成式AI服務選單」方式，開始逐步提供一站式支援服務項目給客戶。透過諮詢和假設性測試等服務，NEC將能提高客戶的業務運作轉型速度和成效。

NEC還將提供「NEC生成式AI框架」軟體，以促進LLM整合到客戶的營運環境中。

「Microsoft Azure OpenAI 服務」和NEC的LLM將根據客戶的需求提供。為滿足客戶處理機密資訊的需求，NEC也提供結合雲端服務和本地環境的安全環境。

這些服務將以NEC印西資料中心為核心，連結「Microsoft Azure ExpressRoute」，提供安全性和低延遲。結合NEC獲有專利的LLM、NEC生成式AI框架和「NEC生成式AI 設備伺服器」硬體平台，就能成功建置安全的LLM環境。

NEC生成式AI進階客戶計畫

該計畫提供完整的支援服務，協助客戶運用生成式AI創造企業價值，包括建立公司專用的語言模型、開發適用於業務的應用程式、改善環境和人力資源發展，以及促進參與公司之間的互動。

• 透過由顧問主持的工作坊，擬定LLM運用策略、情境、使用案例和內部操作指南。
• 在私有環境中進行展示實驗，包括使用NEC專利的LLM，並利用NEC LLM學習公司內部的資料以建立個別調整的模型。
• 對高階人力的AI領域發展，進行NEC尖端技術服務的進階試驗，並提供有關LLM 運用的培訓會議及實作訓練。
• 促進不同產業之間的意見交流，構建新的商業模式。

「微軟歡迎NEC推出生成式AI服務，」微軟公司副總裁暨微軟日本公司董事長津坂美樹表示。「生成式AI被視為歷史性和顛覆性的技術轉捩點，可與網際網路的興起或工業革命相媲美。NEC是最早專注於此一領域的公司之一，並持續與我們共同合作實現了AI。透過NEC和微軟的全球策略合作夥伴關係，客戶將能運用具備安全資料處理功能的微軟Azure OpenAI服務，以及NEC多元的技術方案，包括NEC印西資料中心。我們雙方將攜手加快客戶的數位轉型，實現工作方式的創新。」