亞馬遜旗下Amazon Web Services（AWS）近日在紐約高峰會上宣布推出七項生成式AI新功能，包括Amazon Bedrock新增基礎模型供應商Cohere和全新基礎模型，以及全新代理（Agents）功能；Amazon EC2 P5執行個體正式可用，加速生成式AI和高效能運算應用；Amazon OpenSearch Serverless支援全新向量引擎；編寫程式碼助手Amazon CodeWhisperer與Amazon Glue實現整合；Amazon QuickSight新增生成式BI（Business intelligence）功能；幫助企業提升資料品質的分析服務AWS Entity Resolution正式可用；以及助力提升醫療產業生產效率的智慧醫療新服務AWS HealthScribe等。
AWS此次發布的多項生成式AI新功能，進一步降低了生成式AI的使用門檻，讓無論是業務用戶還是開發者都能從中受益。借助這些新功能，來自各行各業的企業都能更專注於核心業務，提高生產效率，充分釋放資料價值和生成式AI的潛力。
Amazon Bedrock全面擴展，幫助客戶靈活應用基礎模型新增全新基礎模型、基礎模型供應商以及代理（Agents）功能
AWS宣布全面擴展其全託管基礎模型服務Amazon Bedrock，包括新增Cohere作為基礎模型供應商，加入Anthropic和Stability AI的最新基礎模型，並發布變革性的新功能Amazon Bedrock代理 （Agents）。
Cohere致力於開發領先的企業AI平台和前瞻基礎模型，其基礎模型可以更直觀地生成、檢索和匯總訊息。Anthropic是一家關注AI安全的研究型公司，打造可信賴、可解釋和可掌控的AI系統。Anthropic已經將其最新的語言模型Claude 2提供至Amazon Bedrock。Stability AI是一家社區驅動的開放式AI公司，提供可透過簡單文本指令建立文本、圖像、音樂、影片、程式碼等的基礎模型。 Stability AI將在Amazon Bedrock上發布其最新版文生圖模型包Stable Diffusion XL 1.0（SDXL 1.0）。
Amazon Bedrock代理功能將助力開發者輕鬆建立全託管的人工智慧代理（AI Agents），還可幫助企業加速交付生成式AI應用程式，這些應用程式可以透過對公司系統進行API調用來管理和執行任務。Amazon Bedrock代理功能同時還可以擴展基礎模型以理解使用者需求，將複雜任務分解為多個步驟，延續對話以收集更多訊息，並採取行動以滿足使用者需求。借助Amazon Bedrock代理功能，使用者可以為內部或外部客戶自動執行任務，如管理零售訂單或處理保險索賠。有了代理功能，服務電商的生成式AI應用程式不僅能回答簡單問題（「如有藍色夾克嗎？」），還能幫助用戶完成複雜任務（如更新訂單或管理交易）。
Amazon EC2 P5執行個體正式可用，加速生成式AI和高效能運算應用
AWS宣布Amazon Elastic Compute Cloud（Amazon EC2）P5執行個體正式可用。這是一款下世代GPU執行個體，可以滿足客戶在運行人工智慧、機器學習和高效能運算工作負載時對高效能和高擴展性的需求。該執行個體由最新的NVIDIA H100 Tensor Core GPU提供支持，與上一代基於GPU的執行個體相比，訓練時間最多可縮短6倍（從幾天縮短到幾小時）。這一效能提升將幫助客戶降低高達40%的培訓成本。
Amazon EC2 P5執行個體提供8個NVIDIA H100 Tensor Core GPU，具有640 GB高頻寬GPU記憶體，同時提供第三代AMD EPYC處理器、2TB系統記憶體和30 TB本地NVMe儲存。Amazon EC2 P5執行個體還提供3200 Gbps的聚合網路頻寬並支持GPUDirect RDMA，從而能夠繞過CPU進行節點間通訊，實現更低的延遲和高效的橫向擴展效能。
適用於Amazon OpenSearch Serverless的向量引擎助力客戶輕鬆打造現代生成式AI應用
AWS宣布推出適用於Amazon OpenSearch Serverless的向量引擎。正式可用後，該向量引擎支持簡單的API調用，可用於儲存和查詢數十億個嵌入（embeddings）。未來，所有AWS的資料庫都將具有向量功能，幫助客戶簡化營運，方便整合資料。
嵌入應存儲在靠近來源資料的位置，一系列因素都將影響企業如何選擇最適合自己的選項，這些因素包括目前資料存儲位置、對資料庫技術的熟悉程度、向量維度的擴展、嵌入的數量和效能需求等。因此，AWS還提供以下選項滿足更高級的向量資料儲存需求：
- Amazon Aurora PostgreSQL兼容版關係型資料庫，支持pgvector開源向量相似性搜尋外掛。
- 分佈式搜尋和分析服務Amazon OpenSearch，帶有k-NN（k最近鄰）外掛和適用於Amazon OpenSearch Serverless的向量引擎。
- 兼容PostgreSQL的Amazon RDS（Amazon Relational Database Service）關係型資料庫，支持pgvector外掛。
Amazon CodeWhisperer與Amazon Glue實現整合，進一步提升開發效率
AWS宣布了Amazon CodeWhisperer正式可用。這是一款AI編寫程式碼助手，能夠使用底層基礎模型幫助開發人員提高工作效率。它可以根據開發人員使用自然語言留下的註釋和IDE（整合開發環境）中的歷史程式碼即時生成程式碼建議。此外，AWS還發布了Amazon CodeWhisperer Jupyter擴展程式，為Jupyter用戶在Jupyter Lab和Amazon SageMaker Studio中的Python notebooks生成即時、單行或完整的函數程式碼建議。
現在，AWS正式宣布Amazon Glue Studio notebooks支持Amazon CodeWhisperer，幫助Amazon Glue用戶優化使用體驗、提高開發效率。透過Amazon Glue Studio notebooks，開發人員可以用自然語言（英語）編寫特定任務，比如「利用json文件中的內容建立一個Spark DataFram」。基於此訊息，Amazon CodeWhisperer會直接在notebooks中推薦一個或多個可完成此任務的程式碼片段。開發人員可以選擇「接受最推薦的建議」，「查看更多建議」或「繼續自己編寫程式碼」。
Amazon QuickSight新增生成式BI功能，升級自然語言人機交流
AWS宣布，正在將Amazon Bedrock提供的大語言模型能力與支持自然語言問答的Amazon QuickSight Q相結合，以期在Amazon QuickSight中提供生成式BI功能。該功能很快將在Amazon QuickSight上線，幫助企業輕鬆尋找資料、發現並分享洞察。
借助Amazon QuickSight中新增的生成式BI功能，業務分析師能夠使用自然語言輕鬆執行日常任務，包括：
- 基於Amazon QuickSight Q全新的視覺創作體驗功能，在幾秒鐘內建立資料可視化圖表；
- 使用自然語言微調和格式化圖表效果；
- 無需學習特定語法，透過自然語言即可建立運算任務。
針對使用儀錶板並需要與之進行交流的業務用戶，AWS還發布了Stories功能，助力業務用戶使用生成式BI的強大能力，透過自然語言提示來生成、客製化和共享極具訊息量的可視化圖表。
Amazon Entity Resolution正式可用，賦能企業提升資料品質、萃取客戶洞察
AWS宣布Amazon Entity Resolution正式可用。這是一項由機器學習提供支持的分析服務，可以幫助企業輕鬆分析、匹配和連結相關記錄，這些記錄可能散布在應用程式、不同的資料獲得管道和資料儲存中。Amazon Entity Resolution利用基於規則和機器學習的技術自定義工作流程，並以此匯整消費者、業務和產品訊息。業務分析師和開發人員可以透過內建的預配置工作流程快速提高資料準確度，或者透過自定義工作流程來滿足企業需求。借助Amazon Entity Resolution，企業可以更好地了解資料的關聯、匹配和連結情況，同時深入挖掘客戶洞察與更清楚的供應鏈資料，從而改善營運能力、展開更多有效行銷、做好複雜金融投資決策。AWS宣布計畫增加兩個Amazon Entity Resolution的合作夥伴LiveRamp和TransUnion，同時增強與Unified ID 2.0開源框架的互操作性。透過這些整合功能，客戶將能更輕鬆地翻譯或豐富自己的紀錄，同時更好地保護訊息並減少資料移動。
Amazon HealthScribe利用生成式AI助力打造醫療應用程式
AWS宣布推出Amazon HealthScribe，這是一項符合HIPAA（《健康保險責任與保護法》）要求的新服務，能夠幫助醫療軟體供應商打造臨床應用程式。這些應用程式使用文本識別和生成式AI技術生成臨床文檔，節省醫生時間。借助Amazon HealthScribe，醫療軟體供應商可以利用單一個API自動建立可靠的記錄、淬鍊出關鍵訊息（例如醫學術語和藥物），並根據醫病對話建立摘要，然後將這些資料輸入到電子健康紀錄（EHR）系統。Amazon HealthScribe由Amazon Bedrock提供支援，使醫療軟體供應商能夠更快、更輕鬆地將生成式AI功能整合到其應用程式中。在普通醫學和骨科這兩個常見專科，醫療軟體供應商已經開始使用Amazon HealthScribe，它們不再需要管理底層機器學習基礎設施或訓練自己的醫療專屬大語言模型（LLM）。
請注意！留言要自負法律責任，相關案例層出不窮，請慎重發文！