一年多前，我們向全世界推出了 Amazon Bedrock，提供了一種建構生成式人工智慧 (AI) 應用程式的全新方式。 Amazon Bedrock 擁有最廣泛的第一方和第三方基礎模型 (FM) 選擇以及用戶友好的功能，是建立和擴展安全生成 AI 應用程式的最快、最簡單的方法。現在，數以萬計的客戶正在使用 Amazon Bedrock 來建立和擴展令人印象深刻的應用程式。他們正在快速、輕鬆、安全地進行創新，以推進他們的人工智慧策略。我們透過增強Amazon Bedrock 的令人興奮的新功能來支持他們的努力，包括更多的模型選擇和功能，使您可以更輕鬆地選擇正確的模型、針對特定用例自訂模型以及保護和擴展生成式AI應用程式.
從金融、旅遊、飯店、醫療保健到消費科技等不同產業的客戶都在取得顯著的進步。他們透過快速將生成式人工智慧應用程式投入生產來實現真正的商業價值，以改善客戶體驗並提高營運效率。以紐約證券交易所 (NYSE) 為例，它是全球最大的資本市場，每天處理數十億筆交易。紐約證券交易所在多個用例中利用 Amazon Bedrock 選擇的 FM 和尖端人工智慧生成功能，包括處理數千頁法規，以易於理解的語言提供答案
全球航空公司聯合航空對其乘客服務系統進行了現代化改造，將舊的乘客預訂代碼翻譯成簡單的英語，以便代理商能夠提供快速高效的客戶支援。全球領先的資訊與分析供應商 LexisNexis Legal & Professional 在 Lexis+ AI 上開發了個人化法律產生人工智慧助理。 LexisNexis 客戶獲得可信賴結果的速度比最接近的競爭產品快兩倍，並且每周可節省多達 40 個小時用於法律研究和總結。線上服務台軟體 HappyFox 選擇 Amazon Bedrock 是因為其安全性和效能，將其客戶支援解決方案中由 AI 驅動的自動票務系統的效率提高了 30%，座席工作效率提高了 XNUMX%。
在整個亞馬遜，我們正在繼續利用生成式人工智慧進行創新，為我們的客戶提供更身臨其境、更具吸引力的體驗。就在上週，亞馬遜音樂宣布了 Maestro。 Maestro 是由 Amazon Bedrock 提供支援的 AI 播放清單產生器，它為 Amazon Music 訂閱者提供了一種更簡單、更有趣的方式來根據提示建立播放清單。 Maestro 現已在 Amazon Music 的所有層級上向少數美國客戶推出測試版。
透過 Amazon Bedrock，我們專注於客戶所需的關鍵領域，以適當的成本和速度建立可投入生產的企業級生成式 AI 應用程式。今天，我很高興與大家分享我們在模型選擇、建立生成式 AI 應用程式的工具以及隱私和安全性等領域宣布的新功能。
1. Amazon Bedrock 擴大了 Llama 3 型號的型號選擇，並協助您找到最適合您需求的型號
在早期，客戶仍在學習和試驗不同的模型，以確定哪些模型用於不同的目的。他們希望能夠輕鬆嘗試最新模型，並測試哪些功能和特性將為他們的用例帶來最佳結果和成本特徵。大多數 Amazon Bedrock 客戶使用多個模型，而 Amazon Bedrock 提供最廣泛的第一方和第三方大語言模型 (LLM) 及其他 FM 選擇。這包括來自的模型 AI21實驗室, 人類的, 凝聚力, Meta, 西北風人工智能和 穩定人工智能，以及我們自己的 亞馬遜泰坦型號。事實上，湯森路透人工智慧和湯森路透實驗室負責人 Joel Hron 最近說 關於他們對 Amazon Bedrock 的採用，“能夠使用各種模型的出現是我們的關鍵驅動因素，特別是考慮到這個領域發展的速度有多快。” Mistral AI 模型系列的尖端模型包括 米斯特拉爾7B, 混合 8x7B和 米斯特拉爾大號 讓客戶對其在文字生成、摘要、問答和程式碼生成方面的高效能感到興奮。自從我們推出 Anthropic Claude 3 模型系列以來，成千上萬的客戶體驗了 Claude 3 Haiku、Sonnet 和 Opus 如何以無與倫比的智慧、速度和成本效益在認知任務中建立了新基準。在 Amazon Bedrock 中使用 Claude 3 Haiku 和 Opus 進行初步評估後，品牌智慧平台 BlueOcean.ai 發現，當他們能夠將四個獨立的 API 呼叫整合為一個更有效率的呼叫時，成本降低了 50% 以上。
索尼集團公司 DX 平台集團聯合治理總經理 Masahiro Oba 分享：
「雖然將生成式 AI 應用於業務面臨許多挑戰，但 Amazon Bedrock 的多樣化功能幫助我們為索尼的業務量身定制生成式 AI 應用程式。我們不僅能夠利用 Claude 3 強大的 LLM 功能，還能利用幫助我們保護企業級應用程式的功能。我非常自豪能夠與 Bedrock 團隊合作，在索尼集團內進一步實現生成式 AI 的民主化。
我最近與一流資產管理公司Bridgewater Associates 的人工投資助理實驗室首席技術官Aaron Linsky 進行了交談，他們正在使用生成式人工智能來增強他們的“人工投資助理”，這對他們的客戶來說是一個重大飛躍。它建立在他們為投資決策提供基於規則的專家建議的經驗之上。借助 Amazon Bedrock，他們可以使用現有的最佳 FM（例如 Claude 3）來執行不同的任務 - 將基本的市場理解與 AI 的靈活推理功能相結合。 Amazon Bedrock 允許進行無縫模型實驗，使 Bridgewater 能夠建立強大的、自我改進的投資系統，將系統建議與尖端功能相結合，從而創建一個不斷發展的、人工智慧優先的流程。
為了為客戶帶來更多的型號選擇，今天，我們正在製作 Amazon Bedrock 提供 Meta Llama 3 型號。 Llama 3 的 Llama 3 8B 和 Llama 3 70B 模型專為構建、實驗和負責任地擴展生成式 AI 應用程式而設計。這些模型比以前的模型架構有了顯著改進，包括擴大預訓練以及指令微調方法。 Llama 3 8B 擅長文本摘要、分類、情感分析和翻譯，非常適合有限資源和邊緣設備。 Llama 3 70B 在內容創建、對話式人工智慧、語言理解、研發、企業、準確摘要、細緻分類/情緒分析、語言建模、對話系統、程式碼產生和指令追蹤方面表現出色。閱讀更多關於 Meta Llama 3 現已在 Amazon Bedrock 中提供。
我們也宣布即將支援 Cohere 的 Command R 和 Command R+ 企業 FM。這些模型具有高度可擴展性，並針對長上下文任務進行了優化，例如檢索增強生成(RAG)，透過引用來減輕幻覺，使用多步驟工具自動執行複雜的業務任務，並支援10 種語言進行全球運營。 Command R+ 是 Cohere 最強大的模型，針對長上下文任務進行了最佳化，而 Command R 則針對大規模生產工作負載進行了最佳化。隨著 Cohere 模型即將在 Amazon Bedrock 中推出，企業可以建立企業級生成式 AI 應用程序，在概念驗證之外的日常 AI 操作中平衡強大的準確性和效率。
Amazon Titan 圖像生成器現已全面推出，Amazon Titan 文字嵌入 V2 即將推出
除了添加功能最強大的 3P 模型外，Amazon Titan Image Generator 現已全面上市。透過 Amazon Titan Image Generator，廣告、電子商務、媒體和娛樂等行業的客戶可以利用自然語言提示，以低成本、大量高效地產生逼真、工作室品質的圖像。他們可以使用文字提示編輯生成的或現有的圖像、配置圖像尺寸或指定圖像變體的數量來指導模型。預設情況下，Amazon Titan Image Generator 產生的每個影像都包含不可見浮水印，這符合 AWS 透過減少錯誤訊息傳播來促進負責任和道德的 AI 的承諾。水印偵測功能可識別影像產生器所建立的影像，並具有防篡改功能，有助於提高人工智慧生成內容的透明度。水印偵測有助於降低智慧財產權風險，並使內容創作者、新聞機構、風險分析師、詐欺偵測團隊等能夠更好地識別和減少人工智慧產生的誤導性內容的傳播。閱讀更多關於 Titan 影像產生器的浮水印偵測.
Amazon Titan Text Embeddings V2 即將推出，可以有效地為搜尋等關鍵企業用例提供更相關的回應。當利用 RAG 透過附加資訊豐富響應時，高效的嵌入模型對於性能至關重要。 Embeddings V2 針對 RAG 工作流程進行了最佳化，並提供與 Amazon Bedrock 知識庫 有效地提供更多資訊和相關的答案。 Embeddings V2 可以更深入地理解檢索、分類、語意相似性搜尋和增強搜尋相關性等複雜任務的資料關係。 Embeddings V256 提供 512、1024 和 2 維的靈活嵌入尺寸，優先考慮降低成本，同時保留 RAG 用例 97% 的準確性，性能優於其他領先模型。此外，靈活的嵌入大小可以滿足從低延遲移動部署到高精度非同步工作流程的各種應用程式需求。
新模型評估簡化了獲取、比較和選擇 LLM 和 FM 的過程
選擇合適的模型是建立任何生成式人工智慧應用程式的關鍵第一步。根據任務、領域、數據模式和其他因素，法學碩士的表現可能會大不相同。例如，生物醫學模型在特定的醫療環境中可能優於一般醫療保健模型，而編碼模型可能面臨自然語言處理任務的挑戰。使用過於強大的模型可能會導致資源使用效率低下，而功能不足的模型可能無法滿足最低性能標準 - 可能會提供不正確的結果。在專案開始時選擇不合適的 FM 可能會損害利害關係人的信心和信任。
有這麼多的型號可供選擇，我們希望讓客戶更輕鬆地選擇適合其使用場景的型號。
Amazon Bedrock 的模型評估工具現已全面推出，透過針對特定資料集和評估指標進行基準測試和比較，簡化選擇過程，確保開發人員選擇最符合其專案目標的模型。這種引導式體驗使開發人員能夠根據針對每個用例量身定制的標準來評估模型。透過模型評估，開發人員選擇候選模型進行評估 - 公共選項、導入的自訂模型或微調版本。他們定義相關的測試任務、資料集和評估指標，例如準確性、延遲、成本預測和定性因素。閱讀更多關於 Amazon Bedrock 中的模型評估.
從 Amazon Bedrock 中選擇表現最佳的 FM 的能力對 Elastic Security 非常有利。 Elastic 產品管理總監 James Spiteri 分享：
「只需點擊幾下，我們就可以同時評估多個模型的單一提示。此模型評估功能使我們能夠比較不同模型的輸出、指標和相關成本，從而使我們能夠就哪種模型最適合我們想要實現的目標做出明智的決定。這極大地簡化了我們的流程，為我們在將應用程式部署到生產中節省了大量時間。
2. Amazon Bedrock 提供根據您的業務需求客製化生成式 AI 的功能
雖然模型非常重要，但建立對組織有用的應用程式需要的不僅僅是模型。這就是為什麼 Amazon Bedrock 能夠幫助您輕鬆自訂針對特定用例的生成式 AI 解決方案。客戶可以使用自己的資料透過微調或使用知識庫來私下自訂應用程序，以獲得完全託管的 RAG 體驗，從而提供更相關、更準確和客製化的回應。 Amazon Bedrock 代理程式可讓開發人員定義特定任務、工作流程或決策流程，增強控制和自動化，同時確保與預期用例保持一致。從今天開始， 您現在可以將 Agent 與 Anthropic Claude 3 Haiku 和 Sonnet 模型一起使用。我們還推出了更新的 AWS 控制台體驗，支援簡化的架構和控制返回，讓開發人員能夠輕鬆上手。閱讀更多關於 Amazon Bedrock 代理現在更快、更易於使用.
透過新的自訂模型匯入，客戶可以透過自己的模型利用 Amazon Bedrock 的全部功能
所有這些功能對於建立生成式人工智慧應用程式至關重要，這就是為什麼我們希望將它們提供給更多客戶，包括那些已經投入大量資源使用自己的不同服務資料微調法學碩士或訓練自訂模型的客戶。許多客戶可以在 Amazon SageMaker 上使用客製化模型，該模型提供最廣泛的 250 多種預訓練 FM。這些 FM 包括尖端型號，如 Mistral、Llama2、CodeLlama、Jurassic-2、Jamba、pplx-7B、70B 以及令人印象深刻的 Falcon 180B。 Amazon SageMaker 有助於組織和微調數據，建立可擴展且高效的訓練基礎設施，然後以低延遲、經濟高效的方式大規模部署模型。對於開發人員來說，它改變了遊戲規則：為AI 準備資料、管理實驗、更快地訓練模型（例如Perplexity AI 在Amazon SageMaker 中訓練模型的速度提高了40%）、降低推理延遲（例如Workday 與Amazon 一起將推理延遲降低了80%） SageMaker），並提高開發人員的工作效率（例如，NatWest 使用 Amazon SageMaker 將其 AI 價值實現時間從 12-18 個月縮短至不到 XNUMX 個月）。然而，安全地操作這些客製化模型並將其整合到特定業務用例的應用程式中仍然面臨挑戰。
這就是為什麼今天我們要介紹 Amazon Bedrock 自訂模型導入，這使組織能夠利用其現有的 AI 投資以及 Amazon Bedrock 的功能。透過自訂模型匯入，客戶現在可以匯入和存取基於流行的開放模型架構（包括Flan-T5、Llama 和Mistral）建立的自己的自訂模型，作為Amazon Bedrock 中完全託管的應用程式介面(API) 。客戶可以採用在 Amazon SageMaker 或其他工具上客製化的模型，並將其輕鬆添加到 Amazon Bedrock。經過自動驗證後，他們可以無縫存取其自訂模型，就像 Amazon Bedrock 中的任何其他模型一樣。他們獲得所有相同的好處，包括無縫的可擴展性和保護應用程式的強大功能、遵守負責任的人工智慧原則，以及使用RAG 擴展模型知識庫的能力，輕鬆創建代理來完成多步驟任務，並攜帶進行微調以保持教學和完善模型。所有這些都不需要管理底層基礎設施。
借助這項新功能，我們使組織可以輕鬆選擇 Amazon Bedrock 模型和自己的自訂模型的組合，同時保持相同的簡化開發體驗。今天，Amazon Bedrock 自訂模型導入已推出預覽版，支援三種最受歡迎的開放模型架構，並計劃在未來支援更多架構。閱讀更多關於 Amazon Bedrock 的自訂模型導入.
ASAPP 是一家生成式人工智慧公司，擁有 10 年建構機器學習模型的歷史。
「我們的對話產生人工智慧語音和聊天代理利用這些模型重新定義客戶服務體驗。為了為我們的客戶提供端到端自動化，我們需要法學碩士代理、知識庫和模型選擇靈活性。透過自訂模型匯入，我們將能夠在 Amazon Bedrock 中使用現有的自訂模型。 Bedrock 將使我們能夠更快地吸引客戶，加快創新步伐，並加快新產品功能的上市時間。
– Priya Vijayarajendran，技術總裁。
3. Amazon Bedrock 為輕鬆實施保障措施提供了安全且負責任的基礎
隨著生成式人工智慧能力的進步和擴展，建立信任和解決道德問題變得更加重要。 Amazon Bedrock 透過利用 AWS 安全且值得信賴的基礎設施以及業界領先的安全措施、強大的資料加密和嚴格的存取控制來解決這些問題。
Amazon Bedrock 的 Guardrails 現已全面上市，可協助客戶防止有害內容並管理應用程式內的敏感資訊。
我們還提供 Amazon Bedrock 的護欄現已全面上市。 Guardrails 提供業界領先的安全保護，使客戶能夠定義內容策略、設定應用程式行為邊界並實施針對潛在風險的保護措施。 Amazon Bedrock 的 Guardrails 是主要雲端供應商提供的唯一解決方案，使客戶能夠在單一解決方案中為其生成式 AI 應用程式建立和客製化安全和隱私保護。與 Amazon Bedrock 上 FM 本身提供的保護相比，它可以幫助客戶阻止多達 85% 的有害內容。 Guardrails 為有害內容過濾和強大的個人識別資訊 (PII) 偵測功能提供全面支援。 Guardrails 與 Amazon Bedrock 中的所有法學碩士以及微調模型配合使用，推動模型回應不良和有害內容的一致性。您可以配置閾值來過濾六個類別的內容 - 仇恨、侮辱、性、暴力、不當行為（包括犯罪活動）和即時攻擊（越獄和即時注入）。您還可以定義一組需要在生成式 AI 應用程式中封鎖的主題或單字，包括有害單字、髒話、競爭對手名稱和產品。例如，銀行應用程式可以配置護欄來偵測和阻止與投資建議相關的主題。匯總呼叫中心記錄的聯絡中心應用程式可以使用 PII 編輯來刪除呼叫摘要中的 PII，或者會話聊天機器人可以使用內容過濾器來阻止有害內容。閱讀更多關於 亞馬遜基岩護欄.
Aha!（一家幫助超過 1 萬人將其產品策略變為現實的軟體公司）等公司使用 Amazon Bedrock 為其許多生成式 AI 功能提供支援。
「透過 Amazon Bedrock 的資料保護和隱私權政策，我們可以完全控制我們的訊息，並且可以透過 Amazon Bedrock 的 Guardrails 阻止有害內容。我們只是在此基礎上幫助產品經理透過分析客戶提交的回饋來發現見解。這只是個開始。我們將繼續以先進的 AWS 技術為基礎，幫助世界各地的產品開發團隊充滿信心地確定下一步要建置的內容。
憑藉更多領先FM 和功能的選擇，幫助您評估模型和保護應用程序，並利用您之前在AI 方面的投資以及Amazon Bedrock 的功能，今天的發布使客戶能夠更輕鬆、更快速地構建和擴展生成式AI應用程式。這篇博文僅重點介紹了新功能的一部分。您可以在本文的資源中詳細了解我們推出的所有內容，包括提出問題和總結單一文件中的數據，而無需在知識庫和 透過知識庫普遍支援多個資料來源.
利用 Amazon Bedrock 功能的早期採用者正在獲得重要的領先優勢 - 推動生產力提高、推動跨領域的突破性發現，並提供增強的客戶體驗以培養忠誠度和參與度。我很高興看到我們的客戶下一步將利用這些新功能做什麼。
正如我的導師 Werner Vogels 總是說的“現在開始建造”，我將添加“…使用 Amazon Bedrock！”
資源
查看以下資源以了解有關此公告的更多資訊：
關於作者
斯瓦米·西瓦蘇布拉馬尼安 是 AWS 的數據和機器學習副總裁。 在此職位上，Swami 負責監督所有 AWS 數據庫、分析以及人工智能和機器學習服務。 他的團隊的使命是幫助組織將他們的數據與完整的端到端數據解決方案一起使用，以存儲、訪問、分析、可視化和預測。
- SEO 支持的內容和 PR 分發。 今天得到放大。
- PlatoData.Network 垂直生成人工智能。 賦予自己力量。 訪問這裡。
- 柏拉圖愛流。 Web3 智能。 知識放大。 訪問這裡。
- 柏拉圖ESG。 碳， 清潔科技, 能源， 環境， 太陽能， 廢物管理。 訪問這裡。
- 柏拉圖健康。 生物技術和臨床試驗情報。 訪問這裡。
- 資源： https://aws.amazon.com/blogs/machine-learning/new-capabilities-make-it-easier-to-use-amazon-bedrock-to-build-and-scale-generative-ai-applications-and-deliver-impact/
