F5推出AI網(wǎng)關，管理并保護快速增長的AI流量和應用需求

·保障AI的用戶和AI服務提供商安全，監(jiān)管身份驗證和零信任功能

·在跨團隊、應用和API中優(yōu)先考慮AI服務的使用

·實現(xiàn)基于OpenAI、云服務提供商、開源社區(qū)等AI服務和模型的集成自動化

西雅圖，2024年11月20日–F5（NASDAQ:FFIV）日前宣布推出搶先體驗版F5 AI網(wǎng)關（AI Gateway），以簡化企業(yè)在推動AI部署過程中應用、API和大語言模型（LLMs）間的交互。這一強大的容器化解決方案能夠優(yōu)化性能、可觀測性和保護能力，從而顯著降低成本。通過與F5的產品組合深度集成，AI網(wǎng)關為安全和運營團隊提供了采用AI服務的無縫途徑，以大幅提升數(shù)據(jù)輸出質量并帶來卓越的用戶體驗。

根據(jù)F5發(fā)布的《人工智能應用策略現(xiàn)狀報告》顯示，75%的企業(yè)正在部署AI。與眾多現(xiàn)代應用一樣，AI服務主要通過API進行交付和使用。然而，企業(yè)在設計和擴展支持AI的應用和服務時，卻面臨著更多額外挑戰(zhàn)。例如，高效運營需要密切監(jiān)控GPU計算成本、系統(tǒng)響應速度等日益重要的指標，同時還需應對不斷涌現(xiàn)的合規(guī)性要求。

Kunal Anand

F5首席創(chuàng)新官

“LLM正在為用戶打造全新的生產力水平，并提升用戶體驗，但它們同時也需要在推理階段進行監(jiān)督、深度檢查，并防御新型威脅。通過滿足這些新要求并與F5值得信賴的API流量管理解決方案集成，我們將幫助客戶在日益復雜的威脅環(huán)境中，自信且高效地部署AI驅動的應用?！?/p>

現(xiàn)實世界中的AI解決方案需要在整個數(shù)據(jù)生態(tài)系統(tǒng)中優(yōu)化請求、響應和快速交互。F5 AI網(wǎng)關通過觀察、優(yōu)化并保護大量用戶和自動化變量，從而降低成本、減少惡意威脅并確保合規(guī)性。

F5 AI網(wǎng)關旨在于客戶及其應用的AI發(fā)展中找到最佳契合點。該網(wǎng)關可部署在任何云或數(shù)據(jù)中心，并原生集成F5 NGINX及BIG-IP平臺，從而在傳統(tǒng)、多云或邊緣部署中充分利用F5領先的應用安全和交付服務。此外，該解決方案的開放可擴展性將允許企業(yè)開發(fā)和定制由F5 AI網(wǎng)關執(zhí)行的可編程安全和控制。這些流程可輕松更新并動態(tài)應用，以實現(xiàn)對安全策略和合規(guī)要求的即時響應。

Shari Lava

IDC人工智能和自動化高級總監(jiān)

“AI驅動的應用將在未來幾年成為幾乎所有企業(yè)和組織的基石。F5在其應用堆棧服務中引入AI網(wǎng)關，為客戶提供了在構建AI應用架構方面更大的靈活性，同時實現(xiàn)更強的保護和模型優(yōu)化?！?/p>

F5 AI網(wǎng)關可為用戶帶來以下價值：

·通過自動檢測和修復提供安全和合規(guī)性策略實施，以應對OWASP發(fā)布的大語言模型應用程序十大風險；

·利用語義緩存卸載LLM中的重復任務，提升用戶體驗并降低運營成本；

·簡化集成流程，允許開發(fā)人員得以專注于構建AI驅動的應用，而不是管理復雜的基礎架構；

·優(yōu)化本地和第三方LLM的負載平衡、流量路由和速率限制，以保持服務可用性并提升性能；

·提供單一API接口，供開發(fā)人員用于訪問他們選擇的AI模型。

Austin Geraci

WorldTech IT首席技術官

“F5的AI網(wǎng)關是我們AI戰(zhàn)略中不可或缺的一部分。借助該項技術，我們的客戶能夠開發(fā)內部和外部的AI應用，這些應用能夠處理大量查詢，而不降低站點和應用性能。F5提供的領先應用安全和交付能力，可加速大規(guī)模AI體驗。通過采用F5 AI網(wǎng)關，僅語義緩存和智能流量路由即可顯著降低成本，同時F5服務的統(tǒng)一性也為客戶節(jié)省了數(shù)百小時的集成工作?！?/p>