訂閱
糾錯(cuò)
加入自媒體

OpenAI推出新一輪企業(yè)級(jí)功能,強(qiáng)化GPT-4 Turbo LLM和其他模型

2024-04-24 16:00
科聞社
關(guān)注

(本篇文章共884字,閱讀時(shí)間約1分鐘)

圖源:互聯(lián)網(wǎng)

OpenAI宣布了其面向API客戶(hù)的企業(yè)級(jí)功能擴(kuò)展,進(jìn)一步豐富了其Assistants API,并引入了新工具,旨在增強(qiáng)安全性和管理控制,以及更有效地管理成本。

Private Link和加固安全功能

在重大安全升級(jí)中,引入了Private Link,這是一種安全方法,可在微軟的Azure云服務(wù)和OpenAI之間直接通信,后者稱(chēng)其有助于最大限度地減少“對(duì)公開(kāi)互聯(lián)網(wǎng)的暴露”,用于通過(guò)API發(fā)送的客戶(hù)數(shù)據(jù)和查詢(xún)。

此舉是對(duì)現(xiàn)有安全堆棧的補(bǔ)充,包括SOC 2 Type II認(rèn)證、單點(diǎn)登錄(SSO)、AES-256數(shù)據(jù)加密、傳輸中的TLS 1.2加密和基于角色的訪問(wèn)控制。

此外,OpenAI還引入了原生多因素身份驗(yàn)證(MFA),以加強(qiáng)訪問(wèn)控制,符合日益增長(zhǎng)的合規(guī)要求。

對(duì)于需要符合HIPAA合規(guī)性的醫(yī)療保健公司,OpenAI繼續(xù)為合格的API客戶(hù)提供業(yè)務(wù)關(guān)聯(lián)協(xié)議,以及零數(shù)據(jù)保留政策。

升級(jí)的Assistants API可處理500倍的文件

OpenAI提供的較少宣傳但最重要的企業(yè)服務(wù)之一是其Assistants API,該API允許企業(yè)部署定制的、經(jīng)過(guò)調(diào)優(yōu)的模型,并通過(guò)檢索增強(qiáng)生成(RAG)調(diào)用特定文件,從而在其自己的應(yīng)用程序內(nèi)提供對(duì)話(huà)助手。

例如,今年早些時(shí)候,電商公司Klarna吹噓了其AI助手,該助手是使用OpenAI Assistants API制作的,能夠完成700名全職人員的工作,重復(fù)查詢(xún)減少25%,解決時(shí)間減少近82%(從11分鐘減少到2分鐘)。

OpenAI現(xiàn)在升級(jí)了Assistants API,引入了增強(qiáng)的文件檢索功能,新的“file_search”功能可以處理每個(gè)助手高達(dá)10,000個(gè)文件。

這比先前的20個(gè)文件的限制增加了500倍,增加了諸如并行查詢(xún)、改進(jìn)的重新排序和查詢(xún)重寫(xiě)等功能。

此外,API現(xiàn)在支持實(shí)時(shí)對(duì)話(huà)響應(yīng)的流式傳輸 - 這意味著AI模型(如GPT-4 Turbo或GPT-3.5 Turbo)將根據(jù)生成的令牌的速度返回輸出,而不是等待完整的響應(yīng)。

它進(jìn)一步集成了新的“vector_store”對(duì)象,用于更好地管理文件,并提供了更精細(xì)的令牌使用控制,以幫助有效管理成本。

項(xiàng)目允許企業(yè)控制和分區(qū)訪問(wèn)特定任務(wù)和分配

一個(gè)名為Projects的新功能通過(guò)允許組織在項(xiàng)目級(jí)別管理角色和API密鑰,提供了改進(jìn)的管理監(jiān)督。

這個(gè)功能允許企業(yè)客戶(hù)范圍權(quán)限,控制可用的模型,并設(shè)置基于使用的限制,以避免意外成本 - 這些增強(qiáng)功能大大簡(jiǎn)化了項(xiàng)目管理。

基本上,他們可以將一個(gè)調(diào)優(yōu)版本的AI模型或甚至是一個(gè)普通的基礎(chǔ)模型隔離到一個(gè)特定的任務(wù)或文件集合中,并允許特定的人員在其中工作。

END

       原文標(biāo)題 : OpenAI推出新一輪企業(yè)級(jí)功能,強(qiáng)化GPT-4 Turbo LLM和其他模型

聲明: 本文由入駐維科號(hào)的作者撰寫(xiě),觀點(diǎn)僅代表作者本人,不代表OFweek立場(chǎng)。如有侵權(quán)或其他問(wèn)題,請(qǐng)聯(lián)系舉報(bào)。

發(fā)表評(píng)論

0條評(píng)論,0人參與

請(qǐng)輸入評(píng)論內(nèi)容...

請(qǐng)輸入評(píng)論/評(píng)論長(zhǎng)度6~500個(gè)字

您提交的評(píng)論過(guò)于頻繁,請(qǐng)輸入驗(yàn)證碼繼續(xù)

  • 看不清,點(diǎn)擊換一張  刷新

暫無(wú)評(píng)論

暫無(wú)評(píng)論

    掃碼關(guān)注公眾號(hào)
    OFweek人工智能網(wǎng)
    獲取更多精彩內(nèi)容
    文章糾錯(cuò)
    x
    *文字標(biāo)題:
    *糾錯(cuò)內(nèi)容:
    聯(lián)系郵箱:
    *驗(yàn) 證 碼:

    粵公網(wǎng)安備 44030502002758號(hào)