想法簡(jiǎn)述

• 本文探討了 UX 設(shè)計(jì)師如何通過(guò)了解影響代理行為和用戶交互的四種關(guān)鍵能力類(lèi)型來(lái)有效地與 AI 代理合作。
• 它強(qiáng)調(diào)在設(shè)計(jì)過(guò)程早期評(píng)估人工智能代理的感知、推理、行動(dòng)和學(xué)習(xí)能力的重要性，以創(chuàng)造現(xiàn)實(shí)、合乎道德和以用戶為中心的體驗(yàn)。
• 該作品提供了實(shí)用的框架和示例——從智能家居設(shè)備到醫(yī)療保健機(jī)器人——以幫助設(shè)計(jì)師提出正確的問(wèn)題、跨職能協(xié)作以及負(fù)責(zé)任地使用人工智能。

隨著人工智能 (AI) 越來(lái)越深入地融入產(chǎn)品，設(shè)計(jì)師必須了解這些系統(tǒng)真正能做什么。本文介紹了一個(gè)圍繞感知、推理、記憶和代理四大核心能力構(gòu)建的實(shí)用框架，旨在幫助用戶體驗(yàn) (UX) 專(zhuān)業(yè)人士設(shè)計(jì)更智能、更值得信賴的 AI 體驗(yàn)。本書(shū)包含真實(shí)案例和實(shí)用技巧，對(duì)于任何致力于塑造 AI 界面未來(lái)的人士來(lái)說(shuō)，都是必讀之作。

許多人認(rèn)為，人工智能代理已經(jīng)存在，只是分布不均。然而，目前很少有案例能夠展現(xiàn)與這種近未來(lái)人工智能的良好交互體驗(yàn)。幸運(yùn)的是，在最近的 AWS Re: Invent 大會(huì)上，我偶然發(fā)現(xiàn)了一個(gè)與人工智能代理交互的用戶體驗(yàn)的絕佳示例，我迫不及待地想在本文中與大家分享這一愿景。但首先，人工智能代理究竟是什么？

什么是 AI 代理？

想象一下一個(gè)蟻群。在一個(gè)典型的蟻群中，有不同專(zhuān)長(zhǎng)的螞蟻：工蟻、兵蟻、雄蟻、蟻后等等。蟻群中的每只螞蟻都有不同的工作——它們獨(dú)立運(yùn)作，但又像一個(gè)緊密結(jié)合的整體。你可以“雇傭”一只螞蟻（代理）為你做一些簡(jiǎn)單的半自主工作，這本身就很酷。然而，試想一下，你可以雇傭整個(gè)蟻丘去做一些更復(fù)雜或更有趣的事情：找出你的系統(tǒng)出了什么問(wèn)題，預(yù)訂你的行程，或者……做幾乎所有人類(lèi)在電腦前能做的事情。每只螞蟻本身并不非常聰明——它們高度專(zhuān)業(yè)化，專(zhuān)注于完成特定的工作。然而，不同專(zhuān)長(zhǎng)的螞蟻組合在一起，呈現(xiàn)出一種我們將其與高級(jí)動(dòng)物聯(lián)系起來(lái)的“集體智慧”。我們?cè)诓┛椭幸恢笔褂玫?ldquo;人工智能”（AI）與人工智能代理之間最顯著的區(qū)別在于自主性。您不需要向 AI 代理提供精確的指令或等待同步輸出 - 與一組 AI 代理的整個(gè)交互更加流暢和靈活，就像蟻丘解決問(wèn)題一樣。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

AI 代理如何工作？

代理型人工智能 (Agentic AI) 的工作方式多種多樣——這是一個(gè)內(nèi)容豐富的主題，值得專(zhuān)門(mén)寫(xiě)一本書(shū)來(lái)探討（或許一兩年后）。在本文中，我們將以系統(tǒng)故障排除為例，闡述一個(gè)涉及主管代理（也稱為“推理代理”）和多個(gè)工作代理的復(fù)雜流程。該流程始于人類(lèi)操作員收到問(wèn)題警報(bào)。他們啟動(dòng)調(diào)查，然后由主管代理領(lǐng)導(dǎo)的半自主 AI 代理團(tuán)隊(duì)幫助他們找到根本原因，并提出解決問(wèn)題的建議。讓我們用步驟圖來(lái)分解與 AI 代理交互的過(guò)程：

按 Enter 鍵或單擊即可查看完整尺寸的圖像

上圖所示的多階段代理工作流程包含以下步驟：

1. 人類(lèi)操作員向主管 AI 代理發(fā)出一般請(qǐng)求。
2. 然后，主管 AI 代理啟動(dòng)并向幾個(gè)專(zhuān)門(mén)的半自主工作者 AI 代理發(fā)出一般請(qǐng)求，這些代理開(kāi)始調(diào)查系統(tǒng)的各個(gè)部分，尋找根本原因（數(shù)據(jù)庫(kù)）。
3. 工作代理將調(diào)查結(jié)果帶回主管代理，主管代理將其整理為對(duì)人類(lèi)操作員的建議。
4. 人類(lèi)操作員接受或拒絕各種建議，這會(huì)導(dǎo)致主管代理啟動(dòng)更多工作人員進(jìn)行調(diào)查（云）。
5. 經(jīng)過(guò)一段時(shí)間的反復(fù)，主管代理提出了關(guān)于根本原因的假設(shè)并將其交給人類(lèi)操作員。

如同與典型的人類(lèi)組織簽訂合同一樣，主管AI代理?yè)碛幸恢в蓪?zhuān)業(yè)AI代理組成的團(tuán)隊(duì)。主管可以將消息路由到其監(jiān)管下的任何AI工作代理，這些代理將執(zhí)行任務(wù)并反饋給主管。主管可以選擇將任務(wù)分配給特定代理，并在稍后獲得更多信息時(shí)發(fā)送附加指令。最后，任務(wù)完成后，輸出將反饋給用戶。然后，人類(lèi)操作員可以選擇向主管AI代理提供反饋或附加任務(wù)，在這種情況下，整個(gè)流程將重新開(kāi)始。

人類(lèi)無(wú)需擔(dān)心任何內(nèi)部事務(wù)——所有事務(wù)都由“主管”以半自主的方式處理。人類(lèi)所做的只是提出一個(gè)通用請(qǐng)求，然后審查并響應(yīng)這個(gè)代理“組織”的輸出。如果你能做到這一點(diǎn)，這正是你與蟻群溝通的方式：你將工作分配給蟻后，讓她管理所有工蟻、兵蟻、雄蟻等等。與蟻群類(lèi)似，單個(gè)專(zhuān)業(yè)代理不需要特別聰明，也不需要直接與人類(lèi)操作員溝通——它們只需要能夠半自主地解決它們被設(shè)計(jì)執(zhí)行的專(zhuān)業(yè)任務(wù)，并將精確的輸出反饋給“主管”代理，僅此而已。“主管”代理的工作就是完成所有的推理和溝通。這種人工智能模型更高效、更經(jīng)濟(jì)，并且在許多任務(wù)中都非常實(shí)用。讓我們來(lái)看看交互流程，以便更好地感受這種體驗(yàn)在現(xiàn)實(shí)世界中的感受。

使用案例：使用 AI 代理進(jìn)行 CloudWatch 調(diào)查

為簡(jiǎn)單起見(jiàn)，我們將遵循本文前面的工作流程圖，流程中的每個(gè)步驟都與圖中的步驟相對(duì)應(yīng)。此示例來(lái)自AWS Re: Invent 2024 — 不要停滯不前：互聯(lián)遙測(cè)如何助您前進(jìn) (COP322)，由 YouTube 上的 AWS Events 主持，從 53 分鐘開(kāi)始。

步驟 1

該流程始于用戶發(fā)現(xiàn)名為“bot-service”的服務(wù)（屏幕截圖左上角）故障急劇增加，并啟動(dòng)新的調(diào)查。然后，用戶將所有相關(guān)信息以及一些額外的指令傳遞給主管代理。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

第 2 步

現(xiàn)在，在步驟 2 中，主管代理接收請(qǐng)求并生成一組工作 AI 代理，這些代理將半自主地查看系統(tǒng)的不同部分。該過(guò)程是異步的，這意味著右側(cè)的建議初始狀態(tài)為空：調(diào)查啟動(dòng)后不會(huì)立即顯示結(jié)果。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

步驟3

現(xiàn)在，工作代理返回了一些“建議的觀察結(jié)果”，這些結(jié)果由主管處理并添加到屏幕右側(cè)的建議中。請(qǐng)注意，屏幕右側(cè)現(xiàn)在更寬了，以便于閱讀代理建議。在下面的屏幕中，不同的代理提出了兩個(gè)截然不同的觀察結(jié)果，第一個(gè)代理專(zhuān)門(mén)負(fù)責(zé)服務(wù)指標(biāo)，第二個(gè)代理專(zhuān)門(mén)負(fù)責(zé)跟蹤。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

這些“建議的觀察結(jié)果”構(gòu)成了調(diào)查中的“證據(jù)”，旨在找出問(wèn)題的根本原因。為了找出根本原因，此流程中的人類(lèi)操作員會(huì)提供幫助：他們會(huì)向主管代理反饋哪些觀察結(jié)果最相關(guān)。因此，主管代理和人類(lèi)操作員并肩協(xié)作，找出問(wèn)題的根本原因。

步驟4

人工操作員會(huì)點(diǎn)擊“接受”按鈕，確認(rèn)他們認(rèn)為相關(guān)的觀察結(jié)果，這些結(jié)果會(huì)被添加到屏幕左側(cè)的調(diào)查“案例檔案”中?，F(xiàn)在，人工操作員已經(jīng)添加了反饋，表明他們認(rèn)為這些信息是相關(guān)的，代理流程將啟動(dòng)調(diào)查的下一階段。主管代理收到用戶反饋后，將不再發(fā)送“更多相同的信息”，而是會(huì)進(jìn)行更深入的挖掘，甚至可能調(diào)查系統(tǒng)的其他方面，以尋找根本原因。請(qǐng)注意，下圖中右側(cè)出現(xiàn)的新建議屬于另一種類(lèi)型——它們現(xiàn)在正在查看日志以尋找根本原因。

按 Enter 鍵或單擊即可查看完整尺寸的圖像

步驟5

最后，主管代理掌握了足夠的信息，開(kāi)始嘗試找出問(wèn)題的根本原因。因此，它從證據(jù)收集轉(zhuǎn)向推理根本原因。在步驟3和4中，主管代理提供了“建議性觀察”。現(xiàn)在，在步驟5中，它準(zhǔn)備好進(jìn)行重大揭秘（也可以稱之為“結(jié)局場(chǎng)景”），因此，就像文學(xué)偵探一樣，主管代理提出了它的“假設(shè)建議”。（這讓人想起游戲“線索”，玩家輪流提出“建議”，然后，當(dāng)他們準(zhǔn)備好發(fā)起攻擊時(shí)，他們就會(huì)提出“指控”。主管代理在這里也做了同樣的事情?。?/span>

按 Enter 鍵或單擊即可查看完整尺寸的圖像

建議的假設(shè)是正確的，當(dāng)用戶點(diǎn)擊“接受”時(shí)，主管代理會(huì)提供后續(xù)步驟來(lái)解決問(wèn)題，并防止將來(lái)再次出現(xiàn)類(lèi)似問(wèn)題。代理似乎在對(duì)人類(lèi)指手畫(huà)腳，建議他們“實(shí)施適當(dāng)?shù)淖兏芾沓绦?rdquo;——這是任何良好系統(tǒng)衛(wèi)生的基礎(chǔ)！

按 Enter 鍵或單擊即可查看完整尺寸的圖像

最后的想法

代理流如此引人注目，并成為當(dāng)今眾多人工智能開(kāi)發(fā)工作的焦點(diǎn)，原因有很多。代理引人注目、經(jīng)濟(jì)實(shí)惠，并且能夠?qū)崿F(xiàn)更加自然靈活的人機(jī)界面。代理能夠填補(bǔ)人類(lèi)與機(jī)器之間溝通的空白，真正實(shí)現(xiàn)人機(jī)思維的融合，形成超越人類(lèi)的“增強(qiáng)智能”，其價(jià)值遠(yuǎn)超其各部分之和。然而，要從與代理的交互中獲得最大價(jià)值，也需要我們徹底改變對(duì)人工智能的理解方式，以及設(shè)計(jì)支持代理交互的用戶界面的方式：

• 靈活、可調(diào)節(jié)的用戶界面：代理與人類(lèi)一起工作，為此，人工智能代理需要一個(gè)靈活的工作流程，以支持人與機(jī)器在多個(gè)階段的持續(xù)交互——開(kāi)始調(diào)查、接受證據(jù)、形成假設(shè)、提供后續(xù)步驟等。這是一個(gè)跨越多個(gè)迭代的靈活循環(huán)流程。
• 自主性：雖然目前，人機(jī)交互似乎是代理工作流程的常態(tài)，但代理展現(xiàn)出非凡的能力，能夠提出假設(shè)、收集證據(jù)，并根據(jù)需要迭代假設(shè)，直至解決問(wèn)題。它們不會(huì)感到疲倦，也不會(huì)窮盡所有選項(xiàng)而放棄。AI 代理還展現(xiàn)出能夠有效地“編寫(xiě)代碼……讓工具自行構(gòu)建工具”的能力，從而探索解決問(wèn)題的新方法——這很新穎。這種交互本質(zhì)上需要“積極主動(dòng)”的 AI，例如，這些代理接受了最大召回率的訓(xùn)練，愿意嘗試所有可能性，以確保獲得最真實(shí)的積極結(jié)果（請(qǐng)參閱我們在此處的價(jià)值矩陣討論）。這意味著，有時(shí)代理會(huì)“只是為了嘗試”而采取行動(dòng)，而不會(huì)“考慮”假陽(yáng)性或假陰性結(jié)果的成本。例如，一個(gè)積極主動(dòng)的 AI 代理“醫(yī)生”可能會(huì)開(kāi)出侵入性腦癌活檢手術(shù)，而不會(huì)先考慮風(fēng)險(xiǎn)較低的替代方案，甚至不會(huì)停下來(lái)征求患者的同意！所有這些都需要更深層次的人機(jī)分析，以及針對(duì)激進(jìn)的人工智能“探索想法”的多個(gè)新的審批流程，這些想法可能會(huì)導(dǎo)致人類(lèi)傷害，或者只是導(dǎo)致超出預(yù)算的成本膨脹。
• 需要新的控件：雖然大部分交互可以通過(guò)現(xiàn)有屏幕完成，但大多數(shù)代理操作都是異步的，這意味著大多數(shù)采用傳統(tǒng)事務(wù)型、同步請(qǐng)求/響應(yīng)模型的網(wǎng)頁(yè)都無(wú)法適應(yīng)這種新型交互。我們需要引入一些新的設(shè)計(jì)范式。例如，開(kāi)始、停止和暫停按鈕是控制代理流程的良好起點(diǎn)，否則你很有可能最終陷入幻想曲中“魔法師的學(xué)徒”的境地（自我復(fù)制的掃帚不停地打水，造成巨大且昂貴的混亂）。
• 你“雇傭”AI來(lái)執(zhí)行任務(wù)：這與傳統(tǒng)的工具使用方式截然不同。它們不再是工具，而是具有推理能力的實(shí)體，各自擁有智能。AI服務(wù)目前已包含多個(gè)由主管監(jiān)控的專(zhuān)用代理。很快，我們將引入多級(jí)管理，由下級(jí)主管和“團(tuán)隊(duì)負(fù)責(zé)人”向最終與人類(lèi)打交道的“客戶經(jīng)理代理”匯報(bào)……就像今天的人類(lèi)組織一樣。到目前為止，組織需要跟蹤產(chǎn)品、人員和流程?，F(xiàn)在，我們?yōu)?ldquo;人”添加了新的定義——AI代理。這意味著需要開(kāi)發(fā)可行的用戶界面來(lái)保護(hù)機(jī)密信息、基于角色的訪問(wèn)控制 (RBAC) 和代理版本控制。保護(hù)代理數(shù)據(jù)將比與人類(lèi)員工簽署保密協(xié)議更為重要。
• 持續(xù)學(xué)習(xí)系統(tǒng)：要充分發(fā)揮智能代理的價(jià)值，它們需要持續(xù)學(xué)習(xí)。智能代理會(huì)不斷學(xué)習(xí)，迅速成為其所用系統(tǒng)方面的專(zhuān)家。最初的智能代理就像新來(lái)的實(shí)習(xí)生一樣，知識(shí)儲(chǔ)備有限，但他們很快就會(huì)成為“房間里的成年人”，擁有比大多數(shù)人更豐富的訪問(wèn)權(quán)限和經(jīng)驗(yàn)。這將在職場(chǎng)上引發(fā)巨大的權(quán)力轉(zhuǎn)移。我們必須做好準(zhǔn)備。

無(wú)論你對(duì)人工智能代理有何看法，它們無(wú)疑會(huì)與人類(lèi)同行共同發(fā)展，并持續(xù)存在。因此，我們必須了解代理人工智能的工作原理，以及如何設(shè)計(jì)能夠讓我們安全高效地與它們協(xié)同工作的系統(tǒng)，充分發(fā)揮人類(lèi)和機(jī)器各自的優(yōu)勢(shì)。

 

蘭亭妙微(m.ieapo.cn )是一家專(zhuān)注而深入的界面設(shè)計(jì)公司，為期望卓越的國(guó)內(nèi)外企業(yè)提供卓越的大數(shù)據(jù)可視化界面設(shè)計(jì)、B端界面設(shè)計(jì)、桌面端界面設(shè)計(jì)、APP界面設(shè)計(jì)、圖標(biāo)定制、用戶體驗(yàn)設(shè)計(jì)、交互設(shè)計(jì)、UI咨詢、高端網(wǎng)站設(shè)計(jì)、平面設(shè)計(jì)，以及相關(guān)的軟件開(kāi)發(fā)服務(wù)，咨詢電話：01063334945。我們建立了一個(gè)微信群，每天分享國(guó)內(nèi)外優(yōu)秀的設(shè)計(jì)，有興趣請(qǐng)加入一起學(xué)習(xí)成長(zhǎng)，咨詢及進(jìn)群請(qǐng)加藍(lán)小助微信ben_lanlan。