2023年11月29日 星期三

[Coursera Course Note] 可信的生成式人工智慧

 


#ACHIEVE 框架

我們應該以增強智能而非人工智慧為重點來對待人工智慧。增強智能是指利用人工智慧增強人類的能力,而不是取代人類。我們的目標是創造一個"心靈的外骨骼"--能夠增強我們的創造力、生產力和解決問題能力的工具。


增強型智能讓人類始終處於環路之中。它提供幫助和協助,但依賴人類的指導、監督和改進。這確保了人在整個過程中的不可或缺性,而不是被自動化掉。增強智能將人類和機器的優勢結合起來,幫助我們更批判性地思考,跳脫偏見的束縛,激發新的解決方案,完成我們無法獨立完成的偉大事業。它拓展了人類的可能性。這種合作方式認識到,人類和人工智慧都擁有獨特的能力。關鍵在於如何利用人工智慧來增強和補充我們人類特有的技能和火花。


Achieve 框架提供了一種使用生成式人工智慧的方法,這種方法可以增強人類智能,而不是取代人類。其目標是透過結合人類和人工智慧的優勢,提高創造力、生產力和解決問題的能力。


Achieve 框架的主要面向包括


協助人類協調--利用人工智慧總結討論內容、澄清計畫中的模糊之處並識別潛在衝突,從而幫助團隊更好地協調。


減少乏味的工作--將重複性的瑣碎工作自動化,讓人們可以將時間集中在更有意義、更吸引人的活動上。


幫助提供一個安全網--讓人工智慧審查工作產品,捕捉人類可能忽略的錯誤和失誤。


激發更好的問題解決能力和創造力--與人工智慧輸出互動,激發新想法和批判性思考。把它當作一個起點,而不是最終產品。


讓偉大的創意更快地擴展--利用生成能力,以人類無法實現的方式,快速建立原型並擴展創意概念。


Achieve 的縮寫可概括為


A:幫助人類協調


C:減少繁瑣任務


H:協助提供安全網


IEV:激發更好的解決問題的能力和創造力


E:讓偉大的創意更快推廣


採用這種增強智慧的思維方式,可以確保人類仍然是流程中不可或缺的一部分,而不是被自動化掉。關鍵在於利用人工智慧的能力,同時仍重視、指導和改進其工作。以這種方式合理使用人工智慧,可以改變個人和組織所能取得的成就。


#過濾和引用的提示模式

過濾是生成式人工智慧的一個有用應用,但它應該應用於用戶已經可以訪問的信息,而不是決定用戶應該訪問哪些信息。需要有一個單獨的程式來決定適當的存取權限。它不應該用來決定哪些資訊可以向外界發布,而是用來支持人類的推理。


在使用生成式人工智慧進行過濾時,追溯到原始資訊至關重要。這樣就可以透過包含行號、引文等標識符來檢查事實。


如果能保持可追溯性,總結和解釋等變體也是合適的。但是,我們需要避免錯誤輸出可能導致有害下游後果的任務。


過濾是一種安全的操作,因為輸出是輸入的子集。這樣就可以很容易地檢查過濾後的資訊是否包含在原始資訊中。


在不提供來源資訊的情況下盲目提示摘要或引文不太可能有好的效果。人工智慧需要原始內容來過濾和引用。


關鍵在於使用生成式人工智慧來增強人類的推理能力,而不是取而代之。引導使用者向人類專家諮詢,而不是直接產生建議,可能會更好地支援醫療決策等任務。


過濾資訊是生成式人工智慧最有前途的應用之一。如果經過深思熟慮,過濾可以讓人工智慧系統有效處理大量數據,並為人類用戶提取最相關的部分。這可以增強人類的分析和決策能力。不過,必須注意確保以負責任和透明的方式進行過濾。正如以下幾點所述,過濾應只適用於用戶可以訪問的信息,應保持可追溯性,重點應始終放在輔助人類推理上,而不是取代人類推理。有了適當的檢查和限制,過濾是以安全和富有成效的方式利用人工智慧的一個令人興奮的機會。


可追溯性是指將人工智慧系統的輸出與原始輸入和資料來源連結起來的能力。在使用生成式人工智慧過濾資訊時,保持可追溯性對於事實檢查和問責至關重要。要做到這一點,可以讓人工智慧為其產生的任何過濾輸出提供原始資料中的識別碼。例如,在總結文字文件時,人工智慧可以引用特定的行號或引文來支援每個生成的總結句子。或者在過濾資料集時,它可以包含唯一的ID,以便將每個輸出行追溯到原始表格。可追溯性可以讓人類輕鬆驗證人工智慧的輸出是否牢牢植根於給定的輸入。如果沒有可追溯性,就很難對系統的工作進行審計或糾正潛在的錯誤。保留原始數據與過濾輸出之間的這種聯繫,可以提高生成式人工智慧的透明度和責任感。



過濾模式:

1.簡單過濾模式

過濾以下X 以包含/移除Y ------------- 要過濾的訊息


範例:

"""

過濾此電影列表,使其僅包括2010 年之後發行的電影:


-------------------


阿甘正傳》, 1994 《教父》, 1972 《全面啟動》, 2010 《玩具總動員》, 1995 《駭客任務》, 1999 《冰雪奇緣》, 2013


”“”


2.語意過濾模式

過濾以下資訊以刪除X 解釋要刪除的內容和原因然後,提供過濾後的信息------------- 要過濾的信息


範例:

"""

過濾此電影列表,刪除主角使用非正常口音的地方口音的電影。解釋您要刪除的內容和原因。然後提供包含原始電影ID 的過濾資訊:


-------------------


M1.阿甘正傳》,1994 年M2.教父》,1972 年M3.盜夢空間》,2010 年M4.玩具總動員》,1995 年M5.黑客帝國》,1999 年M6.冰雪奇緣》,2013年


”“”


3.總結和引用模式

總結以下資訊的要點。摘要的每個句子之後,引用支持該句子的資訊的ID(或提供引文)。 -------------------


要總結的信息


範例:

總結以下客戶評論的要點。摘要的每句話後,引用支持該摘要的評論ID: -------------------


R1.食物很美味,服務也很好。 5 星級!


R2.糟糕的經驗。工作人員很粗魯,食物很冷。 1顆星


R3.一切都很不錯,但沒什麼特別的。 3顆星


R4.我常來這裡。這裡的食物一直都很好吃,服務生也很友善。強烈推薦!


#構思與創意

目標應該是啟發人類用戶,而不是取代他們。生成式人工智慧是一種激發創造力、想像和新視角的工具。


使用人工智慧進行構思包括產生想法,然後由人類回應、反應並加以改進。人類仍然是關鍵的創造者。


使用人工智慧進行構思的成本很低——你可以快速產生許多想法,放棄那些無法引起共鳴的想法,並專注於那些能啟發新思維的想法。


生成式人工智慧並不是要直接提供最終的工作產品或解決方案。人類使用者應評估、完善並擁有最終產出。


對愚蠢或假設性的想法進行有趣、低風險的頭腦風暴,是激發創造力和發現新角度的好方法。


在使用人工智慧進行構思時,將複雜的主題和關係圖表化和視覺化可以激發新的見解。


人們應該對構思過程和產生的想法有主人翁感,而不是人工智慧輸出什麼就接受什麼。


作為一種創造力工具,生成式人工智慧在增強人類的構思和想像方面大有可為。但人類必須指導這個過程。


如果使用得當,生成式人工智慧作為一種增強人類創造力的工具,具有巨大的潛力。關鍵是要認識到,科技應該協助人類進行構思,而不是取代人類。有了正確的心態和方法,人類就能引導克勞德這樣的生成模型提供新穎的視角,激發想像。


利用人工智慧進行構思的一大好處是能夠快速產生各種非常規創意。雖然許多想法可能不會有結果,但遇到不尋常的組合或從新的角度來探討一個主題,可以推動突破性思維。與人類的腦力激盪會議不同,人工智慧系統可以迅速產生數十個甚至上百個可供考慮的新創意。人們不應期待完美,而應將創意飛躍作為思維的起點。


另一個優點是使用視覺效果和圖表。圍繞問題生成圖像有助於從新的視角看待問題。概念圖、流程圖和關係的抽象表述等都能讓我們認識新的模式和機會。透過與人工智慧生成的視覺作品互動,我們的空間推理能力能夠以創新的方式將各種想法連結起來。


當然,人類必須始終是構思背後的關鍵驅動力。我們應該把人工智慧當作一個富有想像的合作夥伴,而不是一個確定解決方案的來源。我們必須對科技所提供的內容進行整理、提煉並加以利用。雖然明智地使用生成模型開闢了新的創意領域,但人類必須掌握過程和結果。透過保持與人工智慧合作的積極參與,我們在保留目的性和控制力的同時,也能獲得更多的創新空間。


歸根究底,生成式人工智慧為增強人類的想像和構思能力提供了一種令人興奮的新手段。透過將其視為創意繆斯而非神諭,我們挖掘出了開發遠見卓識的革命性潛力。負責任地運用人工智慧,讓人類牢牢掌握主導權,就能開闢解決問題的新天地。


#導航提示模式

允許在不直接產生資訊的情況下存取敏感資訊,避免潛在的不準確性


如果人工智慧引導錯誤,使用者可以辨識出資訊錯誤或缺失,從而限制危害的發生


利用並增強現有的經過驗證的資料來源,而不是創建新的未經驗證的輸出結果


節省使用者透過複雜應用程式/系統自行尋找資訊的時間


將自然語言問題轉化為系統導航


在處理敏感資訊時,導航是使用人工智慧的有效方法。生成式人工智慧不會直接產生敏感訊息,而是引導使用者找到現有系統中的信息。這樣做的目的是引導使用者獲取訊息,而不是潛在地產生不準確的資訊。


例如,考慮一個醫療保健行動應用程式。患者可能會問"我的下一個預約是什麼?"這樣的問題。人工智慧不會產生可能不準確的預約詳情,而是會回答在應用程式中哪裡可以找到該信息,例如"預約日程安排"螢幕。


如果人工智慧出了差錯,將用戶引導到了錯誤的位置,後果也不大--用戶只是看到資訊不在那裡。在合約中,如果資訊是以文字形式產生的,則可能完全不準確,從而造成傷害。例如,如果醫療預約的詳細資訊產生錯誤,其造成的傷害可能比生成式人工智慧將用戶帶到行動應用程式中的錯誤螢幕要大得多。


需要考慮的潛在問題:


人工智慧仍可能引導用戶進入錯誤的螢幕,造成輕微的挫敗感


需要一定的監督,以避免將用戶引導到他們不應該訪問的資訊上


可能需要澄清何時資訊不可用,而不僅僅是導航錯誤


總的來說,導航是人工智慧對敏感資料的一種更安全的應用。它在為用戶提供幫助的同時,也依賴現有的有效資訊來源。在將人工智慧應用於敏感任務時,將問題重構為導航挑戰,可以為負責任地利用這些技術開闢新的可能性。



導航模式:

1.直接導航模式

請告訴我在哪裡可以找到X。


-------------


位置標識符,位置中的資訊描述


位置2 的標識符,位置2 的資訊描述




舉例說明:

”“”


使用下面的資訊位置列表,告訴我在哪裡可以找到下次預約的資訊。


-------------------


登入畫面:此畫面允許使用者使用使用者名稱和密碼登入行動醫療應用程式。該畫面可能還有註冊新帳戶或重設遺忘密碼的選項。


主螢幕:主螢幕是應用程式的主螢幕,使用者登入後即可存取。它可能包括


使用者個人資料資訊(如姓名、照片、年齡、性別)


快速存取常用功能(如預約安排、藥物追蹤、健康追蹤等)


帶有圖表的儀表板,用於追蹤健康進展和目標


即將到來的預約通知或用藥提醒


預約行程:此畫面可讓使用者安排、修改或取消與醫療服務提供者的預約。該螢幕上的資訊可能包括


可用日期和時間的日曆視圖


有空閒時間段的醫療服務提供者列表


確認已安排預約的詳細資料(如日期、時間、地點、醫療提供者)


”“”


2.代替導航模式

每當我詢問有關X 的問題時,千萬不要告訴我答案。下面描述了可以找到資訊的不同地點。


-------------


位置標識符,位置資訊描述


位置2 的標識符,位置2 的資訊描述



舉例說明:

”“”


每當我問關於X 的問題時,千萬不要告訴我答案,而是告訴我可以找到X 的位置。下面描述了可以找到資訊的不同位置。


-------------------


登入畫面:此畫面允許使用者使用使用者名稱和密碼登入行動醫療應用程式。該畫面可能還有註冊新帳戶或重設遺忘密碼的選項。


主螢幕:主螢幕是應用程式的主螢幕,使用者登入後即可存取。它可能包括


使用者個人資料資訊(如姓名、照片、年齡、性別)


快速存取常用功能(如預約安排、藥物追蹤、健康追蹤等)


帶有圖表的儀表板,用於追蹤健康進展和目標


即將到來的預約通知或用藥提醒


預約行程:此畫面可讓使用者安排、修改或取消與醫療服務提供者的預約。該螢幕上的資訊可能包括


可用日期和時間的日曆視圖


有空閒時間段的醫療服務提供者列表


確認已安排預約的詳細資料(如日期、時間、地點、醫療提供者)


”“”

沒有留言:

張貼留言