尋夢新聞LINE@每日推播熱門推薦文章，趣聞不漏接❤️
原創不易 請隨手點擊關注
本文由Rehoo團隊Tin原創，無授權禁轉！(圖片來自網路)
(圖片來自網路
在大數據時代和人工智能的發展時代，社交基礎設施促進了數字參與。數字時代宣傳越來越多的用戶參與與機構和服務的互動，確保由AI驅動的數字工具做出的決策反映了人類的價值觀。 逐漸沉浸在自動化中，我們做出的許多選擇包括某種形式的計算模型化過程。從手動到編程行為的這種轉變已經開始，引入推薦系統以根據用戶的偏好找到類似的產品。
然而，今天的人工智能系統不僅僅是強加建議，而且非常了解我們的工作和我們想要的東西。使用「有說服力的計算」和「大推動」，人工智能和自動化引導行動轉向更容易接受的行為，導致對現代數字合作願景缺乏信心。對這種現象的反應不同於「不插電」或僅僅是從自動化系統斷開連接到試圖與AI共存。由於依賴於我們日常生活中的許多應用，很明顯我們已經選擇了與自動化共生的路徑。
然而，接觸數字市場和大量解決方案自然會導致用戶在線體驗的混亂和懷疑，濫用AI都會為建立值得信賴的人機交互帶來額外的技術挑戰。此外，在記錄，轉換和分發數據附形成廣泛且易於訪問的雲以供進一步使用和操縱。為了提高人機共生的質量並遵守數字革命議程的一些基本原則，用戶必須承擔誠信並信任自動化決策。信任在降低用戶與複雜技術交互時面臨的認知複雜性方面發揮著重要作用。因此，它的缺席導致AI模型的利用不足或被遺棄。
(圖片來自網路
通過使用可解釋性作為衡量標準來掌握學習過程，直觀地調節信任 。但是，引入人和機器的反饋會增加上述挑戰的複雜性。隨著可能操縱機器的潛在用戶類型的引入，該過程變得更加複雜。來自AI模型的特定領域或技能組合，想法或期望輸出，雙向用戶機器過程的表現因不同用戶而異。作為領域專家將AI用於科學目的，每個相互作用用作知識發現過程。那麼最終用戶對純輸出感興趣，而且快速且易於使用的產品無疑會產生結果。為了生產高質量的AI模型並增加自動化的使用，最終團隊，架構師或系統工程師需要了解自動化的內部流程。
鑒於剛剛提到的所有內容，人機界面中的調解員能夠將可解釋性作為衡量標準嗎？用戶必須能夠輕鬆了解AI的性能，以評估其能力。由於不可靠的人機交互，衝突的情況很難得到解決。機器給予可見的努力可以表明它的行為符合用戶的利益。通過可視化可以容易地理解自動化系統的這種積極行為，這反過來可以增加信任。隨著可視化增強了理解力，它可能會影響複雜系統的感知功能和可靠性。可視化減少了認知信息過載，並提供了對複雜功能的更好洞察。此外，溝通風險有助於提高可信度。
(圖片來自網路
視覺語言可以被視為心理「人際」機制與每次互動中的經驗因素之間的橋梁元素。設計可用於直接影響信任級別，從而糾正人類操作員濫用和/或廢棄AI系統的傾向。適當的信任可以導致自動化系統的性能優於單獨的人或AI系統。鑒於透明的溝通對於信任建設至關重要，可視化的使用直接影響人機自動化的改進。
雙向學習的潛力可以通過視覺方面發揮其全部潛力，如果模型無法提供理想的結果，則可以直接放置基於視覺的人在環路輸入。輸入和輸出處於相同（可視）空間，並且在兩側都進行有效測量。解釋AI模型的內部有助於有效控制並促進對適當的最終用戶的公平性，最終用戶的興趣僅僅集中在基於人的解釋上。
然而，可視化機器內部過程的各個階段還不足以讓它充分理解。直接設置參數或影響AI模型的訓練過程的可能性提供了更高水平的通信，增加了雙向學習並促進了信任。在機器學習中使用交互式可視化使得直接和即時輸出在學習過程中產生有效的視覺反饋。這樣，所有用戶類型都可以理解AI模型的操作和性能，為使用不同媒體（移動，桌面，VR / AR）應用的人工智能打開空間。
(圖片來自網路
促進人機共生背後的想法不是培訓自動化並取代我們的一些活動。「相互」理解需要能夠提供良好的輸入和信任，使用戶能夠從人工智能中受益並幫助進行知識發現。目前已朝這個方向採取行動，像Archspike這樣的平台正致力於提供定性的人機反饋。該平台「理解」用戶的意圖以及該「知識」隨著時間的推移隨著連續的人為輸入而變化。用戶對在大規模上應用的感興趣的結果作出反應，否則該結果不能被接收。
另一個實際示例是名為Macaque的平台，它在用戶和AI系統之間提供多個同步雙向環路。該平台的主要貢獻是增加了信任，為經營商提供了輕鬆理解和單獨管理複雜模塊的機會。Macaque通過同時使用人類和AI能力來提高自我性能。操作員選擇方法，自動完成評估，並且機器根據最終用戶與系統的交互來跟蹤最終用戶的反應。隨著時間的推移，經營商會根據多個同步的最終用戶輸入獲得監管並減少偏差。
未來的環境及其活力將取決於使用智能應用程序和「系統思考」的能力。人工智能開發人員必須了解自動化系統的工作方式，以便開發有效的反饋並提高模型性能。需要將多個同步或不同步的信息流集成到有效的雙向循環中。
(圖片來自網路
每個過程的核心方面是人類認知功能及其使用自動化的進一步發展。人工智能系統應支持客觀理性思考，吸引和激勵用戶，而不是強加推薦。通過使用反饋循環，我們可以測量我們的交互的積極和消極的副作用，並通過自組織來做到結果。可視化對於提供有關變更如何影響AI模型的見解至關重要，並且應該在學習過程的任何階段使用。為了理解如何將有效的反饋循環應用到有效的人機交互中，我們需要分解問題並理解AI對人們的影響，而不是人們對自動化過程的影響。
（此處已添加圈子卡片，請到今日頭條客戶端查看）
>人工智能系統應支持客觀理性思考 通過視覺方面發揮其核心潛力