「AI代理人的資安就像談戀愛，你希望它幫你結帳刷卡，卻不敢直接把手機密碼交給它。因此，設定清晰的權限範圍，才是AI安全落地的關鍵。」 STARBIT思偉達創新科技產品長郭東穎，在第九屆《Hit AI & Blockchain》人工智慧暨區塊鏈產業高峰會中表示。

公司從區塊鏈與交易所業務起家，STARBIT深刻體會到「信任」是網路世界運作的核心。郭東穎指出，當技術演進到AI領域，信任的建立必須仰賴人類行為留下的數據與標籤技術。

然而，許多企業在導入AI模型過程會遭遇到瓶頸，原因往往卡在早期的數據清洗與API串接流程，耗費了過多時間。若企業無法提供乾淨的資料讓模型判讀，缺乏明確邏輯，AI自然無法順利轉化為自動化的作業流程。

話題轉到到講究「溫度」與「感性」的觀光旅宿業，郭東穎精準點出目前傳產在數位化過程的真實痛點。第一線的旅宿承辦人員，每天必須耗費大量時間在Agoda、Booking等各大訂房平台，甚至在通訊軟體LINE對話來回切換，以回覆顧客各式各樣的問題；同時還要處理大量非電子化的紙本資料建檔。這些繁瑣、重複且高度理性的文書處理，不僅佔用龐大人力，更是整個服務流程中最不具價值的環節。

如果說傳統的SaaS軟體是提供數位化工具；如今AI代理人的導入，則是讓企業營運從「被動」轉為「主動」的過程。

郭東穎解釋，透過語音轉文字、自動化訊息回覆，乃至於將整理好的資料，無縫拋轉到企業內部的數據中台或CRM系統，AI能直接接手這些理性的庶務工作。換言之，旅宿業導入AI的終極目的，是將寶貴的人力時間釋放出來，讓員工能專心處理感性層面、真正需要人際溫度的客製化服務。

郭東穎接著提到，企業主最關心議題仍圍繞在實質的投資報酬率。業者在評估AI時，最常問問：「這套系統到底能幫我省下多少時間？AI能不能幫我多賣出一個房間或行程？」這正是AI代理人必須在實務場景中滿足的商業價值。

不過，當AI系統開始具備主動執行任務的能力時，資安與信任的拉扯便隨之浮上檯面。郭東穎觀察到一個有趣的現象：現代人比起讓另一半看自己的通訊軟體，可能更害怕讓別人看到自己與ChatGPT的對話紀錄。這反映出大眾對AI既高度依賴，卻又充滿隱私戒心的矛盾心理。

因此，在設計AI代理人的協作機制時，企業必須清楚劃定「行為邊界」。究竟在哪些業務環節可以完全信任，放權讓AI自動執行？哪些關鍵的商業決策，又必須保留人工最終檢核的防呆機制？這些都需要在系統開發前期精準定義。

他分享內部團隊的運作現況，現在產品設計師的思維越來越像工程師；而工程師也越來越像設計師，這正是團隊在系統開發時，不斷在「信任與不信任」之間磨合的真實情況。

最後他也提醒，許多AI應用場景的資安漏洞，並非源自底層技術的缺陷，而是因為企業在初期設定時，沒有將需求與指令場景敘述完整。如果缺乏明確的規範，AI系統自然會產生漏洞。企業唯有清楚明文對ＡI訂出自身的需求，在自動化效率與人工控管之間找到平衡點，才能讓AI代理人在安全的框架內，為產業創造出實質的商業產值。