北捷AI客服遭網友測試發現可代寫程式碼，北捷緊急斷開Azure Open AI回應功能

台北捷運提供的AI智慧客服，協助真人客服減輕工作壓力，提供旅客24小時AI客服，不過，近期有網友測試後發現，北捷AI智慧客服竟然可以提供程式碼範例，引發其他網友測試，事件發生後，台北捷運接獲通報，已緊急要求廠商斷開串接Azure Open AI，讓AI客服回到旅客搭乘捷運相關問題的應答功能。

台北捷運是在2022年11月推出AI智慧客服，提供乘車旅客即問即答的客服服務，後續還提供事件通報功能，讓旅客可以通報飲料打翻、車站或車廂內有髒污等事件，北捷估計每月使用量超過10萬人次。今年3月，北捷AI智慧客服升級，串接Azure Open AI，讓旅客可以和AI智慧客服對話，提供搭乘台北捷運相關資訊。

然而，有民眾近日測試後發現，北捷AI智慧客服功能遠不只如此，該民眾要求AI協助提供程式碼範例，AI客服雖然沒有提供完整程式碼，但仍提供一段程式碼範例，該民眾在Threads發文後，在網路上發酵，吸引不少網友跟進測試，以各種不同請求測試AI客服，甚至釣出AI客服的應答規則，更有人調侃網友熱心幫台北捷運AI客服除錯。

下圖截自Threads：

台北捷運表示，接到通報後，已要求廠商立即斷開串接Azure Open AI功能，回歸到提供旅客常見問答題庫，以回應旅客詢問，目前旅客詢問捷運相關資訊，像是首末班車諮詢、遺失物協尋服務等等皆正常服務。

由於事件發生後，吸引大批網友測試，導致該服務使用的Token量爆增，可能導致使用生成式AI費用激增，對此，台北捷運強調，接到通報後已立即要求廠商斷開串接Azure Open AI，因發現異常即立即處置，並無明顯費用產生。

台北捷運初步研判原因為，網友以程式語言測試捷運AI智慧客服，超出原先設定的資料庫範圍，系統透過Azure OpenAI回應，因此台北捷運立即要求廠商斷開串接功能，回到北捷已建置的旅客常見問題應答。

由於沒有對民眾提出的問題請求設限，擋掉和台北捷運旅客服務以外的無關問題，如果長時間遭到外界濫用，可能導致生成式AI鉅額的收費外，有心人士可能測試各種提問方式，還可能設法騙取AI客服回應企業內的敏感資料，可能衍生出資安的風險。

對此，台北捷運回應，此次一發現異常就立即處置，所幸沒有明顯費用產生，但後續將邀請相關單位召開會議，研議AI智慧客服精進做法，並請廠商提出檢討報告，由台北捷運公司的資安長督導應用單位建立檢核機制。

生成式AI帶動一波AI應用浪潮後，不少公司期待運用生成式AI帶來的效益，特別是在客戶服務方面，因少子化缺工問題，為減輕真人客服的工作壓力，導入生成式AI精進AI客服能力，此次台北捷運AI智慧客服，反映企業使用生成式AI對外提供服務，類似應用在上線前應該謹慎檢測，避免使用者提出服務以外的請求，可能導致被濫用，甚至產生資安的風險。