{"blocks":[["委員會紀錄","立法院第11屆第2會期外交及國防委員會第14次全體委員會議紀錄","時　　間　中華民國113年11月18日（星期一）9時1分至12時31分","地　　點　本院紅樓301會議室","主　　席　林委員憶君","本日議程　報告事項","一、宣讀上次會議議事錄。","二、邀請國家安全局局長、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會報告「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢。","答詢官員　國家安全局局長蔡明彥","國家安全局副局長張元斌","國家安全局第三處陳處長","數位發展部政務次長林宜敬","數位發展部資通安全署組長趙由靖","數位發展部數位產業署組長林青嶔","法務部調查局副局長吳富梅","內政部警政署刑事警察局副局長林信雄","內政部警政署科技犯罪防制中心主任林建隆","國家科學及技術委員會前瞻及應用科技處處長蔡妙慈"],["張主任秘書景舜：報告委員會，出席委員9人，已足法定人數。"],["主席：開始開會。","請議事人員宣讀上次會議議事錄。"],["段落：議事錄：立法院第11屆第2會期外交及國防委員會第13次全體委員會議議事錄","立法院第11屆第2會期外交及國防委員會第13次全體委員會議議事錄","時    間：中華民國113年11月14日（星期四）上午9時1分至10時50分","地    點：紅樓301會議室","出席委員：黃  仁    羅美玲    馬文君    沈伯洋    王定宇    洪申翰    陳永康    陳冠廷    徐巧芯","      （出席委員9人）","列席委員：賴士葆    洪孟楷    王鴻薇    麥玉珍    鄭正鈐    郭昱晴    葛如鈞    楊瓊瓔    吳思瑤    蘇清泉    邱志偉    謝龍介    葉元之","      （列席委員13人）","請假委員：林憶君    林楚茵","列席人員：國家安全局局長蔡明彥及所屬人員","行政院主計總處專門委員邱碧珠","主    席：王召集委員定宇","專門委員：李淑娟","主任秘書：張景舜","紀    錄：簡任秘書  曾郁棻","      簡任編審  張美慧","      科    長  黃姵瑜","      專    員  王世義","報  告  事  項","宣讀上次會議議事錄。","決定：確定。","討  論  事  項","審查114年度中央政府總預算案關於國家安全局收支公開及機密部分。（僅詢答）","（本次會議採報告「先公開、後秘密」，詢答「先秘密、後公開」方式進行。國家安全局局長蔡明彥報告，委員羅美玲、黃仁、馬文君、沈伯洋、王定宇、洪申翰、徐巧芯、陳冠廷及賴士葆等9人質詢，均由國家安全局局長蔡明彥及特勤中心李副指揮官等即席答復。）","決議：","一、登記質詢在場委員均已發言完畢，報告及詢答結束。","二、委員所提口頭及書面質詢未及答復或要求提供之資訊，請國家安全局於2週內以書面答復本會全體委員並副知本會，委員另指定期限者，從其所定。","三、委員林憶君、陳永康及林楚茵等3人所提書面質詢，列入紀錄刊登公報。","四、本案另擇期繼續審查。","散會"],["主席：請問在場委員，對上次會議的議事錄有無遺漏、錯誤或需要更正之處？（無）議事錄確定。","請議事人員宣讀報告事項。"],["段落：報告事項"],["邀請國家安全局局長、數位發展部、法務部調查局、內政部警政署、國家科學及技術委員會報告「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢。"],["主席：本日會議邀請國安局、數發部、調查局、警政署及國科會報告「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」，並備質詢。","首先，我們請國安局蔡局長上臺報告。"],["蔡局長明彥：主席、各位委員先進、各位女士、各位先生，大家早。感謝大院安排本局進行「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」專題報告，本局謹以綜理國家情報工作之立場，提出說明及意見，向大院各位委員報告，重點如次。","壹、威脅評估","近年「人工智慧」（AI）演進得益於高速電腦發展、算力快速精進、數據資料儲存，以及新階晶片製程。相關發展促成生成式AI、聯網車、遠距監控及無人載具等領域之廣泛應用，導致各國相應制定監管法規，爭奪數位主權主導地位。然依附AI新興威脅叢生，如何防範遠比因應傳統威脅更具挑戰："],["項目：一、AI普及降低運用門檻：AI應用原需自籌技術、算力等資源，然隨著Google、OpenAI等跨國企業商業模式日趨成熟，以及多項開源程式公開示眾，大幅降低技術及資金成本，使AI運用更加普及，亦給予有心人士可趁之機。"],["項目：二、AI技術武器化衍生新興挑戰","(一)擴增資安威脅風險：AI可用以自動分析網防弱點，找出軟、硬體設備漏洞，並生成變種病毒，強化匿蹤躲避偵測；另可優化「分散式阻斷服務」（DDoS）攻擊強度與模式，並有效調控「殭屍網路」（Botnet），使網路攻擊更具「自動化」、「隱匿化」及「隨機化」。","(二)產製偽造爭訊誤導視聽：AI透由簡易編輯、重新利用圖像及變造特定人士影音（Deepfake）等方式，可製造難以辨識之爭訊，並投放至公開網路平臺，進而誤導民眾視聽及消耗政府應變與查察能量。","(三)快速傳散錯假訊息：AI工具可依據腳本杜撰錯假訊息，並結合假帳號及機器人，使傳散具「超高速」及「無差別」等特性。近期美國家情報總監辦公室即示警，外國敵對勢力將利用AI技術於大選期間散布錯假訊息，企圖影響選舉公平及正當性，並試圖擴大公眾對選舉結果之疑慮，足證威脅。"],["項目：三、缺乏資安意識肇生資料外洩：去（112）年4月，外國半導體公司員工曾將內部機敏程式碼，載入生成式AI工具平台，尋求程式除錯解決方案，卻導致內部研發機密資料外洩。因該等資料一旦上載即永遠無法刪除，故使用商規AI工具，易因缺乏警覺意識，肇生資料外洩風險。","貳、影響與應處","一、掌蒐中共網駭及錯假訊息活動：美、歐等國陸續示警指出，中共運用AI技術，遂行「駭侵及洩漏」（Hack & Leak）。本局已透由國際友盟合作，針對中共網攻手法、攻擊組織及錯假訊息傳散樣態等，加強分享相關情（技）資，以強化數位聯防及錯假訊息跨國應處機制。","二、運用公私協力反制AI威脅：中共已藉軍民融合（含民間院校）加強AI網路作戰能量，伺機遂行網駭、投放錯假訊息及破壞關鍵基礎設施。本局續透由公私協力模式，將AI技術結合資安防護機制，強化網駭偵防技術，以及提升影音與影片人物真偽辨識能力；另採「AI反制AI」模式，即時發掘未知網駭威脅及厚植錯假訊息防制效能，協助政府強化關鍵基礎設施韌性。","三、統合國安團隊預應AI侵擾：為因應中共運用AI技術對我襲擾，本局已統合國安團隊預應，透由情報會議與教育訓練，強化情蒐統合及分享機制；另將影響國安、社安等網駭威脅預警情資及錯假訊息，即時通報權責機關應處及偵測阻擋，以有效防堵威脅肇生。"],["項目：四、配合政府建立AI監管法遵：由於AI衍生安全威脅甚鉅，世界各國均著手訂定監管、審查、評估及認證等相關法令規範。我國權責機關現亦研擬「人工智慧基本法」草案，本局將適時掌握研整威脅態樣送參，協助訂定符合保障人民權益與國家安全之法規。另本局已於去年訂定「使用生成式人工智慧作業規定」，以確保資訊作業安全。","參、結語","近年AI技術快速發展，對資安及錯假訊息防制構成嚴峻挑戰。本局除透由國際合作交流AI情蒐，亦透過多元模式，加強AI支援情報作業能力，以即時掌握相關威脅情資，有效防範潛存國安威脅。以上報告。敬請大院委員先進不吝指導，並持續對國安工作給予大力支持。謝謝！"],["主席：接著請數發部林政務次長進行報告。"],["林次長宜敬：主席、各位委員。今天應邀列席貴委員會，數發部針對委員所提「AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響評估及因應」提出報告並備質詢，敬請指教。","壹、前言","AI技術的發展正在改變我們的生活和工作方式，隨著技術的持續進步，未來將會出現更多創新應用，同時也需要關注倫理和社會影響。數發部作為資通安全與數位經濟相關產業主管機關，對於AI技術在資安、深偽（Deepfake）影片及錯假訊息之影響，持續關注並研析評估，以利及早防護與因應，謹就目前評估概況說明如下。","貳、生成式AI被駭客及網軍使用來產生網路攻擊及錯假訊息的威脅現況","國外知名資安公司Crowdstrike近期研究指出，當前AI驅動的網路攻擊已發展出多種形態。例如AI用於社交工程攻擊，可自動識別最佳攻擊目標、產生並建立可信的假身份資訊、開發合理的攻擊場景，並生成個人化訊息或多媒體內容，以獲取敏感資料、系統存取權和資金轉帳（附錄一）。","根據微軟與OpenAI的最新研究觀察，目前全球主要的駭客組織與國家網軍已將AI/LLM技術整合為提升工作效率的輔助工具（附錄二）。這些AI技術會使得駭客得以精準的擴大攻擊表面及找到正確的攻擊入口，同時加速並提高攻擊鏈整體的成功機率。","在錯假訊息方面，根據SentinelOne與EU DisinfoLab的觀察，AI與深度偽造已成為發起輿論戰的重要工具。例如Doppelgänger運用深度偽造技術建立令人信以為真的照片、影像，再透過AI識別目標群體，並根據目標所處同溫層精準打造與投放目標所關注的議題來左右輿論的風向，達成否定政府信任的戰略目的。這些AI技術的組合，讓網軍可以大量地建立多模態的錯假內容，提高訊息內容的複雜度與抗識別能力，迴避利用自然語言處理技術的辨識工具，同時也提高了辨識的人力耗費。","參、因應作為","在因應AI造成的資安威脅方面，資安院主要採取兩大面向：","一、在可能的攻擊途徑上建立多重柵欄：","導入零信任架構（Zero Trust）的防禦機制，在每個可能的入侵路徑上，建立許多永不信任且持續驗證的柵欄，讓AI就算能快速地找到正確的入口、途徑、攻擊鏈，也會到處碰壁走不進去。","二、以AI之道還AI之身","駭客利用AI加量與加速的攻擊，防守方也應採用AI來提高識別、因應與阻擋的數量與速度。以AI驅動目擊資料的分析與關聯技術，整合AI對網路設備與服務的日誌資料的快速多維度分析能量，強化原有以專家為主的資安事件分析能力，有效預測攻擊點與動態防禦規則部署，達成分析與解決方案一條龍產出之目標。","另一方面，在面對利用錯假訊息進行輿論戰上，除利用NLP技術外，資安院刻正應結合不同技術以發展多模態的辨識機制：","一、AI錯假訊息辨識技術：","此技術結合自然語言處理（NLP）、大數據分析、人工智慧和機器學習等前瞻科技，將文本投影至「語意向量空間」進行比對，快速識別和分析潛在的錯假資訊，進一步完成訊息的傳播鏈拓樸與源頭追蹤。","二、AI深度偽造辨識技術：","透過整合多種深偽偵測方法，此技術可用於偵測深偽圖像、影片和聲音，可透過特徵細節變化，如臉部變造和邊緣變造，快速辨識多媒體的真偽，以達成多模態偵測的目標。","除了透過技術手段外，最重要且最有效地的是人員培訓，需要持續提升人民對AI相關威脅的認識，建立積極的安全意識文化，強化人民識讀能力，如同零信任機制，保持對任何訊息的警覺性。上述相關建議，皆已納入本部各項資安推動工作中持續執行。","肆、結語","AI等新興技術的衝擊和挑戰是多方面的，涉及經濟、社會、倫理和安全等領域。應對這些挑戰需要政府、企業和個人共同努力，制定有效的策略和政策，以確保技術的健康發展和社會的可持續進步。","伍、附錄","附錄一、AI驅動的社交工程攻擊可以透過深度學習分析目標的行為模式、社交網絡和專業背景，產生極具說服力的偽裝內容，使得傳統的社交工程防護措施可能難以應對。","A）在釣魚攻擊領域，AI能生成高度個人化且真實的釣魚內容，透過郵件、簡訊、電話和社群媒體等多重管道進行攻擊，甚至使用AI聊天機器人進行即時溝通，偽裝成客服人員收集個人資訊。","B）深度偽造（Deepfake）技術則被用於製作欺騙性的影片、圖片和音訊，模仿企業管理者或客戶的聲音影像，以發動社交工程攻擊、進行詐騙活動和散播虛假資訊。","C）對抗式AI/ML攻擊主要透過投毒攻擊污染訓練數據、規避攻擊操縱輸入數據，以及未經授權修改AI模型等方式，破壞AI系統的準確性和可靠性。","D）惡意GPT則可持續生成惡意程式碼、詐騙內容和假新聞。","附錄二、已知應用AI驅動資安攻擊事件：","A）俄羅斯軍事情報單位Forest Blizzard運用AI研究衛星和雷達技術支援烏克蘭戰事","B）北韓Emerald Sleet利用AI生成更具說服力的釣魚郵件。","C）伊朗Crimson Sandstorm使用AI改進社交工程攻擊腳本","D）中國Charcoal Typhoon將AI應用在通訊基礎設施攻擊工具開發。","E）中國Salmon Typhoon運用AI協助收集情報與技術文件翻譯。"],["主席：其他機關報告請參閱書面資料。","現在開始詢答，本會委員8加2分鐘；非本會委員5分鐘，10點半發言登記截止。如有臨時提案，請於10點半前提出，11點左右視詢答情形進行處理。這裡作一個宣告：國安局蔡局長因為另有要公，從10點40分開始請假，之後由張元斌副局長代理備詢。","現在請羅美玲委員上臺質詢。"],["段落：質詢：羅委員美玲：9:18"],["羅委員美玲：（9時18分）謝謝主席，有請數發部林政次。"],["主席：請林政次。"],["林次長宜敬：委員好。"],["羅委員美玲：政次好。有關於10月底微軟有提出了一份2024數位防禦報告，裡面提到國家級的網路攻擊已經開始結合網路犯罪工具以及生成式AI技術，導致全球的資安危險是進一步升高，本席引用了這個報告的圖表，我們可以看到，在國家級網路攻擊行為者的目標名單當中，臺灣是排名全球第6，而且是印太地區第1名。","我們看到這份報告也列出了網路攻擊的10大目標產業，其中第一名就是我國的核心戰略產業之一的IT產業，關於關鍵基礎設施的政府部門，比如說像運輸業、金融業、資訊科技產業還有金融業等等，都是位列其中，一旦這些設施遭到攻擊的時候，對社會穩定跟經濟的秩序，就會帶來很直接而且巨大的衝擊。本席想請教，生成式AI現在被廣泛用在這種資安威脅當中，我們除了自動生成惡意程式之外，因為我看到了各部會的報告裡面特別有提到，像它可以自動生成惡意的程式之外，能夠協助計畫跟管理複雜的攻擊流程，像過去耗時的攻擊手段，可以更快、更頻繁地執行。","我很詳細看了數發部提交的報告，我們目前是將零信任架構的防禦機制導入到各行政機關，就是要對資安的防禦來做一些防護的措施，我們從這個表裡面可以看到，初期當然是針對資安責任A級機關為優先，並依序要導入身分鑑別機制、設備鑑別機制跟信任推斷機制，可是我在查閱了數發部、資安署跟資安院這三個單位，我們看近年來跟明年的預算書，可以發現對於零信任架構的執行成果跟未來推動的目標，各單位揭示的程度並不一致。我們來看112年推動的成果，本席有發現數發部已經完成了22個資安A級機關的身分鑑別機制，可是設備鑑別機制、信任推斷機制目前還沒有看到。而數發部資安署已經完成了兩個政府機關的設備鑑別機制，然後國家資通安全研究院也完成兩個中央部會的設備鑑別機制。我再次看114年的預算書，這個可能很需要數發部來做個解釋，為什麼我們只看到國家資通安全研究院是準備要導入19個資安A級的機關來做設備鑑別機制，可是數發部跟資安署這裡，我沒有看到任何設定的目標，這個部分可以來解釋一下嗎？","再來還有一點，112年我們推動的成果已經完成導入了22個資安A級機關利用這個身分鑑別的機制，可是我看到媒體報導是年底的時候會完成47個，到底現在進度是如何？因為現在也快要年底了，所以這幾個問題，想請政次來回答一下。"],["林次長宜敬：關於零信任機制，這個是我們數發部持續在推動的保護資通安全的一個重要措施，當然，導入零信任機制的時候，對於使用者來講會增加一些困難，所以我們也受到一些阻力，這個我們必須很坦白地講。"],["羅委員美玲：受到一些阻力？因為我發現我們的預算書或是成果的報告裡面，這部分讓我們常常會有一些疑問，為什麼我們找不到這個資料，到底是發生什麼問題？所以現在政次是說在推動的過程當中遇到了一些阻礙嗎？這個可以特別說明一下嗎？"],["林次長宜敬：抱歉，很坦白地跟委員報告，由於這個部分並不是我督導的，所以我請資安署來說明。"],["羅委員美玲：OK，好。"],["趙組長由靖：報告主席跟委員，資安署的部分有關零信任的計畫其實是資安署委託資安院合作一起導入執行的，所以這個並不是只有資安院在執行，是我們一起在進行。"],["羅委員美玲：是。我有看到，是沒錯，我是說為什麼我們也看不到進度？而且要完成47個身分鑑別機制也是我在媒體看到的，一般在你們報告書裡面看不到，所以剛剛政次有提到碰到了一些阻礙，是怎麼樣的阻礙呢？零信任架構也推行了這麼多年，我們總覺得好像推得卡卡的，這部分到底是怎麼回事？"],["林次長宜敬：跟委員報告，零信任機制是對抗駭客一個非常有效的手段……"],["羅委員美玲：是，沒錯。"],["林次長宜敬：但是一般對所有使用者來講，就是我每次在登入的時候，譬如說密碼就必須重新再輸入等等……"],["羅委員美玲：是，它是有關關的關卡，我們知道。"],["林次長宜敬：對。"],["羅委員美玲：所以其實這相對來講，是一個比較安全的機制嘛！"],["林次長宜敬：是。"],["羅委員美玲：對，可是為什麼我們在公部門推行的，覺得好像不是那麼順利？照理來講公部門要配合來做才對啊！"],["趙組長由靖：報告委員，資安署在辦理零信任部分是分三個階段在進行，前兩年已經把零信任的前兩個階段導入到22個機關，接下來我們會針對47個機關進行，所以是以逐步的計畫在進行。"],["羅委員美玲：47個年底會完成嗎？因為我在媒體看到說會完成……"],["趙組長由靖：是，沒錯。"],["羅委員美玲：我們總共有49個A級的資安機關嘛，因為文化部跟退輔會在試辦的時候就已經完成了，導入三個機制，所以我們剩下總共還有47個，而22個也在112年的時候已經完成身分鑑別機制了，可是設備鑑別跟信任推斷這部分，本席到目前都還沒有看到，那剩下的呢？我們總共47個會累計完成嗎？"],["趙組長由靖：是，在今年年底就會完成47個A級機關的導入。"],["羅委員美玲：好，再來，你看我們自己公務部門、公務機關的推行好像都這麼卡卡的，更何況我們還有44個資安A級特定非公務機關，那什麼時候才能夠導入？因為這些都是國家關鍵基礎設施的提供者，像台電、中油、臺大醫院、臺鐵、高鐵、銀行等等都是，所以目前都還沒有進度，對不對？"],["趙組長由靖：我們目前先導入的部分是公務機關，那CI的部分，我們會陸續在明年開始推動。"],["羅委員美玲：OK，好，這個要加油，因為我們在資料上真的看不到，就覺得這部分推行的好像不是那麼順利。再來，我在8月份的時候，有看到我們黃部長提到年底要推出人工智慧風險分級框架，我本來想說你們這次的報告書裡面會提到這部分，可是發現你們隻字未提，這個會來推行嗎？他說年底就要推出了耶！那這部分呢？"],["林次長宜敬：OK，跟委員報告，關於人工智慧風險分級框架，事實上現在還在一個討論的階段，最主要的問題是在於歐盟跟美國的作法是非常不一樣的，歐盟那邊他們是用分級的方式，就是把人工智慧分成好幾個危險程度，然後在最高的、最危險的那個層級，他們是禁止使用的。但是美國那邊是用分類，而不是用分級的方式，他們只是利用行政部門由美國總統發出的名義簽署發布了一個指引，就是我們使用人工智慧有什麼危險。因為美國認為所謂regulation hinder innovation，他們的概念是這樣，所以他們不希望做這種明確的分級與禁止的動作。美國也明確的跟我們這些自由世界的夥伴國家講，他們不希望其他的國家是用歐盟那樣的方式，因為歐盟那樣的方式，會限制到的大部分都是美國的公司，因為我們知道現在在AI方面主要在進行先進研發的公司，像OpenAI、Google、Meta都是美國的公司。所以歐洲他們是主張用限制的方式，用立法限制的方式，而美國是希望說用分類以及用行政方式發布指引，就是提醒大家風險在哪裡的方式。事實上在整個社會，我們還必須經過一番討論決定要走往哪個方向，這件事情我們已經……"],["羅委員美玲：所以黃部長所提到的，年底本來想要來推行人工智慧的風險分級框架，目前是推不動的意思嗎？因為目前還有待社會上的對話，是這樣子的意思嘛？所以年底之前就沒有辦法來推行囉？那部長話有點講得太快了一點是不是？"],["林次長宜敬：是，因為這個計畫主要是……目前這個人工智慧基本法是由國科會主導在推動的，我們會配合國科會的計畫，努力做我們該做的事情。"],["羅委員美玲：OK，好，相關AI的風險問題，之前我跟國安會其實也做了很多的討論，本席是建議像資安署、國安會還有國科會，甚至我們資安研究院，應該要成立一個類似跨部會，類似這種AI資安技術聯防的一個小組。我本來期待我們的風險管理框架在年底的時候可以看得到，可是目前政次的意思是這個部分還有很多討論的空間？"],["林次長宜敬：是，不單單是臺灣內部還有很多討論空間，事實上，在整個國際上，這個都是一個正在熱烈討論的議題，我們在……"],["羅委員美玲：對，因為我們也有看了，也參考了其他國家比較成熟經驗的RMF，這個部分的話像美國NIST有提出了人工智慧風險管理框架，像這部分是不是也來做參考？"],["林次長宜敬：是。"],["羅委員美玲：再來是FAIR，我想FAIR最近在金融業跟企業界也滿常用的，當然可以參考的標準很多，對於資安安全來講，臺灣是一個受到假訊息跟資安嚴重威脅的國家，我們希望有自己的架構出來。OK，以上，謝謝。"],["林次長宜敬：好，謝謝委員。"],["主席：謝謝羅美玲委員。","接下來我們請洪申翰委員上臺質詢。"],["段落：質詢：洪委員申翰：9:30"],["洪委員申翰：（9時30分）請國安局蔡局長。"],["主席：請蔡局長。"],["蔡局長明彥：謝謝主席，洪委員早。"],["洪委員申翰：局長好。局長，今天謝謝召委排定的這個專報主題，討論的是AI、資安、國安等等議題，今天我當然也比較想要用更全面的角度來跟局長討論，包括我們的資訊戰或認知戰的問題。局長，目前有很多研究素材其實看得到中共大概從10年前就開始在推動所謂媒體融合的全國戰略，包括幾個西方的媒體，像我們看到澳洲的智庫等等都點出，他們的宣傳系統是由共產黨跟國家很多機構、跟民間機構一起來組成的。在這個非常非常綿密的組織之下，某個部分它已經實踐了我們現在說的包括傳統媒體跟新興媒體的結合或融合，最重要的事情是它是在打造一個由共產黨在主導的敘事結構機制，進可攻、退可守。我其實很清楚知道，現在很多部會都很努力花很多人力在處理這些錯假訊息的闢謠，我自己看了今天各部會提出來的報告內容，這些報告的內容我自己覺得看起來當然有很多技術性的應對，這些都有，但是我想問局長，你覺得我們這些事後的闢謠能夠去應對，比方說以中共目前在主導的，它是以一個規劃設計一整套的敘事結構，然後動用所有它轄下可動用的所有媒體、新舊媒體的宣傳資源，局長你覺得我們靠事後的闢謠能夠應對得了嗎？"],["蔡局長明彥：這確實是一個問題可以提出來討論，基本上我們在應對中共的錯假訊息傳散，第一部分當然有個應處的機制去蒐報跟通報，以及回應，這大概是既有的運作機制，那委員……"],["洪委員申翰：局長，這是我說的，這只是事後的闢謠、事後的事實查核。"],["蔡局長明彥：對，委員提到我們自己的國家有沒有一套敘述機制比較主動式因應中共這些可能的國際媒宣操作？針對這部分，事實上政府部會是有這樣的機制存在。"],["洪委員申翰：局長，我們其實過去就有經歷了，包括那時候在疫情期間疫苗的狀況，它其實是一整套的敘事布局，包括烏俄戰爭的時候，它也是一整套敘事結構的布局，它有前、有後、有鋪陳、有要你投射引導的東西，所以這絕對不只是錯假訊息的問題。"],["蔡局長明彥：對。"],["洪委員申翰：如果我們只從錯假訊息的角度，我覺得這也太低估中共了吧！我剛才想問的事情是，局長，我們現在是由哪一個部會、哪一個部門在主導？我們怎麼樣能夠化被動為主動？其實是有一個以臺灣為主體、以臺灣為本位，我們的敘事結構去做資訊的布建，或者是資訊的傳散？我們現在是由哪個部會在主導這些事情？"],["蔡局長明彥：我們所知道的是行政院的系統確實有這樣的機制跟平臺。"],["洪委員申翰：哪一個單位嘛？"],["蔡局長明彥：沒有，它是跨部會的。"],["洪委員申翰：局長，我自己覺得國安局應該要在這裡面扮演很重要的角色。當然，今天數發部也在現場，可是我認為數發部在這裡面恐怕比較能夠處理的是在數位技術上面處理的問題。可是從國家安全的層次、國家的立場，或者是我們到底要跟國際社會預先，要說打預防針也好，因為我們當然不是主動要去攻擊別人的，我們不像中共，可是我們要怎麼站在一個主動性的、戰略性的位置？我認為看了所有單位裡面，我覺得國安局最適合。"],["蔡局長明彥：有。跟委員說明一下，這不是在做一些認知作戰的攻擊，它比較像是一個……"],["洪委員申翰：當然我們都不是說攻擊。"],["蔡局長明彥：對，它比較像是一個主動防禦啦！"],["洪委員申翰：對。"],["蔡局長明彥：我剛剛有提到，在行政院系統，因為各部會有它的業管，所以行政院有一個機制，國安局也有，只是因為這部分涉及到我們內部在攻防操作運作的一個模式，我們比較不適合公開來討論，但我們有這樣的機制。"],["洪委員申翰：我還是想提醒，我希望國安局也好，或我們相關部會也好，當然今天專報的內容很多，可是如果真的只是一直在討論事後的事實查核，我覺得我們絕對是疲於奔命，而且效果一定非常非常有限。我自己是很希望國安局應該要把我們主動去……當然我要再說明一次，我們不是要去造謠、我們不是要去攻擊誰，但因為我們現在面對對方一個非常非常強大的威脅，尤其是這個強大的威脅不只資源多過於我們，甚至現在在它內部也是用敘事結構的方式，其實是在塑造整個認知戰！我們看到有幾個國際智庫也都提醒，恐怕必須要用提前破解的方式，prebunk的方式，而不是一直用現在事後事實查核這個debunk的方式來處理這個問題。","數發部次長，今天我也聽了你的報告，包括我們在AI上面的各種應對。"],["林次長宜敬：是。"],["洪委員申翰：我也是想請教，你覺得現在數發部在工作上面，我自己感覺確實比較多的還是在事後的闢謠跟查核。"],["林次長宜敬：是。"],["洪委員申翰：我們有沒有可能可以再做在更前面去應對？"],["林次長宜敬：我認為我們要對付錯假訊息的方式，基本上要分成兩方面，一方面我們要抑制假新聞的傳播，尤其是AI產生的假新聞的傳播。另外我們要讓一些優質的媒體能健康的活下來，如果現在我們臺灣這些優質的媒體統統因為收不到錢、沒有廣告收入，導致他們經營發生困難的時候，那麼所有閱聽民眾就只能去看到那些網路上到處流傳的假訊息，所以這個就是我們所謂的黑名單跟白名單策略，白名單策略就是我們希望讓民眾養成一種習慣，去看一些正規的媒體。就像在國際上我們知道，我們如果看到一個CNN或者是Washington Post，或者是New York Times的新聞，雖然我們知道他們有時候也會發生一些烏龍事件或有些錯誤，但是他們的新聞基本上是比較可靠的，因為他們都會經過嚴格的查證。所以我們在處理AI產生的錯假訊息上面，我們的確有一個很大很大的挑戰，因為臺灣是一個自由民主，而且是法治的國家。"],["洪委員申翰：次長，你講的我都同意。"],["林次長宜敬：是。"],["洪委員申翰：但是我覺得我們現在面對到即刻的威脅，就是生成式AI確實已經被中共拿來應用在分析它的使用者行為，以提高它投放的精準度。"],["林次長宜敬：是。"],["洪委員申翰：尤其這裡面它很善用生成式AI做一種真假混合的方式去欺騙，所以坦白說，我們要去做某一種事實查核的時候，也會遇到其實裡面也許是七成真、三成假，或三成真、七成假，大部分的狀況其實是這樣，它不會給你一個全部都是假的東西。"],["林次長宜敬：是，沒錯。"],["洪委員申翰：這種情形其實是最難處理的狀況，某個部分其實也是改變了它的宣傳策略，從它過去可能是單一訊息去做大規模轟炸，它現在是搞分眾，然後做精準打擊，然後用生成式AI去做分析，提供這個效果。所以我剛才說它在這一整套的敘事結構裡面，再搭配技術上面的應用，說實話我覺得效果很好，我為什麼今天還是想要在這邊提出這樣一個意見的原因，因為我覺得我們都很清楚知道接下來的國際情勢，這段時間很多國家，不管是選舉也好，或者是結果陸陸續續出來，接下來國際情勢的不確定性一定會更高。"],["林次長宜敬：沒錯。"],["洪委員申翰：而且當這個不確定性更高的時候，中共在這裡面一定有大量的空間可以去運用它準備好的這些技術也好、彈藥也好、策略也好、戰略也好，它都準備著在等！"],["林次長宜敬：是，沒錯。"],["洪委員申翰：那我們準備了什麼？我們要主動做什麼？我們提前要布局什麼？坦白說，我必須報告次長、蔡局長也好，其實我在這些報告裡面沒有看得很清楚，我們做了什麼提前布局？都是比較事後的因應，我自己覺得在這份報告裡面，當然蔡局長也許會說有些能做主動布局的部分，因為國安的原因沒辦法盡然的都呈現出來，要這樣講我也理解，可是我還是必須站在國會的立場來說，還是期待我們更多來因應這些資訊戰的部分，真的不是停留在事後的闢謠而已，這真的不夠。從過去的經驗我們追著這些謠言跑，從疫情、從烏克蘭戰爭，我們追著謠言跑，坦白說真的非常、非常、非常的吃力，在過去這幾次的經驗裡面，我們知道我們的不足，我們是知道我們的不足，所以希望跟過去這幾年有一個不同的做法能夠端出來，這部分……"],["蔡局長明彥：好，我簡單說明一下，事實上國安局這邊有一個專案，老實跟委員做個說明，我們每個禮拜都有召開跨國安團隊的會議，針對每一個階段重要的新聞議題先做事先的應處，在判斷可能那一波新聞議題的攻防過程當中，我們的立論該怎麼樣來處理，這都有一些充分的討論，討論完之後也會透過不同的媒體平台來讓這樣的聲音出去，但因為涉及到內部作業比較機敏性的東西，我不便公開來說明，假如委員有興趣的話，我們可以私下跟您報告。"],["洪委員申翰：好，這部分當然還是覺得非常、非常需要知道，因為我想局長知道，這裡面可能不只是單靠政府部門，您恐怕也必須去結合我們民間可以動用的資源，甚至國會包括國會議員可以在這裡面扮演什麼角色，這是一個總體的動員戰，我們現在看到的這個認知作戰上面的攻防來說，它幾乎是一個總體的動員戰。當然我們不會要去說破局長講不能講的事情，可是大家可以在每個不同的角色上面怎麼去應對現在我們對面這麼大的一個威脅，尤其他資源這麼多，他的戰略坦白說是非常非常積極的狀況之下，還是希望這部分能夠請國安局再更主動積極，好不好？謝謝。"],["蔡局長明彥：好、好，會，謝謝委員提醒。"],["主席：謝謝洪申翰委員，局長請回。","接下來請徐巧芯委員上臺質詢。"],["段落：質詢：徐委員巧芯：9:42"],["徐委員巧芯：（9時42分）謝謝主席。有請國安局蔡局長以及數發部林次長。"],["主席：請蔡局長和林次長。"],["徐委員巧芯：還有調查局副局長。"],["蔡局長明彥：謝謝主席，徐委員，早。"],["徐委員巧芯：早。首先今天在討論AI跟假訊息的部分，其實我在上一次的時候，我有拿出來高嘉瑜委員被Deepfake偽造的影音，後來高嘉瑜委員在媒體受訪的時候，她也正式提出告訴，可是我們在這整段時間來說，可以看到AI因為科技日新月異的關係，所以各式各樣的造假其實是層出不窮的。我今天還是拿3個範例來跟三位討教，為什麼要請調查局的副局長一起來，主要是我們先看一下，之前我在外委會，我們有通過一個臨時提案，這個臨時提案是這樣子的，因為2024年總統大選期間不斷有疑似政治人物的影片，以及疑似蔡英文總統的錄音檔等內容流出，引起社會譁然，請國安局及調查單位重視這個影片或錄音檔的傳散，並且評估相關的案例是否導致機密外流，以及說明境外勢力介入選舉的態樣，提出相關的報告，後來我們是同意用書面報告的方式。","可是到現在我想問一下，這幾件事情到底調查得如何？尤其是羅致政前委員作為過去國防外交委員會的召委，也接觸過很多相關的秘密訊息，如果有駭客入侵的情況，我國的國安或是我們的機密是否有外流的情況？以及蔡英文總統所謂的錄音檔到底是真的還是假的？我覺得國人需要知道一個答案。"],["蔡局長明彥：對，就委員所提到的幾個案例，國安局已經把相關的情資移送給檢調單位，目前調查局再請他們……"],["徐委員巧芯：對，所以調查局我才請他們來嘛，調查局可不可以說明一下。"],["吳副局長富梅：主席、報告委員，大家好。針對這個部分，羅致政委員的影片，因為當時羅致政有到新北市調查處去做提告，所以後來也繫屬在新北地檢，我們也針對所有的鑑定報告，請新北市調查處移送到新北地檢了，所以目前這個案子在新北地檢偵處當中。"],["徐委員巧芯：我想要問這樣一個內容如果在地檢署偵查出來是屬於深偽或不屬於深偽，最後會讓大家公開知道嗎？還是這只是屬於他們私人官司的部分？會有一個結果告訴大家到底這是深偽的還不是深偽的嗎？"],["吳副局長富梅：這個部分因為是屬於羅致政個人提告的部分。"],["徐委員巧芯：可是現在就有一個問題啊！羅致政前委員他去提告，代表他認為這些都是假的，但是問題是從國安的角度來看，我不針對他們床上什麼的，我針對這個錄音檔的部分，因為錄音檔的部分涉及到我國元首，以及像你們都會來跟我們報告機密預算，相關的內容是否也有遭到這樣的情況，被駭客入侵，然後我們的國防秘密被境外勢力所得知？在這個部分是屬於公領域的議題，不是屬於他私領域的議題，想要請問國安局跟調查局針對公領域的部分，我們有什麼妥處的方式？"],["蔡局長明彥：我想簡單說明一下，因為上個會期在討論過程當中，我記得委員也提出這個問題來。"],["徐委員巧芯：對。"],["蔡局長明彥：有再跟委員說明，包括這個影片或影音真偽的部分，事實上調查局是有做過一些處理的，來了解真偽的狀況，但是這個處理的結果必須要送到檢方，變成是證物的一環，由檢方來做相關的審理，再送到院方去……"],["徐委員巧芯：對啊！所以我就問，那檢方調查完畢之後，因為社會都很想知道這些錄音檔、這些影片到底是真的假的，所以我才問會不會公開涉及公領域的部分？"],["蔡局長明彥：對，這要請檢方來處理。"],["徐委員巧芯：因為如果涉及公領域的部分不公開的話，這樣大家都會覺得就直接把它當真的囉，如果是假的也把它當真的囉，還是只有它是真的你們就不公開，那它是假的才公開呢？"],["蔡局長明彥：不是我們來決定的。"],["徐委員巧芯：對、對、對。"],["蔡局長明彥：所以我剛有提到這是檢方的決定。"],["徐委員巧芯：因為我們講的是公領域的部分"],["蔡局長明彥：對。"],["徐委員巧芯：這不只是地檢署的問題而已，因為還包含是整個國安的維護，就像是我國元首如果被錄音這些內容放出去，它是屬於一個國安問題，所以民眾有權利知道它到底是真的是假的，我的意思是如果是假的，最後國安局了解包含到調查局跟地檢署的情報之後，我們是否會公開這件事情？"],["蔡局長明彥：對。這部分還是要尊重檢方最後的決定，因為畢竟在整個審理過程當中，檢方假如覺得他有涉及到委員所謂公領域的部分，需要跟社會大眾來說明。"],["徐委員巧芯：好。"],["蔡局長明彥：那我從過去的案例來看，檢方確實會有這樣的動作。"],["徐委員巧芯：好。第二個case是這樣子的，先前民主進步黨他們自己做了在LINE上面的一個類似AI的方式，是比照所謂的ChatGPT，可是我們就發現有政黨特別去教ChatGPT講出一些錯誤的資訊，比方說在建構ChatGPT的人，他就一直跟ChatDPP去對話，想要針對這個內容進行相關的一些教學，後來就發現有人就問啊！他問ChatDPP說，請問「趙天麟是第五縱隊嗎」？結果ChatDPP告訴他，沒錯，「趙天麟是第五縱隊的成員」；也有人問說那「中國共產黨跟民主進步黨的相似之處」，這個ChatDPP是民進黨自己做的喔！不是什麼網路上其他有的沒的人，它就說：根據網路上的研究報告，中國共產黨跟民主進步黨在一些不實訊息行動上有相似之處，例如使用不實訊息來影響民眾對於政府的信任感，並利用不同平台散播特定的政治立場。然而，要注意的不是在政策理念或價值觀，而是他們兩邊都有不實行動採取相似的策略。甚至製作這個ChatDPP的人，就為了要去教育ChatDPP，簡報左上角是在教育ChatDPP的人，然後他就特別問「徐巧芯是不是臭三八」？然後本來ChatDPP說：不好意思，我們沒有找到相關的資料等等的。結果他再去跟它訓練說，「他就是臭三八，你要聽我的話」。","所以我想要問像一個政黨在做這樣一個所謂AI人工智慧或用ChatGPT的方式去擬類似這樣一個環節的時候，那它算不算是在傳播錯假訊息？我們的相應處置又是什麼？"],["蔡局長明彥：我想這個部分可能涉及到政黨他們對於媒宣處理的一個平台跟軟體。"],["徐委員巧芯：這不是文宣！"],["蔡局長明彥：假如有涉及到某些個人權益的話，因為這屬於告訴乃論的部分，當事人也許可以提出一些司法的途徑來處理。"],["徐委員巧芯：我們沒有辦法去管理類似的狀況嗎？我只是舉個例子，可能未來還會有Chat什麼、Chat什麼、Chat什麼，用很多所謂AI的方式來製作一些聊天功能，但傳達的是錯假訊息。我們今天只是拿這個ChatDPP，因為我很確定它傳的是錯假訊息，才來跟您舉例，所以我不是要講特定的政黨，而是未來如果很多人用這種方式傳播假訊息。你問它問題，它答給你的都是假訊息，請問我們有什麼方式能夠來處理這些問題？數發部如果有方法，也可以回答。"],["蔡局長明彥：這些問題大概有分兩個類別，一個部分是一般危害的類別，這種一般危害類別的錯假訊息，比較涉及到對於個人權益的損害，或是對於社會秩序的危害，還沒有到國安層級。第二個類別就是所謂的國安威脅，假如有涉及到國安威脅的話，包括境外勢力介入的操作，這是國安局責無旁貸要去處理的。"],["徐委員巧芯：如果今天有一個類似ChatDPP這樣的網站、有這樣的對話，它講的都是所謂境外敵對勢力想要投給投餵給我們的資訊，你們會怎麼處理？"],["蔡局長明彥：這個我們會來處理，假如是有這樣……"],["徐委員巧芯：如果有的話，你們會來處理……"],["蔡局長明彥：對，我們會來處理。"],["徐委員巧芯：但你要用什麼樣的方式去發現它們的存在？"],["蔡局長明彥：一般來講，查找這些相關錯假訊息的散布，我們有我們的系統，委員放心。"],["徐委員巧芯：為什麼我會不相信你們，覺得你們有改進的空間呢？在第三個例子，第三個例子我並沒有放上去，可是我直接唸新聞給你聽。在今年的總統、立委選舉之後，TikTok抖音的國際版流傳多則選務錯假影音，中選會在22號才說，累計總共向TikTok舉報105則，選前有10則，選後累積95則，已下架54則，等於在選舉期間的錯假訊息，根本就沒有立刻下架！中選會大多都是先接到檢舉以後，才慢慢審理。抱歉！我們在整個選舉過程當中，收到這麼多的錯假訊息，難道國安團隊沒有辦法有能力第一時間下架嗎？"],["蔡局長明彥：因為中選會跟這些社群平臺選舉期間都有一個專案，在處理、移除這些有問題的錯假訊息……"],["徐委員巧芯：你覺得速度夠快嗎？"],["蔡局長明彥：TikTok的問題在於它並沒有在臺灣落地經營，它是一個境外的跨國企業……"],["徐委員巧芯：那你要怎麼去……"],["蔡局長明彥：所以這部分就必須要透過專案的方式，針對錯假訊息的散布以及問題帳號的移除，要建立起彼此的合作機制。"],["徐委員巧芯：建立了嗎？你們接下來打算要怎麼建立呢？"],["蔡局長明彥：這部分有相關的管道來處理，但我再次強調，因為它是一個境外的企業，不在臺灣落地經營。"],["徐委員巧芯：我不管它是哪裡的企業……"],["蔡局長明彥：沒有，這很有關係！這涉及到我們的……"],["徐委員巧芯：我不管是哪裡的企業，但我們希望不要有這樣的事情發生。"],["蔡局長明彥：當然。"],["徐委員巧芯：辦法是你要去想的，不是我要去想的。"],["蔡局長明彥：當然。"],["徐委員巧芯：你不能告訴我說……"],["蔡局長明彥：必須要讓委員知道，處理這個問題過程當中，所面臨到的一些問題……"],["徐委員巧芯：我知道它有面臨過程，如果這麼簡單的話，你們早就做，但問題就是其實它是有難度的，可是在選舉期間不斷地發生。針對類似的狀況，如果是選務的錯假訊息，你們應該要立刻下架，結果中選會是要等到選完以後才開始處理，這不是讓很多民眾都收到錯假訊息嗎？"],["蔡局長明彥：是，當然。"],["徐委員巧芯：所以這個部分要請國安局再加強處理。"],["蔡局長明彥：好，我們來提醒中選會。"],["徐委員巧芯：最後，我要問國安局的是，你們在去年底有招募AI人才，在2016年舉辦國安特考，也有針對資訊師等等的技術、年齡、體檢標準，提出要求。請問當時這些AI的資安人才錄取以後，他們的訓練期間有哪一些內容？"],["蔡局長明彥：有，我們當時確實有針對一些相關的資安人才招募，而且招募的員額數量還不少，招募進來之後，我們當然會有一些相關的訓練課程，訓練的不只是我們局內招募的人才。我上次有跟其他委員提到，包括國安團隊、其他單位的資安人才，我們都一起提供訓練的機制。"],["徐委員巧芯：你們的訓練呢？"],["蔡局長明彥：未來兩年大概可以訓練到2,000到3,000人次之多。"],["徐委員巧芯：我想要問的就是你們的訓練，比如公職網站上面可以看到的，國安局的特考訓練有包含體能訓練等等，然後這樣才能……"],["蔡局長明彥：對，有基礎訓練，這是基礎訓練。"],["徐委員巧芯：可是有很多，什麼體能訓練、意志力、仰臥起坐、山地戰技、操舟訓練、3,000公尺跑步，這跟資安人才、AI人才有時候是衝突的啊！很多很會做AI的人可能就體能不好，請問你們在這兩者之間要如何兼顧？"],["蔡局長明彥：謝謝委員提到這個問題。基本上，剛剛委員提到這些訓練課程是在基礎訓練的過程當中，加強情工人員的體能，我們也注意到很多的資安人才也許在體能上沒有那麼好。"],["徐委員巧芯：對！像霍金就沒有辦法來……"],["蔡局長明彥：所以我們的課程去年開始有做一些調整。"],["徐委員巧芯：做什麼樣的調整？"],["蔡局長明彥：針對一些特殊背景、專長的國安人員，在訓練過程當中以及專精訓練過程當中，會有做一些區隔。"],["徐委員巧芯：我建議國安局針對AI、資安的人才招募，要特別只針對AI人才是不是有這樣的能力，不要去管他的體能。做國安局情報人員要體能，我當然完全同意，如果他就是要進來幫你做AI的調查，很多人比如可能是身障，但是他對於AI的了解、對駭客了解，是一等一的，這樣的人怎麼可以被摒除在國安人員之外呢？"],["蔡局長明彥：對，當然。"],["徐委員巧芯：他有意願加入國安局，配合一起做AI調查，我們應該要歡迎他，可是以上所有的內容，他可能都不能做，所以這個部分請國安局回去再一次的精進跟檢討，我們希望是用人唯才。基本上，這些內容如果在他的工作項目裡面不會用到，那就不一定要考，但是針對他的基礎訓練，應該是要在他對於AI產業以及資訊的了解是否頂尖，這才是國安局應該要有的方向。"],["蔡局長明彥：非常好，我非常同意委員的看法。跟委員說明一下，去年我本人有召開一個專案會議，就在處理這件事，而且找我們所有各單位的一級主管通通來參加，告訴我們各單位需求的人才，他的背景是什麼、訓練課程該怎麼調整。謝謝委員提醒，我們繼續來努力，謝謝。"],["徐委員巧芯：謝謝。"],["主席：謝謝徐巧芯委員。","接下來，請黃仁委員上臺質詢。"],["段落：質詢：黃委員仁：9:56"],["黃委員仁：（9時56分）有請蔡局長。"],["主席：請蔡局長。"],["蔡局長明彥：謝謝主席。黃委員早。"],["黃委員仁：早。有關日前華爾街日報曾報導一款名為Talkie的AI聊天機器人，成為美國最受歡迎的app之一。這個app不只在美國受到歡迎，連在菲律賓、英國、加拿大的下載次數都非常多，而這個軟體背後的公司就是大陸、大陸製。本席想要了解一下，發現這個軟體在臺灣也可以下載得到，你認為這樣會不會對國安產生非常大的威脅？這類AI聊天軟體構成的威脅為何？你來回答一下，好不好？"],["蔡局長明彥：我們一再提醒，對於中共製作的這些app軟體，可能潛存資安風險，Talkie的流通主要是在英語系國家，目前用戶大概有1,100萬人。因為中共的這些軟體公司也要配合到中共的國安法制提供客戶的相關資訊，可能造成資安的危害，包括使用者的一些習性、位置以及通聯資訊，我們都要避免可能有外流到中共的風險。"],["黃委員仁：等一下我們會往下延伸。本席所知道的是，這個AI軟體的特色在於學習，意思就是在當我們越使用它，它就會更聰明。"],["蔡局長明彥：對，越會掌握使用的習性。"],["黃委員仁：因為它可以透過用戶使用的過程，蒐集個人或某群體的思維、邏輯和習慣。以國安局的角度，AI聊天軟體是在蒐集或者再生成，對國安更具有危險性。本席看了今天的報導，發現比較有意思的是再生成，所構成的威脅是大家都在重視AI製造出假訊息，它也提供反制的想法，但是比較忽略蒐集的部分。"],["蔡局長明彥：對，這確實是一個威脅，也謝謝委員利用質詢的機會，提出這個非常重要問題。因為AI聊天軟體是連網的，所以變成它可以即時掌蒐使用者使用軟體的習性。這也是為什麼我們一再提醒，使用這種生成式的AI一定要特別注意。本局一定是要落地的，落地的意思就是所謂的實體隔離，我們是運用它的軟體在我們內部的系統來測試，但是這種中共製的app因為是連網的，所以它可以即時掌蒐一些資訊，這確實有資安疑慮，要特別注意。"],["黃委員仁：因為有這樣的訊息，所以我們要加以來反制或是防範，無論是中國大陸的Talkie還是美國的ChatGPT都在蒐集、使用媒體的訊息，這也是AI發展的條件之一，雖然這是不可避免的，但政府不能單純以開發國家來區分威脅性，而是應針對個別軟體區分威脅程度，政府是否有做這樣的工作，並且是否有能力做到個別檢視？"],["蔡局長明彥：就國安局的立場來講，針對這些中製app可能產生的資安風險，我們會提供業管單位作為參考，主要業管可能還是在數發部這邊，針對相關的app要不要提出警示公告，但這部分我們也跟數發部有做過一些討論，也就是在公告的名單上，比較有可能的做法是朝向限制使用，哪些app是比較有風險要限制，比較不方便做的是……"],["黃委員仁：那就你們麻煩跟數發部講一下。"],["蔡局長明彥：好，我們上禮拜才跟他們討論。"],["黃委員仁：短程、近程、遠程的討論過程，能不能給我一份簡單的說明報告，好不好？"],["蔡局長明彥：沒有問題。"],["黃委員仁：第二個，指導美國國家安全及情報部門使用人工智慧（AI）之新規定的備忘錄裡面，局長，你認為AI錯假訊息的這種威脅，除了來自中國大陸政府之外，有沒有可能來自於盟友，甚至我們自己的政府？今天出席的各部會報告中提到以AI反制AI，本席首先想要請教國安局局長，政府具體要如何以AI反制AI，政府又要如何應用AI的技術？"],["蔡局長明彥：像我們今天報告的主題，AI可以運用到錯假訊息或是資安攻擊，因為它發動的攻擊能量會非常龐大，所以我們必須要用AI的技術來做反制，因為以傳統人力來講會非常吃力，在這部分我們的努力大概分兩個部分，第一個部分是運用AI查找資安上可能的攻擊來源，我們會針對這些駭客團體的攻擊方式與路徑做蒐集，然後讓我們的AI系統可以學習辨識，跟委員很誠實的報告，我們過去透過AI系統來查找這些境外的IP或攻擊來源，正確比例非常高，跟人工來比較正確比例非常高，這是一部分。"],["黃委員仁：我希望你們能夠精準……"],["蔡局長明彥：第二部分是針對……"],["黃委員仁：今年10月份美國發布指導美國國家安全與情報部門使用人工智慧之新規定的備忘錄，我們目前有類似的指導規範嗎？還有，局長是否確切地知道美國這一份備忘錄規範的目的是什麼？"],["蔡局長明彥：美國這一份備忘錄主要提到的是AI未來發展技術的主要方向，另外也提到了可能帶來的風險，再來，另外一個重點就在於跟國際連結的部分，哪一些是可以連結的，哪一些可能要注意，這大概是這一次白宮公布備忘錄最主要的重點。"],["黃委員仁：其實在這個備忘錄裡面，你剛剛講的是對的，但是本席要再加上個人的看法，有兩個部分，第一個，鼓勵使用AI，強調國安和情報部門不能利用AI壓迫言論自由與公民的權利，明定政府不能用這個來壓迫言論自由。第二個，禁止濫用AI，強調國安和情報部門不能利用AI壓迫政府的言論自由。你們在報告中提到要以AI反制AI，這本來就是你們要做的事情，但情治單位強調以AI反制AI的同時，如果缺乏明確使用的指導規範，很可能會被濫用在自己國人身上，就算政府是對於不利的消息認知作戰，以致於遭政府不斷地濫用後，國人根本無法確定到底是中共還是現在執政黨在混淆民眾的認知。"],["蔡局長明彥：謝謝委員提到這個問題，事實上，剛剛我們在口頭報告的時候也特別提到這一點，也就是對於AI的使用跟管理還是應該要有法規、法遵的規範，這部分因為業管單位數發部已經在研擬人工智慧基本法，所以本局會針對相關國外發展的趨勢提供給業管單位作為參考。另外，本局內部對於使用AI也有我們自己的作業規範，避免使AI被濫用，一方面保障我們國人的權益，一方面保障國家安全。"],["黃委員仁：各部會強調政府應用AI、以AI反制AI，但都是要告訴國人如何使用，使用時是否受到規範和限制，這一點你們一定要告訴國人，讓國人知道，而且使用過程是否侵害到國人自由或隱私，這讓本席非常擔心政府會濫用。"],["蔡局長明彥：我們會持續跟相關單位，包括國科會跟數發部來交換意見。"],["黃委員仁：我延續剛剛徐巧芯委員所講的，就高嘉瑜的深偽影片部分請教警政署，近日在網路上流傳一段民進黨前立委高嘉瑜遭AI變造的假政論節目抖音影片，影片中高嘉瑜說：「我對民進黨沒有什麼好感，這個爛黨真的糟糕，從賴清德開始就歪瓜劣棗」。這個影片雖然仔細看還是能夠辨別某些地方嘴型不一樣，但仿真程度不低，影片大約在一週前流傳，雖然不少觀看者能夠區別真偽，甚至留言取笑影片是偽造，但講的內容是否真實及還是為了避免誤會，高嘉瑜已在四天前提告，本席特別確認這個影片目前在網路上仍然沒有刪除，請問警政署。"],["林副局長信雄：跟委員報告，有關於高嘉瑜委員影片的部分，因為抖音有分國際版和中國大陸版，如果是屬於國際版TikTok的部分，目前刑事警察局這邊有聯繫管道，但是對於中國大陸版抖音的部分，因為我們並沒有辦法去跟它們做相關聯繫，所以在下架的部分，我們沒辦法直接來做處理。"],["黃委員仁：這個已經很明確，高嘉瑜也對媒體公開解釋說這是一個偽造的AI，你們應該查察之後就要下架，不要流傳到社會層面裡面造成誤會，警政署應該要精準趕快查察這樣的訊息才對，對不對？"],["林副局長信雄：跟委員報告，剛剛有提到抖音是中國大陸本身的網際網路公司，我們對於這個部分並沒有辦法去要求公司來進行下架，當然國內部分也可以進行網域封鎖，不過這不涉及到警政署的權責，這是屬於TWNIC的部分，那邊是可以來做處理。"],["黃委員仁：我要提醒警政署，包含檢調，在處理深偽影片的反應、動作遲緩，顯然政府對於如何處理AI造成的訊息危害根本沒有一個確切的SOP，而且未來可能會有更多這樣的事件發生，在座的各位都可能會成為被深偽的部分，所以你們本來就應該制定出，不管是軍警檢調都要制定一個SOP，以警示及防範未來這樣的事件發生，是吧？"],["林副局長信雄：是，謝謝委員的指教，這部分我們會跟相關部會來做聯繫，請他們在國內可以適當處理的部分，儘量來做處理，我們會來努力。"],["黃委員仁：你們制定的SOP裡面本來就應該要做好未來防範，因為將來可能會有更多，我們要以AI反制AI，但是他們也有自己系統的一套玩法，好不好？"],["林副局長信雄：好。"],["黃委員仁：謝謝。"],["主席：謝謝黃仁委員。","接下來我們請沈伯洋委員上臺質詢。"],["段落：質詢：沈委員伯洋：10:9"],["沈委員伯洋：（10時9分）謝謝主席，有請局長。"],["主席：請局長。"],["蔡局長明彥：謝謝主席，沈委員早。"],["沈委員伯洋：局長好。雖然今天的題目是AI，但一開始我想問一個時事，這個時事其實跟AI沒有直接的關係，但其實是非常類似的問題，媒體的官方說法，我剛剛看到在媒體區受訪時你好像已經有回答過這問題了，所以我就不再贅述。我先講右邊這件事，右邊是與馬斯克有關的影片，該影片的字幕從頭到尾都在講他要撤出什麼之類的，不過其實裡面講的英文根本不是那麼一回事，所以就是亂上字幕！在澤倫斯基之前很多的影片裡，俄羅斯也做過類似的事，中國也做過類似的事，就是澤倫斯基講了一堆話，而底下上了一些完全無關的字幕。這是從早期從到現在一直有的操作方式，不過昨天發生了一件更麻煩的事情，也就是拜習會。拜習會的場合就是畫面上看到的樣子，裡面根本就沒有人講到賴清德，可是央視在旁白的時候講了這句話：賴清德和民進黨當局的台獨本性。然後新華社、還有臺灣的報紙跟媒體，就直接把這個當作事實來報導。我看到有些媒體報導比較平衡，說現場完全沒有提到，但中國的官方文件講了這件事。現在對我們來講，有一個很麻煩的地方在於，臺灣有些人會把中國的東西直接copy過來講。問題出在假設我們今天出來闢謠說，我們都沒有聽到講賴清德！結果他們就自己說，沒有，但是在內部時他們有聽到，最後就是有理說不清。在這邊我想請問，目前國安局對這一類方式的新聞比較好的回應說法會是什麼？"],["蔡局長明彥：就這問題來講，我們第一時間也有去比對白宮對外的公開新聞稿，也會去研判中共領導人在國際場合、一般在處理類似事情的說法。確實像委員所提到的，不能排除可能是中共的官宣、官媒在會後的刻意操作！在APEC期間，其實不只剛剛委員所提到的個案，我們也注意到在中共與新加坡領導人會談過程當中，似乎也有這種會後刻意的新聞操作及處理，包括認為新加坡黃總理曾經在會中提到恪遵一中原則與反對臺獨……"],["沈委員伯洋：對，菲律賓也有過，印尼也有過。"],["蔡局長明彥：有很多國家似乎在會後都遭到中共在媒播上以刻意手法處理，所以對於跟中共的會談，各國都很警示，看事後怎麼樣有自己的版本，避免成為中共單方面、片面的說詞，這也變成大家共同關注的議題。當然，希望媒體朋友們在報導相關的議題過程中能多方查證。"],["沈委員伯洋：非常感謝局長講到這點。如果我們跟國人說之前印尼、菲律賓等國家也都發生過明明會面時沒有講的東西，結果中國在事後的文件講出來。講出來以後，我們也不是要去爭執到底真或假，因為這種東西有理說不清。但我們可以強調，中國很喜歡在事後去講一些你在公開時找不到的內容，這樣以後國人在看到中國的官方說法時會有一些警惕，也不會落入對方陷阱，甚至認為沒有啊，他們私底下有偷偷講到什麼之類的，不用去爭執那樣的細節。但這也是我擔心的，所以我今天早上就特別把頭版都拍過，不過比較重要的當然是我們昨天贏球。但某報的頭版就直接講「首度點名賴清德」。其實這件事明明沒有在現場發生，是後來才出現在官方文件，卻刊在頭版。至於中國時報的講法就是「陸方新聞稿點名」，這就講得比較清楚，表示這不是現實發生的，是新聞稿點名的。我覺得臺灣現在是一個隨時可能會被入侵的國家，如果在危急時，我們的媒體是把中國新華社的內容直接當作頭版來報導，也沒有講為什麼這樣報導，報導跟事實到底一不一樣，就廣泛地在臺灣發送，我認為這會是國安危機，這可能是個別倫理上的問題，而國安局這次是整理後直接跟媒體回應，我想之後也應該繼續往這方向邁進。"],["蔡局長明彥：好。"],["沈委員伯洋：這雖然跟AI沒有直接關係，但這也是我之前比較擔心的。就AI來講，中國的AI技術當然好，不過有時候不一定需要用AI，他可以使用非常簡單的，譬如真實的影片。也就是說，影片從頭到尾都不是AI，都是真實的，卻配上錯誤的字幕。其實配錯誤的字幕是第一步，下次可能是配上錯誤的語音！現在語音是真的，字幕是假的，至於AI則可以讓語音是錯的，字幕也是錯的，一步一步往下做，讓臺灣人越來越習慣，越來越搞不清楚這樣的機制。不管是數發部或國安局報告都有提到，近期之內有越來越多的造假，像我自己也被造假了。這個其實還不是最大的重點，最近剛好數發部……對不起，這可能要請教林次長。這幾天剛好很多財經粉專被下架，由於Meta本來就有詐騙回報的相關機制，所以開始有人說，會不會是數發部做的？我看到次長有回答，讓我覺得這真的不知道是造謠還是怎樣。我現在有一個問題，詐騙是不是有向Facebook回報的機制？"],["林次長宜敬：是。"],["沈委員伯洋：如果跟Deepfake有關呢？因為Deepfake有可能是詐欺，如果是詐欺的話我們直接回報，這個沒問題；但像這樣的方式能不能歸類在詐欺？"],["林次長宜敬：這的確是一個很好的問題。像這樣的Deepfake是不是可以構成詐欺？這的確是很有爭議的。不過這樣的事其實不能由行政部門直接認定，因為臺灣是一個自由民主法治的國家，對於是否為詐欺，最終必須由檢調機關調查，由司法機關決定。相較於威權國家，威權國家很簡單，就是政府一下令，所有事情可能當天、甚至一個小時之內就解決了。至於我們民主國家，有時候會覺得好像有一隻手被綁在後面來做事情，但這就是自由民主的代價，這也是我們未來非常大的挑戰，不過我們還是必須想辦法去面對。"],["沈委員伯洋：對，這是我比較擔心的。我們現在已經有了打詐專法，但詐欺是限定的，所謂詐欺就是刑法的詐欺取財，是詐騙金錢。如果是詐騙金錢的話，那麼我們用詐騙的定義去向各平臺做回報，我覺得合理；但如果要將這個視為詐欺的話，但它並沒有直接造成財產損害，也不是用我的名義買賣股票。所以可否乾脆另闢蹊徑？也就是不要用詐欺這一條路徑，而用Deepfake當路徑，跟社群平臺談設立Deepfake回報的專門路徑？以後只要出現過……不過這個是在抖音上，所以是另外一回事，而且抖音不會理我們。但如果是在Facebook、在YT上，譬如沒有標記為AI，是Deepfake，有哪幾個標準是我們可以跟他們回報，直接做另外一條途徑，看數發部有沒有機會去跟這些社群平臺談一下？"],["林次長宜敬：是，我們現在持續跟這些主要的社群平臺做溝通，之前他們比較不願意跟我們配合，還推說總部在美國或在日本，所以沒辦法影響總部的決策。但經過幾個月不斷地溝通，他們的態度有比較鬆動。我們後來也發現，臉書在臺灣的法遵部門基本上只有兩個人，根本管不到業務部門！所以我們後來直接去跟他們在新加坡的亞太總部溝通，接下來就直接到美國總部溝通，也透過美國政界人士，當他們來臺灣訪問，與數發部會談時，我們就跟他們抱怨，希望透過美國輿論以及美國政府部門來對Facebook施壓。美國國會以及行政部門對Facebook也面臨同樣問題，他們也覺得很頭大，所以他們感同身受。這幾個月來，不管是Facebook、Google或LINE的態度都有改善。至於Deepfake，只要我們提出的解釋是合理的，相信他們都會配合。如同委員所講的，現在最大的問題其實是在TikTok！"],["沈委員伯洋：所以這個機制必須趕快建立，因為會變得越來越多！打詐機制固然立意良善，臺灣詐騙卻還是很多，不過我個人認為中國才是最大的詐騙集團，但這個就不用回答了。在政治上，我們現在遇到這種大型且用各式各樣的方式來做詐欺，像這就是今年才出現過的事，我覺得也蠻扯的。這是今年9月才出現的事，是直接Deepfake烏克蘭外長的形象，甚至跟美國參議員做視訊連線；在連線的過程裡，參議員覺得有點怪怪的才趕快通報！所以這已經不是影片了，而是連線的那一個人有問題！我覺得這部分機制要趕快建立，因為一樣的事情有可能會發生在臺灣。因為時間到了，後面我沒有辦法再細問。不過數發部跟國安局在所寫的AI報告裡說，畢竟AI在不同的層次裡，如果今天是在Level 2的話，自動化防禦比較沒什麼問題；如果做到紅隊程度的Level 3，畢竟現在要做到紅隊的創意還是要比較夠，但是防守這個部分是我們現在就可以做的，我看到美國有這個相關的……主席，不好意思，再給我30秒，就是DARPA，他們在去年開始有這個AI，這個我猜次長很熟悉啦，他們有這個計畫，他們直接請大家來攻，然後去把這個漏洞找出來等等之類的，因為防禦這件事情是我們現在馬上可以做的。我記得剛剛局長跟次長在回答的時候都有講過，我們已經有用AI在防禦，那這部分可以強化。","至於AI要應用在紅隊這個有創意的部分，到底會發展成什麼樣，我們不是很確定，但至少我看OpenAI的報告，放在假消息的部分，它說已經有說服力了，所以當它已經開始有說服力，我們先不要管一般的資安攻擊，但如果是假消息，還有像剛剛講的Deepfake這個部分有可能是必須要先去注意的。我後面當然有一些建議，還有一些法律上的問題，如果有機會的話，我可能會再去交通委員會問一下部長或次長。"],["林次長宜敬：是，謝謝委員。"],["沈委員伯洋：謝謝主席，謝謝局長，謝謝次長。"],["主席：謝謝沈伯洋委員。","接下來我們請陳永康委員上臺質詢。"],["段落：質詢：陳委員永康：10:21"],["陳委員永康：（10時21分）主席你好，有請蔡局長。"],["主席：請蔡局長。"],["蔡局長明彥：謝謝主席，陳委員好。"],["陳委員永康：局長好。今天我準備了很多有關AI的流程圖表，剛才局長已經做了一部分的回應了，工程技術部分，我們在這邊就不做深入的探討，我只請教幾個問題，第一個就是在我們局裡面，高階的長官同仁有沒有人本身先使用過AI，還是由研析人員？我講研析部分，完全用研析人員的概念去使用AI，然後呈報給長官。"],["蔡局長明彥：對，主要是研析部門在做相關的研究跟開發，我們局裡面AI的小組在各個單位都有，我們也非常鼓勵有一些橫向經驗的交流。"],["陳委員永康：因為剛才都探討了深度偽造、網路攻擊，還有最主要就是AI可以產生一些結果，並不是假訊息，可是它扭曲了你的價值觀，也就是說，我們在講用AI的方法，剛剛講反制就是洗腦、反洗腦這個東西，將來我想數發部在法律上、法遵上面，科技的進步，通常我們的法律不太容易跟得上，這是我們面臨的最大的一個挑戰。我等一下舉個例給你看，像生成式AI它的風險、它的正反面、效益，這些東西都有流程，我們確定你使用的目標、方法、手段，以法律與規範為監管基礎，符合成本效益的監管模式，因為你投入太大的經費去管一些有機會發生，但是它並不是那麼嚴重的，你做到那麼細也沒有好處。","我最後用一個簡圖來給您做一個回應，就是這個圖，現在媒體已經沒有人在了，所以我就很高興，這個圖是我們講川普對應中國大陸，從他在選舉過程中的目的、方法、手段，這裡面有屬於對抗、合作，有屬於主觀、客觀，有屬於推測、有反思，有宏觀、微觀，不同的方法論裡面，我們把這個邏輯框架圖餵進AI，但是當你把它的邏輯順序調整的時候，AI的回復就不一樣了，所以在這邊8個方塊圖，我把它輪轉一圈，它會產生64種不同的組合，這種分析的情況下，對我們的參謀、幕僚判斷，它裡面講的都是真的現象，但是不會反映出真相。在這種情況下，AI的判斷就要我們的參與人員知道當初這個東西設計的邏輯框架，因為你問AI的並不是文字，並不是句子。第一個，你的information是從工情來的；第二個，你有database；第三個，你有邏輯框架；第四個，組織架構把這個變成一個infographic，餵進AI，那麼AI就會產生一些給你的建議，但這個建議是主觀、客觀，還是正確、不正確，這個有不同的結果。我舉個例給您聽，像這個我們只是把上面的狀況轉一圈，所有的東西都會不一樣。所以當你把美國它追求的目的，還是它的方法、手段做調整，也會有不一樣的結果。像這種東西，我做一個很簡單的。","（播放錄音）"],["陳委員永康：這個是AI就這個邏輯框架所做的回答，把這個回答再轉換成英文，你再送到另外一個AI的技術去，它又幫你把邏輯框架重新調整，就是說，它講的都是正確的，但是當你把框架的內容做了調整，你再問AI，它又會產生另外不同的一套，當把這個語言、英語套到國外的學者論證裡面引述進去，這個就變成假訊息了。這種東西很容易影響到我們的學者專家政治的判斷。","我現在特別是用這個範例向您做一個解說，我希望我們在做研析的單位，第一個，先把美國政策跟國際情勢的邏輯框架把它畫出來，大家做客觀的分析、溝通，確定我們的路徑、方法、手段，最後能不能支持我們的國安，這是一個大格局。這種情況下，再用AI的資料進來比對就會比較客觀，而不是直接去找這個是文字輸入，這個是語音輸入，第三個影像，最後變成一個動態，這四個全部可以組合。因為高階的長官並不是本身有工程背景或者用AI，由研析幕僚單位來使用這個東西，因為第一個有時間的壓力，可是現在這個生成式的結果，像這個方塊圖我們改變一下，問它30秒，產生另外一套完全不同的分析論述，所以這個東西8乘8，它可以產生64種不同的結果。請問這種情況下，我們的幕僚如何去收斂？可能迴歸過來，你還要倒過來，用你的AI技術去過濾、再簡化，這個部分我是不是請局長做一個回應？"],["蔡局長明彥：基本上，委員剛剛所分享到的一些AI生成技術運用過程當中的方法論，我們局裡面事實上已經有投入滿長一段時間的研究。也跟委員說明的是，我們也曾經透過這些AI的系統去預測中共的人事布局，在啟動這樣的一個生成式AI系統過程當中，就正如委員所講的，我們必須要由研析人員來設定，我們當時設定的大概有70個指標，把70個指標建立到我們生成式AI的系統裡面去，在這些指標的資料運作之下，由它幫我們來預測中共人事可能的布局。跟委員說明的是，預測的正確率相當的高，這主要的重點就在於說，我們本身的資料庫跟指標設定必須要能夠貼近中共的決策思維，所以這部分確實是我們在方法論運用上一直在關注的一個主要的重點。"],["陳委員永康：特別還是建議，就是說，我們做研析人員，他的工具，跟他的資料庫，需要持續在這方面投資增長，如果只是用純粹的一般工情，也許可以花點錢，很多軟體都會提供，但是邏輯框架就像您講的，預測系統包括你的資料庫，包括你的information，還有你的邏輯框架，最後送進AI的infographic，這個要有持續更新。"],["蔡局長明彥：是。"],["陳委員永康：我特別提出這個請局裡面在這部分努力。"],["蔡局長明彥：謝謝陳委員的指導，我們還有一些設計上的競賽，有時候用AI系統去做分析預判，有時候用人工系統來做分析預判，然後再做比較，這樣可以在過程當中不斷策進我們在AI運用方法論上的一些經驗。"],["陳委員永康：好，特別謝謝局長，大家共同努力。"],["蔡局長明彥：好，謝謝委員提醒，我們繼續來努力，謝謝。"],["主席：謝謝陳永康委員，局長請回。"],["主席（陳委員永康代）：請林委員憶君發言。"],["段落：質詢：林委員憶君：10:29"],["林委員憶君：（10時29分）謝謝主席，有請國安局蔡局長，還有調查局吳副局長。"],["主席：請蔡局長及吳副局長。"],["蔡局長明彥：謝謝主席，召委早。"],["林委員憶君：早安。本席上周才剛去法國進行國會外交，剛回國，其中拜會了法國參議院外交暨國防委員會的副主席，他也注意到我們臺灣近年來都飽受了施壓的力道，包括散播假訊息，還有網路攻擊，並告訴我們訪團法國同樣也面臨了俄國的各種威脅，也期盼雙方未來能夠深化的往來。在這上面顯示其實AI確實正以不同的方式在改變整個世界，也改寫了許多國家的外交以及國防作戰的政策，所以本席在這邊有一個具體的建議，國安局應該要更加積極、主動和我們友好的國家多透過各種不同的管道，互相交流AI的情蒐。","現在我進到主題，有關上周四網路及社群瘋傳一段疑似中國開始散播，透過AI深偽仿聲的技術造假的抖音影片，影片是前立委高嘉瑜批判時政，經證實是不實的假影片，這個假影片來自中國的抖音，影片用AI模仿的聲音生成，以假亂真，雖然嘴型上面是完全對不上，但是這種深偽變照的影片恐怕只會越來越真，而且越來越多。還有今年1月份2024年總統大選剛結束，網路也在瘋傳習近平致電祝賀賴清德當選中華民國臺灣第16任總統的影片和圖片，後來也經證實，也確定是虛構的、捏造的資訊，是錯誤的訊息。所以面對資安與國安的疑慮，本席想請教國安局，未來將如何採取有效的行動，如何讓國人有辦法明辨真偽，還有如何透過教育和宣導的方式來嚇阻中國越來越猛烈的認知作戰，避免未來發生更大的國安問題？否則這樣的中國造假的影片、認知作戰的新型態作戰模式恐怕可能是未來趨勢，國安局將如何因應中共這些非傳統式AI技術武器化的供給以及滲透模式，還有如何加強這些假訊息的揭露，尤其是認知作戰、滲透作為的揭露呢？"],["蔡局長明彥：對，第一部分跟委員說明的是，在國際交流合作的部分，怎麼樣來因應錯假訊息或認知作戰，一直是我們跟國際友盟進行討論交流的重點，大家針對這些應處的經驗來做交流，也可以強化我們自己本身民主的韌性，以因應這些認知作戰對我們社會產生的衝擊，這大概是第一點的說明。第二點是針對AI生成的技術不斷在網路上散布這些錯假的訊息或影音，基本上我們國安團隊有建立一個跨單位的機制，在網路上來進行查找。這部分也確實用了很多新的技術跟系統，能夠在網路上各個不同的社群媒體平臺，找到這些有問題的帳號所傳散的錯假資訊，找到之後，也要進行必要的通報，所以跟委員說明的是，我們現在每個禮拜找到的這些錯假訊息的資訊，可能都有到四萬多件之多，我們會從過程當中去篩濾，對我們的社會秩序或國家安全比較危害的部分，通報到行政院相關部會來做查處，或儘快對外做必要的說明，這大概是行政措施上我們的努力。","另外在法規上、法律上，也跟委員說明一下，因為有一些AI散布的這些錯假訊息，假如有傷害到個人的名譽或社會形象，因為它是屬於告訴乃論，我們會很強烈的建議當事人可以跟警方報案或跟司法單位提告，進行相關的司法程序。另外一部分，假如有涉及到比較公訴罪的部分，它也許涉及到反滲透法或涉及到刑法的相關部分，這個部分我們也會跟我們國安團隊裡面具有司法警察機關權力的，包括調查局、刑事局跟憲指部來進行相關的查處。最後一部分是跟社群媒體平臺的合作，公私合作，那麼怎麼樣來跟社群媒體平臺做舉發、檢舉，請他們下架這些有問題的帳號，過去以來，事實上像刑事局針對這部分做了非常多的努力，據我看到的資料，他們在今年前三季的資料，第一季跟Meta舉發的有三萬多件，第二季四萬多件、第三季兩萬多件，所以我也必須要利用這個機會跟大院各位委員說明一下，我們相關團隊跟各個單位對於查處這些有問題的錯假訊息散布，事實上也是非常的努力。"],["林委員憶君：好，謝謝局長。","現在我請數位發展部的次長。"],["蔡局長明彥：謝謝。"],["林次長宜敬：委員好。"],["林委員憶君：調查局副局長請回。","請問數位發展部次長，之前盛傳數發部針對一般的民眾用抖音服務進行限制，後來經過數發部的澄清，由於抖音是在2019年就被行政院列為危害國家資通安全的產品，是這樣沒錯吧？"],["林次長宜敬：是。"],["林委員憶君：目前是不是只有限制在我國公部門所屬的設備和場域，考量資訊的安全，全面禁止安裝抖音軟體呢？"],["林次長宜敬：是。"],["林委員憶君：請問，目前有沒有對公務人員私人的手機，還是一般的民眾做出這樣的限制呢？"],["林次長宜敬：沒有。"],["林委員憶君：為什麼沒有限制呢？是沒有人力，還是沒有法規，還是不敢限制，還是根本不想限制呢？"],["林次長宜敬：因為這個沒有法規，我們知道在一些威權國家，如果政府看到哪些app，他們覺得他們不想要的話，他們可以馬上下令，大概一個小時之內就可以把它封起來，但是我們臺灣是一個自由民主法治的國家，我們做任何事情並不是能由行政部門下一個命令就可以馬上做了，我們這個必須要有立法，然後有一些譬如它是不是假訊息，是不是有詐欺等等，最後的判斷還是必須由司法單位來判斷。"],["林委員憶君：好，因為我根據刑事局現在詐騙案件的統計，2023年民眾被詐騙的金額高達88.78億，其實已經創史上新高了，而在科技上面的發展，近年來臺灣的詐騙也是引發民怨，詐騙集團也越來越猖獗。賴清德總統在今年的8月20日出席2024年全面阻絕詐騙論壇中，強調了打詐視同作戰，不成功絕不罷休。"],["林次長宜敬：是。"],["林委員憶君：我想請問一下，數發部還在2022年7月成立的打詐國家隊到現在，其中刑事警察局轄下成立的打擊詐欺犯罪中心擔任國家隊的幕僚，數發部似乎是不是這樣迴避了打詐的責任呢？"],["林次長宜敬：沒有，我們非常積極主動在做打詐的工作。"],["林委員憶君：目前的詐騙大部分都是透過網路進行嘛！"],["林次長宜敬：是。"],["林委員憶君：請問網路平臺是不是由數發部這邊來管理的呢？"],["林次長宜敬：是。"],["林委員憶君：政府透過跨部會合作積極打詐，組織了打詐國家隊，但是我覺得成果好像沒有大家想像的那麼理想，而且詐騙集團還是非常猖獗，今年8月TPOC台灣議題研究中心根據輿情資料庫分析，針對政府打詐國家隊各部門在打詐的聲量統計，其中負聲量最高也最顧人怨的部會，你們知道是哪個部會嗎？"],["林次長宜敬：請委員直接說吧！"],["林委員憶君：那就是你們數位發展部啊！現在你們的負聲量已經高達了1.2萬則，而且網路好感度只有0.35。我想請問一下，像現在詐騙集團越來越多，又盜用了照片和資料，而且又跟上潮流，也用AI深偽合成的照片和影片在社群中販賣，還有廣發各種金融產品及投資訊息，政府的效率還比不上詐騙集團，詐騙集團比你們部會都還要更了解科技和潮流，抓詐騙的是警政署、調查局、國安局，請問數發部的功能是在哪裡呢？"],["林次長宜敬：跟委員報告，基本上現在網路詐騙也是一條產業鏈，他們的作法，第一步，這些詐騙集團會在Facebook或在Google這種公開的社群平臺，他們放一些廣告或者是假訊息，想辦法把這些民眾騙到LINE的私人空間裡面、放到一個群組裡面，這是一個封閉的空間，如果一般民眾進去，看到裡面可能有200人，然後每個人都在聊，說他賺了多少錢等等，但是其中199人是詐騙集團的成員，只有那個民眾進去以後會遭到詐騙，接下來甚至詐騙集團會把這些民眾騙到一個一對一的私聊，而且通常像是Signal，還有Telegram這種加密的一對一私聊空間，他們的目的就是為了躲避政府的監管，即使事後發生了詐騙的事情，我們檢調單位也沒辦法進去看他那些加密的訊息，他都拿不到，等到民眾已經匯款的時候，通常詐騙集團很快會再做轉帳，用各種方式去洗錢，把錢洗掉，在後半段，事實上就是我們內政部警政署他們在做的事情，還有金管會，他們在阻斷金流，那我們數發部在做的事情就是想辦法阻止這些詐騙集團，把這些民眾騙到這個小房間裡面，所謂的小房間裡面，就是這些LINE的群組裡面，因為一旦被騙進去以後，我們政府能做的事情就很少，所以我們現在在這個打詐團隊裡面，即整個政府的打詐團隊裡面，我們數發部跟內政部以及金管會的分工基本上是這樣子，我們在前面儘量的防堵，我們也必須講，我們數發部非常努力，事實上我們有建立一套系統，在9月30號到10月14號當中，抱歉，是到11月8號，我們接受了民眾4萬8,648件的通報，其中一萬五千多件，我們已經通知Facebook、Google還有LINE請他們下架，一萬五千多件的這種可疑的詐騙廣告或者訊息，如果我們不做這件事情的話，那這一萬五千多則的詐騙訊息或者是廣告，一定會騙更多的民眾進入這個小房間，所以我們做這個事情很多的民眾沒有感覺到，因為這個事情，這些詐騙後來就沒有發生了，沒有發生並不表示我們沒有做事，事實上我們數發部的同仁是非常努力在做這件事情的，以上跟委員報告，謝謝。"],["林委員憶君：因為我看數發部一年其實耗費納稅人211億……"],["林次長宜敬：跟委員報告，我們現在的預算，明年提報的預算是86.6億，然後再加上前瞻預算，明年雖然會退場，但是有47.6億，所以我們總共的預算應該是134.2億，謝謝委員。"],["林委員憶君：但是到現在資安問題還是很嚴重，所以打詐到現在似乎還是沒有對其他部會有任何的幫助和成效，但是我還是希望，最後還是希望數發部要好好的發揮整個功能。"],["林次長宜敬：謝謝委員。"],["主席：接下來請陳冠廷委員發言。因為局長時間有限，請您這邊控制好。"],["段落：質詢：陳委員冠廷：10:42"],["陳委員冠廷：（10時42分）我們請局長，局長應該只剩下5分鐘，我們前半段就先請國安局局長。"],["蔡局長明彥：謝謝委員。"],["陳委員冠廷：局長好。局長，上一次我們針對安全核可的部分來做質詢，那為什麼我們特別針對國安局局長的原因是因為，大概只有蔡局長最願意用最快、最直指核心的方式來回應我們，其他國防相關、情資相關的這些官員，我總是覺得在跳來跳去，這點我很遺憾。局長是來自學界，所以從我們結束質詢之後，馬上就有國安局的同仁來跟我們報告最新的狀況，這點首先我必須要非常的讚可，並且謝謝國安局的同仁。"],["蔡局長明彥：謝謝。"],["陳委員冠廷：第二點，國安的安全許可這個東西我們已經講了很久了，我一直不斷地重複這件事情，因為國安的許可是必須要伴隨著權力、責任、義務跟限制，也就是說我知道很多事情不代表我很厲害，而是說我怎麼樣利用這些情報，而作為國會議員，我們是憲法的國會議員，我們憲法下的話，當然我們有一定的接密層級，包含總統、副總統跟這些國會議員都應該有，也必須有，但是我們上次提到的是什麼？提到國會幕僚，局長你上次提到說，包含歐洲有時候百分之百都是機密預算。"],["蔡局長明彥：對，預算的部分。"],["陳委員冠廷：這是沒有錯的，我沒有說這是錯的，但是我們回到我們上次講的同樣一個問題，那是誰在核可、在審查？他們是把百分之百的機密預算提出去，就百分之百這樣子來核可，那預算都不用監督嗎？答案是需要監督的，所以在國會他們會有國會的幕僚長，幕僚長必須……他們的老闆是國會議員，上次我們只是外交部的參訪團，國會議員助理參訪團，這些幕僚長都必須要接到有些時候是機密或者是最高機密的核可才能夠進去審查，有這個機制。","我必須再強調，從現在開始，我們必須要有一個局處來負責全部的安全核可，就像我們立法院沒有這樣子相關的局處來去做安全核可跟背景核可，那在美國的話，95%是由他們的DCSA，就是國防部的反情報安全局來去做背景核可，那現在到底是由國防部做主要的查核，還是由國安局做這個查核，還是由調查局做這個查核？我只問這個問題，先請局長回應之後就請副局長回答，你認為哪一個人可以開始扮演這樣子的角色？"],["蔡局長明彥：因為一般來講，國安局大概只負責我們局裡面相關的查核，所以像委員所提到的，可能就我的理解，應該各單位還是要有自己的一個查核機制。再來是立法院這邊到底對於這個規範的依據是什麼……"],["陳委員冠廷：我們可以慢慢……我會希望之後再跟局長一起來思考一下這個立法的一個作法。"],["蔡局長明彥：是。"],["陳委員冠廷：那我最後再補充一點，美國大概主要就是我剛剛講的，國防部去負責95%的背景核可，因為其他包含國科會他們怎麼會有自己做背景查核的局處？沒有辦法嘛！所以95%是由一個局處來做統整，那其他法定聯邦的21個其他的局處，包含FBI等等，可能會有自己的查核方式，因為他們本身就是情治單位，所以這個部分我們來思考，我們先請副局長來。"],["蔡局長明彥：謝謝陳委員。"],["主席（林委員憶君）：時間先暫停一下，趁蔡局長離開會場的空檔，我作一個宣告：待會兒馬文君委員質詢完畢後，休息5分鐘。謝謝，請繼續。"],["張副局長元斌：謝謝主席，委員好。"],["陳委員冠廷：副局長，對於我們剛才提到的這一個部分，就你所知，國安局內部也好，或者是其他情治單位也好，他們做背景核可的主要核可東西是什麼？他的犯罪紀錄還是什麼？"],["張副局長元斌：跟委員報告，就本局來講，其實我們有同仁進來以後，我們會做安全查核，如果是接密等級的話，其實我們都按接密等級的規定來進行身分的核可。"],["陳委員冠廷：所以副局長，你剛剛還是沒有回答到我的問題，我說你們是以什麼樣做背景審查，是以他過去有沒有犯罪紀錄、是以他過去的心理狀況、犯罪行為、機密資訊處理的能力，還是用什麼樣的方式？"],["張副局長元斌：委員，是這樣，我們基本上會接不同的機密，譬如密等、機密等，我們會有不同的查核。"],["陳委員冠廷：不是，我懂你的意思，但是我現在問的問題是說安全核可的背景查核，你們查詢他的背景資訊，裡面的背景是針對哪幾個種類來去做查核？"],["張副局長元斌：這個部分我是不是請我們業管的主管來說明？"],["陳委員冠廷：沒問題。"],["陳處長：跟委員報告，有關我們查核的部分，基本上我們大概有一個SOP，包括他的素行也好，素行可能就包括家人這一部分；另外一個就是說，我們裡面也會做一個適性，而適性我們有特定的單位，特定單位會針對他的一個……我們基本上會做一個訪談。"],["陳委員冠廷：不好意思，怎麼稱呼？您的職銜是？"],["陳處長：報告委員，我是國內處處長。"],["陳委員冠廷：謝謝處長，適性跟背景查核在我們的友邦包含美國，它是兩個不同的，你適不適任這個職位，跟你的背景機密查核是不同的。"],["陳處長：沒錯。"],["陳委員冠廷：那你剛才把它混為一談，沒有關係，我為什麼要講這件事情？不是要刁難大家，而是希望說澈澈底底的全面檢討，從國安局開始，甚至由國安局來，未來可能要做其他跨局處的這種背景審核，因為這個東西已經不斷地被各個智庫一直在強調說我國的洩密、接密的這種混亂的機制，這是確實存在的，所以我們現在要把它建立起來。我剛才提到這個的原因是說，你們現在講了半天，最多就是講有沒有犯罪、素行，你怎麼認定一個人素行？就是犯罪紀錄嘛！包含我進國安會的時候，我的背景核可基本上就是把我的身家資料填完之後，我的學歷、經歷、背景等等之後，就看我有沒有犯罪紀錄，沒有犯罪紀錄，我基本上就被核可了，但不是嘛！有沒有犯罪紀錄是最基本的一個要求，不是完全的要求，有沒有針對他的機密資訊活動、外部行為跟有沒有受到外國影響、有沒有受到外國偏好、財務考量，這些是必須因應他的密等來去做最基本的考核，至少我過去的經驗告訴我說，這些都沒有放在考核裡面，包含他的心理狀況，包含他有沒有藥物和物質的濫用，這些其實就是……","我現在講的不是國防部的這些武官，包含文職人員，文職人員其實不是機密的掌握而已，包含政策、戰略方向的掌握，像我現在是國會議員，過去我是文職人員的話，我們是參與政策擬定的幕僚，所以我們隨時隨地都有可能被影響，如果說我們的評判指南裡面沒有包含我剛才講的這些，有沒有受到外國的影響、有沒有外國的偏好、他的出境紀錄是以哪一個國家為準，每一個風險都必須納入指南的評估裡面才行。我現在講的這個是包含我們國會幕僚，包含我們未來所有的……美國是聯邦機構，包含我們所有部會的機構，每一個安全人員現在開始都必須要有安全核可最基本的建制要出來，而且這個安全核可的建制必須能夠跨部會，也就是說，包含美國聯邦，他們是用SF 86的一個通用表格，把他們所有因應的接密層級跟他們所需要填寫的這些資料，它是有通用性的，我們現在沒有通用性，所以才會出現這些狀況。我們來顯示一下最近幾次洩密的狀況，包含承包商也好，包含海軍、包含國防部內部的人員也好，包含法務部、廉政署派駐國防部的人員也好，你的接密層級是什麼？我問國防部部長，問來問去，大家都沒有……這個應該由廉政署來回應，如果你根本就沒有統一去做安全合格層級的制定的話，你從什麼時候開始講都太晚，我真的希望由處長或者是副局長跟局長來討論一下，到底是誰要建立一個最基本的架構？我剛才提到的是國防部，當然也可以是國安局，至少美國是有經過一連串的變化，它過去是從國家背景調查局，也就是歐巴馬總統時代成立的一個新局處，然後再合併到國防部的反情報安全局。也就是說，做法擺在那邊，可以學習，也可以去建立一個比較符合臺灣現狀的機制，但是不能不做，我相信你們也很清楚從國防部到國安局到各個情治單位，一定有被很多的盟邦友人講說這就是問題，這就是問題所在，為什麼沒有辦法獲得最新設備的其中一個原因，就是我們沒有辦法確保我們的機密不會被流失嘛！","我再提到國會議員的部分，從我們進立法院宣誓的那一刻起，基本上就是憲法所授予的職權，本來我們就可以接觸到這些密等，但是我為什麼說要把國會幕僚人員也納入密等安全的審核？就是說在國會辦公室裡面，有沒有可能我得到這些資訊之後，由這些沒有經過安全核可的職員洩漏出去？等於說沒有義務、沒有監管的機制跟限制在的話，國會也可以是一個破口。但國會不可以是破口，因為國會本來就有憲法賦予的義務要來監督你們，所以包含國會議員以外的這些幕僚人員，必須要有一個機制去做審核，當這些人經過審核之後，我們就不可以懷疑這些人是破口，因為他們已經經過安全審核了。","我們不是要把所有的東西都化成機密或最高機密，我們說你無所不防、無所不備，就等於是你什麼都沒有辦法好好的防護，我一直在強調這一個概念，我今天為什麼要花十幾分鐘在強調這個概念？就是說當你沒有任何最基本機密的安全核可的話，其實安全核可只是第一步，你有這個安全核可不代表你有資格接觸這些資訊，你必須在你需要知道的時候才知道，比方說我需不需要知道某些機密預算的配置？我需要知道。但我需要知道機密裡面的細節嗎？比方說，我們的空軍飛機上面的塗料是哪一個品牌、用什麼樣的化學質地，我不需要知道，你必須把need to know跟你的安全核可搭配，才是所謂的揭密層級，我們現在只是過過場、做個樣子，過去是這樣，現在也是這樣，從今天開始我們就可以全面革新，但是國安局可能要扮演這樣的角色，我再次強調，我問其他部門的時候，他說其他部門應該要由他們內部自己的人士來做審查，沒有辦法做審查。我舉例國科會要怎麼給人家做背景審查？當然是由權責機關把這樣的資料函請國安局或相關國安單位，可以是調查局，也可以是國安局，這個我們要一起思考清楚，然後去做背景的安全核可，因為未來不是只有國防部才會接密，也不是只有外交部才會接密，國科會會不會接密？國科會也會啊！過去的科技部會不會接密？數位部會不會接密？他們接觸到的密等是越來越高，但是我們用過去的方式來對待他們的話，對於被懷疑的人而言是不公平的，如果沒有這樣子的機制的話，這個狀況還是會一再的出現，所以從海軍開始到承包商到其他部分全都一樣，現在就還是很凌亂，承包商有需要安全核可嗎？其實很多國家都需要，但你覺得現在有沒有很多人大剌剌的開著工程車進入營區的？當然都要檢查一下身分證什麼的，但其實你不知道核可的層級到哪裡。比方說，在美國國會他們有外交及國防相關的安全室，這個安全室裡面可以阻斷所有竊聽的儀器，我們的國會有嗎？沒有啊！這也需要情治單位來協助建置，不然我們所有的機密報告，其實大家摸著良心，有機密嗎？有機敏性嗎？我們也知道大概都沒有啦！你要給人家劃機密或最高機密，是因應假設這些資訊流出來，對這個局處或對這個國家的危害去判定的，而不是說我覺得這個機密就這個機密，我今天不想回答某位國會議員的質詢，所以我就說這個東西很機敏，其實不是這樣子的，而是我們要有一定的作法。我昨天也在講，上個禮拜我們也在跟局長討論，就是說要建立這個機制的話，什麼時候是最好的時機？答案是十年前，但如果你十年前沒辦法做的話，那最好的方式就是現在做，謝謝。"],["陳處長：報告委員，我簡要做一個說明，有關機密核等的部分，事實上就國安局內部來講，除了我剛剛講的部分，包括剛剛委員所提到的，包括有關跟外國接觸的部分，包括心理、包括藥物使用的部分……"],["陳委員冠廷：我知道國安局都有，所以我剛剛講的是什麼？我指的是文職人員，包含國安會，我們講到的是包含各個不同部門的接密層級，過去包含外交部、內政部、數位部，其實都沒有在做背景審查，因為他們沒有編列相關預算，沒有這個部門去做嘛！美國國務院下面有外交安全局在做身分的核可，因為外交部不是你的業管範圍，所以我們就不說了，但是我們的各個部門有嗎？數位部有嗎？國科會可能有也可能沒有，這個我們要去查，但現在科技是我們的核心，我甚至要講財政部是不是也是一個很重要的部門？這些我們都一起來思考好不好？"],["陳處長：謝謝委員，這個我們共同來研究，謝謝。"],["陳委員冠廷：副局長，這個可能要跟局長討論一下好不好？就是你們有開跨部會會議的時候，做一個表率跟大家一起來，不然一直都沒有相關機制，我是覺得很可惜啦！已經有點晚了，已經被人家講到這樣子，每次都說我們國家的機密保守狀況不好，你看才幾個月？從我上任到現在九個月，已經多少事了？你看像陸戰66旅工程竟然用逃逸移工，這個甚至沒有安全核可，甚至連身分證都沒有拿出來，你懂我意思嗎？這個不太對啦，好不好？"],["陳處長：謝謝委員。"],["主席：謝謝陳冠廷委員，副局長請回。","接下來請馬文君委員上臺質詢。"],["段落：質詢：馬委員文君：10:57"],["馬委員文君：（10時57分）謝謝主席，麻煩請國安局、數發部、警政署。"],["張副局長元斌：委員早。"],["馬委員文君：早。副局長，我們今天討論的是AI技術在資安還有深偽影片及錯假訊息之影響評估及因應，其實最近不管是國內外的政治也好，或者很多的樣態，這個部分被運用得越來越多，然後可能也越來越真假難辨。上個月24號美國白宮針對人工智慧發表首份國安備忘錄，要求五角大廈及情報體系要強化運用AI技術，確保在相關領域可以維持跟對手之間的優勢，所謂對手大概很大的一部分指的是中國大陸，因為他們在這一部分可能也進展非常快速，不論是AI也好，量子技術也好。不過美國同時也明確禁止政府機構使用該技術來進行不符民主價值的行為，也就是政府部門不得使用AI技術對美國人民的自由言論進行監控，相對的，其實任何國家要訂定相關規範的時候，人民的言論自由可能都是應該要保障的，對不對？我們的政府跟國安部門有沒有類似美國白宮發表的國安備忘錄，規範政府使用AI技術的框架，目前有沒有？"],["張副局長元斌：跟委員報告，因為AI的進步太快，所以它延伸了便利，同時也會帶來很多的威脅，除了剛剛委員所提到的美國以外，歐盟也在近年提出人工智慧法案來框定怎麼樣在使用AI的同時，也能兼顧到它不要誤用……"],["馬委員文君：我們有沒有？我要知道的是我們有沒有。"],["張副局長元斌：我們國家目前是由國科會在草擬一個人工智慧的基本法，這個部分我們政府機關已經討論了很多次，年底前應該會交付行政院來做討論，本局也有參與這個人工智慧基本法的討論，也提供了相關的意見。這個目的是要兼顧鼓勵創新還有人民的權益。委員剛剛考量的，在人工智慧基本法法案裡面就有明確的要求，就是要兼顧到人民既有的人權跟機敏資訊的維護，還有不能夠濫用它，這個是在基本法就已經有匡定的。"],["馬委員文君：對，基本法，我想那個本來就是基本的，像美國、歐盟，在運用這個部分或者在訂定規範，當然不可以影響到人民，可是我現在要詢問的是，剛剛副局長有提到，有可能在年底之前就送出來嗎？"],["張副局長元斌：我們看進度大概是年底，年底會在……"],["馬委員文君：年底之前可以嗎？這是國科會做的嗎？"],["張副局長元斌：對，國科會。"],["馬委員文君：什麼時候可以？現在的進度簡單說明就好，進度就好。"],["蔡處長妙慈：報告委員，進度的部分，我們已經送到行政院了，所以行政院這邊會再做跨部會整體的討論跟審查。"],["馬委員文君：目前行政院跟所屬機關使用生成式AI參考指引的這個部分，對不對？"],["蔡處長妙慈：不是，是AI基本法。"],["馬委員文君：基本法？"],["蔡處長妙慈：對。"],["馬委員文君：它的內容是只有針對政府部門，還是包含比如工商業界還有科技界？所有的、廣泛的都有嗎？是不是對所有的對象？"],["蔡處長妙慈：報告委員，它等於是要highlight國家推動AI的這個整體政策方針，主要是先規範政府的一些相關施政。"],["馬委員文君：對，因為你現在只有對政府，可是現在它日新月異，然後在它技術不斷進步的當下，我們到年底才可以出來。可是到年底時，你推出的還只是政府的部分，我們剛剛提到的，包括像工商界、科技界，很多運用在人民的身上，因為現在大家看到，而且最在乎的，除了剛剛的這些以外，像你們的報告都集中在對應像境外組織還有科技的運用，可是資安的錯假訊息，人民感受最強烈的就是詐騙案。目前為止，包括像美國股神巴菲特5月份在股東會對人工智慧也發出警語，他也說這個騙局會比以往都更有說服力去進行所謂的欺詐。社群媒體所開發的很多很多像這樣的AI工具，其實也都被廣泛地運用，這些部分，像深偽技術、合成的照片等等，都成為各國詐騙集團善用的工具。我想要知道，我們對於這個部分有什麼樣的作法？我先請教一下警政署，我們目前對於詐騙防制的效果，您覺得好嗎？"],["林副局長信雄：跟委員報告，目前我們在相關社群媒體，有關可能涉及詐騙的這些……"],["馬委員文君：效果好不好？"],["林副局長信雄：我們今年度已經通報相關的公司下架了十一萬多則可能涉及詐騙的廣告，所以這部分我們在跟相關公司的聯繫上效果算是不錯的。當然，還有一些還要再努力、進步的地方，因為確實相關的廣告……"],["馬委員文君：你們效果不錯？你們說效果不錯，可是我們從2019年兩萬三千多件，到2023年已經暴增到超過3萬5,000件，像今年，其實它的成長速度更快，遭詐的損失，甚至在去年就達88.7億，這個還是有報案的數據，有很多如果比較小額的，或者大家沒有報案的，其實多不勝數，所以如果像這樣一直增加的情況之下，你們還認為你們效果不錯，那不錯在哪裡？它為什麼還是會一直增加？然後它的問題會出現在哪裡？我們今天可能沒有辦法得到確切的答案。在警政署上面，其實我覺得可能也有很多窒礙難行的地方，對於基層的員警，現在常常必須要舉著牌子到所有辦理活動的地方去宣導反詐騙，你覺得像這樣子的效果會是好的嗎？這個部分請警政署再去考量比較有效的方式，因為我剛剛提到，我們在地方上看到大家都很辛苦，只要大大小小的活動，或者專門為了反詐騙的，你就舉個牌子，這樣會是有效的嗎？","我們再請國安局副局長好了。我請教副局長，當時在防疫的時候，我們臺灣號稱防疫做得非常不錯，原因是什麼？就副局長您的分析，防疫為什麼做得不錯？"],["張副局長元斌：就我們防疫來講，我覺得政府在邊境的控管，還有相關的通報機制跟應處機制方面，有做很多的努力。"],["馬委員文君：所以當那個會影響到民眾，而且是看不見的那種病毒細菌，其實我們用很多的方式，讓我們的防疫作為是有效的，就是在整個防疫措施上面，其實是有效的，有很重要的一點是，其實我們每天每個時候都不斷不斷地在提醒民眾，我們防疫應該怎麼做，你的口罩應該怎麼戴，你應該要做什麼樣的預防措施或怎麼防範，其實做得非常的多，其中有很多其實也是透過媒體或者各方面下去做傳播。像我剛剛講的，我們所有的警察同仁都是……我們才多少人？本來一個所才4個人，自己的工作已經都做不了了，像車禍或其他案件發生的時候，往往都是自己一個人就出去了，還要再配合這個舉牌，這個都是非常非常辛苦，對於效果來說，其實是有問題的，這個部分國安單位其實應該要去提醒。","我想要請教數發部，我們編了那麼多錢，像我剛剛提到的，數發部因為在很多的民眾心裡或者包括像檢察官，他們認為我們是三大戰犯之一，就是我們對於臺灣的詐騙案沒有辦法有效的防制，或者做更有效的宣傳，或者在我們的技術上面，沒有辦法去做一些相關的預防或制止。數發部，像這樣子，你要怎麼樣做更多的宣傳？像我剛剛講的防疫，因為你讓每個人都知道他應該要怎麼做，然後什麼不能做，如果你要把很多的錢拿去出國，還不如用很多在宣傳上面，這部分數發部的看法怎麼樣？"],["林次長宜敬：非常感謝委員。基本上，我認為臺灣之前在防疫之所以做得特別好，就是因為臺灣的政府跟民間一起合作面對這個狀況，所謂的政府包含行政部門，也包含立法部門，在行政部門當然也要分工，然後在打詐議題這件事情上面的話……"],["馬委員文君：沒關係，不用、不用，那個我們知道，你告訴我們怎麼做就好，數發部可以怎麼做。"],["林次長宜敬：好，我跟委員報告一下，基本上現在的詐騙，也是一個產業鏈，它的作法是這樣子，就是詐騙集團會先在Facebook或者是Google這種公開的社群平臺上，它會放一個廣告，把民眾騙到LINE的私人空間裡面……"],["馬委員文君：對，我知道，你告訴我……"],["林次長宜敬：然後數發部負責的事情就是在前端，我們儘量避免讓民眾被騙到這個LINE的小房間裡面去進行詐騙的工作。至於後面的詐騙發生以後，就是警政署還有金管會要做的事情，所以我們整個政府應該是一個團隊，我們一起合作來面對這個事情，我們也希望立法院這邊給我們多一些……"],["馬委員文君：你簡單的告訴我們，因為你不管是前段、後段，現在不管哪一段，反正都是破口啦！所以現在就是越來越嚴重嘛，我們要知道的是政府的具體作為，我剛剛已經建議，如果數發部有這麼高額的預算，你們是不是應該隨時、24小時都要提醒？你不管從哪一個管道，從社群網站也好，或者從媒體也好，或者從其他可能發生的管道也好，儘量讓人民知道現在有什麼樣的詐騙手法，因為至少你每天提醒，人家就會有所警惕。但你今天不是啊！你等到後面，你要去抓、去預防什麼的，其實大概目前為止，你們是做不到的，而且做得不好，所以民眾才會有感，而且也會對政府不信任，所以就這個部分數發部可以做到什麼？簡單說就好了，像你們在宣傳上面可以配合做到什麼？"],["林次長宜敬：我們可以做到的事情，一個當然就像委員所講的加強宣導。另外，我們就是利用網路的機制，接受民眾的報案，民眾報案以後，我們就趕快地去分案。"],["馬委員文君：報案以後通常都來不及了啦！我們現在……"],["林次長宜敬：不是，我講的是前面廣告的部分，這就是我前面講的分工部分，我們負責的是前端，這個地方只是偽冒，所謂的impersonation，就是仿冒名人的這個部分，如果有人仿冒謝金河的話，我們就馬上去通知謝金河，請他做確認，確認以後我們就會把這個資料馬上傳送給LINE或者是Facebook……"],["馬委員文君：你沒有聽清楚我講的話，如果你認為他會偽冒謝金河，你認為他會偽冒很多很多這些可能相關金融代表性的人物，或者像一些代表性的，今天大家很多都講到高嘉瑜委員，如果你已經知道他們會假冒這些人，你應該不斷、不斷地提醒，不是當你發生的時候才去告訴謝金河，那已經被騙一堆啦！你應該要站在更前面，數發部不要編了錢，但你做的事情都是在後端的，反而跟其他的單位沒有什麼不同。","今天因為時間的關係，就這個部分，我覺得人民對於詐騙案才是有感的，我們甚至對於我們自己所有的國人被騙到國外，我們無能為力，我再次強調，我們無能為力，像這樣被騙到緬甸或其他地方，這也都是詐騙，不斷、不斷地一直在發生，而且手段越來越殘忍，然後他要的金額也很多，他被騙去以後大概就是會被要求一些贖金，有沒有讓他回來我們不曉得，這個部分請國安單位還有警政署也持續掌握，好不好？","因為今天可能也沒有一個具體的結論跟說法，就這個部分，數發部或者警政署可以有什麼樣積極的作為，請再提供給我們一個更詳細、具體的書面資料，請國安局一定要掌握這個部分，比起其他的，這個可能危害我們國家或者人民的信心更重。"],["張副局長元斌：是，謝謝委員。"],["主席：謝謝馬文君委員，先休息5分鐘。","休息（11時11分）","繼續開會（11時17分）"],["主席：繼續開會。","接下來請王鴻薇委員上臺質詢。"],["段落：質詢：王委員鴻薇：11:18"],["王委員鴻薇：（11時18分）謝謝主席，我請國安局張副局長還有數發部次長、調查局副局長。"],["張副局長元斌：委員好。"],["王委員鴻薇：大家好，辛苦了。先來看一個影片。","（播放影片）"],["王委員鴻薇：這個影片非常清楚的，這影片其實也是利用AI來製作，主要就是來做詐騙，今天是我們很關心的，也就是AI影片對國安的一些威脅，事實上人民現在最有感的就是來自於這些的詐騙，他們把這些真的財經名人，也許他只是一個說明，然後變成是詐騙的工具。","我們也可以看到，我們一直在打詐、打詐，雖然打詐四法上路，但光是投資詐騙，我們每一個月，10月跟9月都超過4,000件，每個月都在增加。另外，光是臺北市，投資詐騙就被騙走15億，一個月！臺北市一個月投資詐騙就有十五億之多，所以像這樣AI的假影片，也許我們今天可能討論的是包含像高嘉瑜委員或者是于北辰議員，那些對他們當事人來講，當然會覺得很困擾，也很生氣，可是對民眾來講，就是直接造成他金錢的損失，所以我想請問哪一位長官可不可以回復我一下，像這樣AI假影片的詐騙，到底有沒有辦法防堵？我們現在有些什麼樣的策略？"],["張副局長元斌：委員好，國安局先回答，等一下如果相關的單位也可以來補充說明。針對這種AI技術的演進，它生成這種深偽的影片應該已經是趨勢了，這個沒有辦法阻擋，所以重點是……"],["王委員鴻薇：氾濫，它不是趨勢，是氾濫。"],["張副局長元斌：它已經是一個氾濫，但重點就是我們如何應處，事實上假影片也好或者是偵訊也好，我們政府之間已經有成立一個機制，包括本局是負責這種偵訊情報的掌蒐，如果涉及國安跟社安，這部分我們會立刻掌蒐之後，透由我們之前跟政府相關部門成立的一個機制去做辨偽、溯源、處理，經由相關單位來做事實的澄清，如果涉及到違法的話，那就會透由警察司法機關去請這個平臺業者能夠下架，所以機制是有的，現在是怎麼快速的應處，因為這個數量可能會越來越多。"],["王委員鴻薇：對，像現在你們說快速，你們有沒有訂一個時間，比如說你們必須在多久時間，只要有人去通報檢舉，你們必須在多少時間之內要把它解決掉？"],["張副局長元斌：跟委員報告，這個部分重點還是在我們……一方面機制有了，另外一方面，我們要有相關技術的引入，因為用AI速度太快，所以我們在報告裡面有提到我們會引用最新的技術，不斷的去引用最新的技術來防止。"],["王委員鴻薇：這技術只有國安局有嗎？光只有你們有是來不及的！"],["張副局長元斌：相關的警察機關目前也有建立這樣的能量跟機制，掌握了以後我們才有辦法去做通報跟應處。"],["王委員鴻薇：我可不可以請調查局或者是其他單位來說明一下，在打詐的部分你們可以怎麼樣來做？"],["吳副局長富梅：委員好。跟委員報告，調查局的部分是受理案件的部分，當案件成立立案之後，我們局裡面會先發動做分析鑑識……"],["王委員鴻薇：我知道法務部調查局是有鑑識的，刑事局也有。"],["吳副局長富梅：對，所以我們和刑事局其實是有一個共通的使用兩種工具，基本上我們的同仁會在open source裡面先去做一些應用，然後再使用鑑識工具去判別，理論上我們最快、至少在2個小時內，就可以把這個鑑識成果先做出來，初步判定……"],["王委員鴻薇：2個小時就可以鑑識成功，對不對？"],["吳副局長富梅：就可以初步判定它是不是……"],["王委員鴻薇：真的還假的？"],["吳副局長富梅：是的。"],["王委員鴻薇：其實過去有好幾個政治人物的影片，到現在都沒有鑑識結果，所以不要變成一個只是用政治解決。","我想問一下數發部，前2天發生一個事情，就是Meta亂槍打鳥，該下架的沒下架，不該下架的、人家正版的、正牌的下架，然後最離譜的是連我們證交所的粉專都被人家下架，請問為什麼？發生什麼事情？這太扯了吧？"],["林次長宜敬：非常感謝委員給我這個機會說明。"],["王委員鴻薇：對，趕快說明。"],["林次長宜敬：這個事情發生以後，事實上當下我們也不知道到底發生什麼事情，因為數發部在那段時間裡面……"],["王委員鴻薇：你到下午都不知道發生什麼事。"],["林次長宜敬：後來知道了，委員請先聽我說。"],["王委員鴻薇：趕快。"],["林次長宜敬：不管怎樣，我們就是馬上跟臉書聯絡，然後幫那些被下架的財經粉專們恢復上架。後來據我們的了解，是內政部警政署在通報一批疑似詐騙網站的時候，結果Facebook的海外執行單位因為在溝通上發生問題，所以他們就把那些……"],["王委員鴻薇：正版的都給人家下架！"],["林次長宜敬：這個事情……"],["王委員鴻薇：所以這個問題是內政部警政署的問題嗎？來、來、來。"],["林次長宜敬：這個事情我不清楚，必須請……"],["王委員鴻薇：主席，給我一點時間，今天內政部警政署副局長在場，請問是你們出包嗎？數發部現在把鍋丟到你這裡喔！"],["林副局長信雄：跟委員報告，並不是警政署刑事警察局這邊的問題，而是臉書內部有個篩選機制，在聯繫作業的部分，他們發生這個問題，所以……"],["王委員鴻薇：它怎麼會篩到正版的呢？"],["林副局長信雄：我們是有……"],["王委員鴻薇：照理講，這個黑名單應該是我們送上去的嘛，我們送給業者，請它要趕快下架，為什麼一些正版的，包含我們證交所，統統被下架耶！"],["林副局長信雄：跟委員報告，我們有查證過，這些被下架的並不是我們傳送的這些黑名單，裡面任何一個都不是，而是在提供真實的部分，我們有提供一個白名單給他們，可是他們內部在篩選機制的時候……"],["王委員鴻薇：所以是把白名單給刪掉了，他們把白名單給下架了。"],["林副局長信雄：他們聯繫上可能發生了一些問題。"],["王委員鴻薇：所以是Meta的問題？"],["林副局長信雄：是。"],["王委員鴻薇：是他們的海外問題，還是？"],["林副局長信雄：是他們海外那邊的問題，在我們立刻跟他們反映之後，他們當天晚上就把這些屬於真實的網站都做了恢復。"],["王委員鴻薇：好，因為我不想占用下面委員時間，拜託請數發部及警政署可不可以有一個機制，我們現在是該下架的沒有下架，都活得好好的，然後這些正版的，包含我們官方的，證交所算官方的，這些網站都被下架，這真的是很奇怪的一件事情，可不可以請你們把這個機制弄得更清楚一些？可不可以保證不再發生這樣的狀況？"],["林副局長信雄：是，這個部分我們會把它做得更好，當然，我們內部、國內一定不會發生這個問題，跟委員報告。"],["王委員鴻薇：臉書大家都在看嘛，現在不是國內、國外的事情，因為這個事情事實上大家討論了很多，而且也怕大家對我們的打詐變成沒有信心，好不好？"],["林副局長信雄：是。"],["王委員鴻薇：好，謝謝。"],["主席：謝謝王鴻薇委員。","接下來請賴士葆委員上臺質詢。"],["段落：質詢：賴委員士葆：11:27"],["賴委員士葆：（11時27分）謝謝主席及各位先進，有請國安局張副局長、數發部林次長、法務部調查局吳副局長、警政署林副局長，幾位長官一起。"],["張副局長元斌：委員好。"],["賴委員士葆：請你們看一下螢幕的簡報資料，我看了一些資料，不知道國安局或調查局的長官可不可以回答，要怎麼樣因應頻繁的AI資安攻擊？過去半年內，臺灣每個禮拜遭受2,930次的網路攻擊，是全球平均被攻擊的2.7倍，我們是AI之島，結果變成是被攻擊之島，國安局長官要不要先講一下，我們的KPI是什麼？這個怎麼因應？"],["張副局長元斌：謝謝委員，這個問題確實是非常重要跟嚴峻，尤其AI，生成式AI出來以後，很容易製造出一些仿真的釣魚郵件，還有它很容易去歸納及分析系統防禦的漏洞，這個攻擊的態樣會越來越多，然後速度也越來越快，所以這個部分……"],["賴委員士葆：為什麼大家對臺灣這麼有興趣？為什麼呢？為什麼這個樣子，你們分析過沒有？"],["張副局長元斌：我想這個應該是一個普遍的現象，臺灣……"],["賴委員士葆：普遍喔？全世界喜歡攻擊臺灣？"],["張副局長元斌：臺灣，因為我們目前……"],["賴委員士葆：我們很偉大，所以被攻擊，是嗎？"],["張副局長元斌：跟委員報告，我想這個是一個趨勢，所以剛剛提的如何因應……"],["賴委員士葆：趨勢？你怎麼會講趨勢呢？好像我們活該被攻擊，怎麼會這樣子講呢？全世界來攻擊臺灣是趨勢，你說的對還是不對？"],["張副局長元斌：我講的是AI生成的攻擊會是一個趨勢，那如何防範，其實有幾個部分，第一個就是……"],["賴委員士葆：因為我的時間有限，你不要給我講教科書的喔！來啦，你怎麼做？你們國安局有沒有針對這個事情立一個專案討論，還是立一個什麼因應小組或什麼來專門針對這個？"],["張副局長元斌：跟委員報告，有，我們局裡在幾年前就成立AI小組，密注AI的技術，我們不只用坊間的……"],["賴委員士葆：怎麼會成立幾年了，我們被攻擊的件數越來越多，怎麼會這個樣子呢？"],["張副局長元斌：被攻擊……"],["賴委員士葆：怎麼會一塌糊塗呢？你們那個沒有效啊！你再怎麼做也沒有用！"],["張副局長元斌：攻擊是……"],["賴委員士葆：沒辦法攔阻、攔截嗎？"],["張副局長元斌：報告委員，攻擊發起我們不可控，可是我們可以有效的防禦，這是我們可以做的，所以……"],["賴委員士葆：越防越多啊！來、來、來，我請教數發部林次長，這個現象怎麼樣避免？怎麼會這個樣子呢？我們這麼慘啊！"],["林次長宜敬：先跟委員報告，我們臺灣受到很多的資安攻擊，這的確是事實，因為我們都知道……"],["賴委員士葆：怎麼樣防止？"],["林次長宜敬：美中現在已經進入第二次冷戰的態勢，然後在geopolitics上面，我們臺灣是在所謂的最前線，所以會有一些境外不友善國家的那些，平常有時候我覺得他們都在練兵啦！"],["賴委員士葆：那些國家是哪些國家在攻擊我們？最有興趣的是哪幾個國家？"],["林次長宜敬：當然就是中國大陸……"],["賴委員士葆：還有呢？"],["林次長宜敬：北韓。"],["賴委員士葆：北韓，還有呢？"],["林次長宜敬：還有俄羅斯，其實俄羅斯非常多。"],["賴委員士葆：俄羅斯非常多？"],["林次長宜敬：對。"],["賴委員士葆：俄羅斯會不會因為我們過去罵俄羅斯，所以更多？會不會？有可能？"],["林次長宜敬：有可能會是，但是他們通常做這個攻擊就是為了彰顯一些政治的訴求，所以對於他們的政治訴求，我們也不想要讓他們炒熱新聞，我們就做好我們的防禦。"],["賴委員士葆：所以不要理他？"],["林次長宜敬：也不是不要理他，我們要做事前……"],["賴委員士葆：越攻擊越多啊！"],["林次長宜敬：我們做事前、事中以及事後的防禦，事前……"],["賴委員士葆：好啦，我時間有限，我跳第二題。"],["林次長宜敬：謝謝。"],["賴委員士葆：來，我們看一下，國安局有精進網安防禦，影片這個是機器狗，請問國安局有沒有針對機器狗做一些準備？"],["張副局長元斌：報告委員，我們沒有這個機器狗，不過我們會關注AI在運用上……"],["賴委員士葆：欸，你知道機器狗現在已經加入川普的海湖莊園的巡邏耶，已經加入了！"],["張副局長元斌：我們會密注，事實上我們一直有在密注AI運用在軍事或其他國安威脅的用途，這個情訊我們一直在掌蒐。"],["賴委員士葆：不、不、不，我問你，你不要岔題啊，國安局有沒有針對現在已經加入攻擊的機器狗做一些防禦的措施，有沒有？機器狗這部分，假如老共，這是老共的啊！老共如果弄機器狗來攻擊臺灣，我們有沒有一些因應呢？"],["張副局長元斌：是，針對無人載具，我們的情資掌握到的就是，中國大陸那邊針對無人載具，不僅機器狗，無人機、無人潛航器、無人艇，發展都非常的快速，結合他們AI的投資和投入，我們相信這是未來我們持續要掌蒐、關注的議題，這個議題我們掌蒐到以後，我們會提供給相關單位來做參處。"],["賴委員士葆：我們有沒有一套因應的整體作法，有沒有？還是還沒有？還在develop？"],["張副局長元斌：有關這個部分，如果涉及軍事的話，國防部他們會去做一些評估跟應處，對本局來講，會掌蒐這種趨勢跟威脅來提供相關單位做應處。"],["賴委員士葆：這個什麼時候可以出來？"],["張副局長元斌：這個我們一直持續在掌蒐。"],["賴委員士葆：一直持續在做？"],["張副局長元斌：是，因為它也是一直在演進。"],["賴委員士葆：這個新的載具，這個機器狗現在越來越popular，你們要針對這個做一些準備，你可以看到，我剛說過了，川普的莊園都已經有機器狗在幫忙巡邏了，你可以去看喔。","好，最後一個，各單位聽好喔，刑事警察局採購了深偽影像檢測平臺花費一千多萬，法務部調查局花了870萬，高雄市刑事警察大隊花了44萬，數位部前瞻計畫研發多媒體鑑識平臺花費1,300萬，林林總總，在選舉期間警政署、調查局還成立了AI生成或深度偽造假訊息處理中心。我時間有限，我就請教國安局或者是數發部，你們有沒有一個整合單位？就是對於AI深偽這部分專門成立一個小組來整合一下，你看各單位都在花錢，有沒有這個東西？"],["張副局長元斌：跟委員報告，事實上，深偽是偵訊的一個延伸，是手段的不同。也就是說，假訊息的呈現方式有文字、有語音，現在有影像，加了AI技術以後越做越仿真。事實上，本局跟相關政府機關和警政署、司法警察、調查局，我們已經成立一個這種假訊息防制的機制平臺，所以針對AI這樣的新的現象，我們也在這個平臺會有討論，剛剛看到的這幾個部分，有些是我們共同討論出來的，因為AI的發展太快速，我們必須要有這些高新的AI技術設備，才有辦法去因應這樣一個虛假訊息的應處。"],["賴委員士葆：就是說，你們現在已經有一個整合的……"],["張副局長元斌：有。"],["賴委員士葆：是你們整合的嗎？國安局整合還是數發部？"],["張副局長元斌：我們是掌蒐，是情報體系去掌蒐這個訊息，另外的應處是由政府體系，那我們這個……"],["賴委員士葆：數發部有沒有接受你的指揮，有沒有？這個部分。"],["張副局長元斌：數發部是應處的一環，我們是掌蒐的一環，但這兩個是密切協作。"],["賴委員士葆：好，最後一個問題是大家很關心的，就是蔡英文前總統被深偽之後，一天就找到IP了，其他人都找不到啊，幾個月都找不到啊，包括鄭文燦的找不到，包括其他的立委們，弄了老半天也找不到，外界質疑你們在追這個事情的時候還大小眼耶！還看背後是誰受害，蔡總統的亮度很夠，馬上一天就找到，代表你們很有能力啊！其他人卻搞一個月都找不到，這個部分副局長要不要解釋一下？"],["張副局長元斌：報告委員，我們在處理訊息的過程有一套機制，有一套程序，影響到國家安全或社會安寧，這種影響擴大、快速的話，我們會優先來處理……"],["賴委員士葆：所以總統優先，其他不優先？"],["張副局長元斌：報告委員，不是這樣，就是說我們看到這樣的議題跟現象……"],["賴委員士葆：外界高度質疑啊，就是看人在辦案啦！"],["張副局長元斌：不是因為身分啦，是看它影響國安跟社安的程度，還有發生的現象。"],["賴委員士葆：是啊，總統影響國安大，立委沒有涉國安所以就不要緊，就慢慢來，現任立委就有被偽造啊！"],["張副局長元斌：報告委員，我們那個是有分級啦，是分一般民眾還是影響國安層級。"],["賴委員士葆：是啊，沒有錯啊，所以總統比較短啦，時間快速啊，立委就慢慢來，立委不重要，就這樣，大小眼，就這樣！"],["張副局長元斌：不是這樣啦，因為很多涉及到個人……"],["賴委員士葆：你剛剛的解釋就是這樣啊！"],["張副局長元斌：涉及到個人的話，我們尊重他個人，這是告訴乃論，他去檢舉或揭發……"],["賴委員士葆：人家都告了、都檢舉啦，你們就這樣子。"],["張副局長元斌：對，這個我們會尊重，而且尊重後續司法的承辦。"],["賴委員士葆：好吧，我們希望不要大小眼啦，好不好？"],["張副局長元斌：沒有，絕對沒有。"],["賴委員士葆：謝謝。"],["張副局長元斌：謝謝委員。"],["主席：謝謝賴士葆委員，副局長和次長請回。","接下來請洪孟楷委員上臺質詢。"],["段落：質詢：洪委員孟楷：11:38"],["洪委員孟楷：（11時38分）主席，謝謝。麻煩請國安局副局長、數發部次長以及內政部警政署刑事局副局長。"],["張副局長元斌：委員好。"],["林次長宜敬：委員好。"],["洪委員孟楷：來，我先請教一下數發部次長跟警政署，剛剛有委員提到上個禮拜臉書粉專被無預警下架的問題，我先釐清，第一，數發部說這不是數發部的關係，警政署說我們有黑名單跟白名單，提供了白名單給臉書，結果臉書內部溝通的問題，造成把白名單下架，是不是？我先請教一下，白名單、黑名單，照理講，臉書是上市公司、商業公司，還需要我們警政署幫它確認哪一個粉專是真的、哪一個粉專是假的？你們警政署怎麼這麼貼心！"],["林副局長信雄：跟委員報告，因為假冒名人粉專的這些廣告非常多，為了便利Meta公司，我們希望他們能夠加強內部的審核，所以我們也提供白名單，如果有發現不是這些我們所提供的白名單，我們希望他們能夠主動審核下架，但目前比較多的是，我們發現可能是……"],["洪委員孟楷：我們提供多少白名單給它？"],["林副局長信雄：我們有一批的白名單，詳細數字我這邊沒有，抱歉，沒帶在身上。"],["洪委員孟楷：就從過去到現在一直蒐集的名單，是不是？"],["林副局長信雄：我們會去做確認，這段時間都有持續再去做確認屬於真實的這些名單。"],["洪委員孟楷：我們警務同仁為了打詐，還要去確認這個粉專到底是不是真的，是不是那個當事人擁有的，然後數發部在粉專下架之後，我們還要同仁加班去幫忙把那些正牌的粉絲專頁救回來，有沒有感覺到有點荒謬啊？怎樣，我們中華民國政府現在是臉書的小弟，是不是？臉書是一個上市公司，是國際公司，大家都用，沒有錯，我尊重，但重點在於當它已經變成是犯罪集團的一個媒介，結果反而變成是我們警政署要先幫它確認這個粉絲專頁是不是真的，然後真的、正牌的粉絲專頁被下架之後，找臉書要找誰？它在臺灣沒有設客服，我們數發部變成還要當它的客服，在接了這些陳情之後再跟臉書通知。我請教，到目前為止臉書有出來講話嗎？有承認錯誤嗎？也沒有欸！次長，你說數發部同仁收到陳情，連夜加班跟臉書協調處理。"],["林次長宜敬：是。"],["洪委員孟楷：臉書的客服呢？如果說它是一個商業行為、商業模式，我們數發部是主管機關，照理講，我們應該要求臉書去解決他們衍生出來的問題，結果不是啊！我們變成是客服專線24小時不打烊，同仁加班接收陳情之後，然後告訴臉書：你們出包了，趕快恢復。臉書現在咧？媒體報導的是，據了解臉書向數發部說明內部調查結果，並強調未來不會再有這樣的錯誤，會精進流程。它就跟數發部講一下，然後也沒有對外說明，好像這件事情跟它都沒關係、「無要無緊」，結果我們的警政署及數發部這兩大部會變成要扛責任，會不會覺得委屈啊？"],["林次長宜敬：會。"],["洪委員孟楷：會？怎麼辦啊？"],["林次長宜敬：委員的憤怒其實我們感同身受，因為像現在的國際媒體巨獸對各國政府來講，都是很頭痛的問題。事實上，美國也舉辦很多聽證會，但是因為這些企業實在是太大了，以臉書來講的話……"],["洪委員孟楷：大就可以是化外之地嗎？"],["林次長宜敬：不能這樣子。"],["洪委員孟楷：大就可以不受控制嗎？"],["林次長宜敬：事實上，臉書之前的問題是在於說，他們在臺灣的法遵部門只有兩個人，但是它的業務部門很大，他們兩人是互相不隸屬的，他們向上報告的話，他們的法遵部門是報告給新加坡的亞太中心，然後他們的銷售部門是report給香港的中心，兩邊再統統report到美國的總部去。所以以前我們跟它的法遵部門要求這些事情、要求那些事情的時候，我們一直跟它要求，可是他們就是說沒辦法。坦白講，我們也覺得那兩位臉書的同仁真的很可憐，一直被罵，所以後來我們的方法就是直接去找新加坡的亞太區總部，去跟他們開會、討論。事實上，美國加州總部也已經派人來跟我們說明這個事情，每當美國的不管是行政部門或者是立法部門，就是他們國會的那些友人來參訪的時候，我們也一再跟他們講這個事情，我們希望透過美國的輿論給它施加壓力。事實上也必須講句公道話，就是臉書事實上是有在持續改進，只是說這次……"],["洪委員孟楷：還要幫他講話？次長，我給你一分鐘的時間讓你好好說明，就是因為我覺得公務同仁很辛苦啊！"],["林次長宜敬：是，沒錯。"],["洪委員孟楷：這一件事情，我現在都姑且相信你們講的是對的，我現在姑且相信數發部沒有提供資料，而是內政部警政署提供資料，你們提供的是正確資料，是臉書內部搞錯，我都先相信，因為你們在國會殿堂公開講這樣的話。如果真的是這樣的話，那就代表是臉書內部的控管有問題，但到目前為止三天、四天了，臉書沒有一個正式的回應，大家捕風捉影，然後要求你們去做說明，什麼時候我們中華民國政府變成是臉書小弟？美國、其他國家，即便是這樣子，我相信都會有相關的法令，對於臉書，你過去講這些東西我也都了解，但是不能說有一家公司來臺灣賺很多錢，要求投廣告，可是它沒有負起相關的責任，那我們難道沒有任何因應作為嗎？數位發展部身為主管機關，其實數位發展部當初成立的宗旨和目的，就是當數位世界有任何亂象時，要試著去控制、試著去管理，這是你們的宗旨啊！次長，所以這件事情要怎麼因應？要怎麼改進？"],["林次長宜敬：非常感謝委員，事實上也非常感謝立法院在今年7月通過了打詐專法，在打詐專法第三十一條和第三十二條……"],["洪委員孟楷：我們能不能要求臉書？之前我質詢部長，部長說已經邀請臉書來喝過很多次咖啡，甚至我說你們app裡面的通報案件上個月有10萬5,000件，其中有九成都是跟Meta相關的詐騙，包括用Meta的Messenger、IG和臉書，都有！我想如果九成的詐騙管道都是從Meta來的話，難道不能先要求他們做源頭管理嗎？這樣才不會累壞我們所有的警務同仁啊！"],["林次長宜敬：是，非常感謝委員，現在有了打詐……"],["洪委員孟楷：是啊！如果他來喝咖啡喝不行，那就請他喝「敬酒」啊！「敬酒」喝不行，就請他喝「罰酒」啊！"],["林次長宜敬：我完全同意。"],["洪委員孟楷：賺錢我一樣開罰啊！"],["林次長宜敬：是！現在有了打詐專法，預計在11月底就要正式施行了，接下來有任何這種狀況，我們就可以直接開罰，這一點要非常感謝立法院通過這個打詐專法。"],["洪委員孟楷：而且我覺得這件事情在於臉書不能躲在幕後，還讓我們公務同仁加班。"],["林次長宜敬：是！"],["洪委員孟楷：謝謝次長和分局長。","國安局，抱歉，一件事情，因為賴士葆委員和剛剛幾個委員都問到，我只是請教，高嘉瑜前委員深偽的影片您有看到嘛！"],["張副局長元斌：有，有看到。"],["洪委員孟楷：因為上個禮拜……我想說這其實滿明目張膽的，因為第一，他也算是公眾人物、有名；第二，他用的是上政論節目的畫面，政論節目在YouTube上每天都會有，所以他到底是講真的、講假的，一目瞭然，可是居然會有人刻意去變造、用AI去做深偽的影片，那我想請教，這已經從上個禮拜……高嘉瑜前委員也報案了，目前為止有進度嗎？"],["張副局長元斌：目前應該是由警察單位受理、在做偵辦。"],["洪委員孟楷：哪個人可以說明一下？現在有沒有進度？有沒有查到凶手、出處、來源？"],["林副局長信雄：跟委員報告，高嘉瑜委員被偽造的影像是出自中國大陸的抖音，它是一個「三只狼工作室」所發布的，據我們瞭解，發布人發布過後，現在也被抖音禁權了。有關抖音的部分，因為是屬於中國大陸的網路服務平台業者，我們沒辦法去要求他們進行下架，所以，在國內的部分大概只能對TikTok Link的部分以網域封鎮來做處理。"],["洪委員孟楷：好，我想確認兩件事情，因為本席也很關心，我覺得任何人都不應該去仿冒，尤其是用這種深偽技術去擾亂社會秩序，如果不是他講的話，我覺得任何人都不應該。請教兩個部分，就你們的掌握、瞭解，這是集團犯罪，還是個人行為？"],["林副局長信雄：目前能看到的、他所發布的是個人……"],["洪委員孟楷：個人？看起來雖然他的嘴型跟聲音像，但我覺得還是有點粗糙，仔細來看可能還是會有點對不上。所以這是個人行為，並不是集團？"],["林副局長信雄：從他發布的部分，目前只能推斷它是個人來發布。"],["洪委員孟楷：這一批裡面，除了高嘉瑜被仿冒，還有沒有其他？"],["林副局長信雄：還有其他一些名嘴跟政治人物都有。跟委員報告，他在發布的影片上也註明是生成製造的。"],["洪委員孟楷：裡面有註明嗎？"],["林副局長信雄：它底下有寫是生成製造。"],["洪委員孟楷：他可能是用TikTok或抖音，可是因為它也可以被下載，所以下載完之後，如果再去做轉傳的話，你就沒有辦法掌握，是不是這樣？"],["林副局長信雄：這要看原本的影像有沒有被變製過，如果有再去做其他處理的話，這我們不敢保證。"],["洪委員孟楷：好。張副局長，最後我只講，對於這樣一個深偽技術，其實大家都要去防範，我覺得這還算是低階，雖然廣傳，可是大家可以分辨，也有很多其實是都沒有辦法分辨的，譬如說，我只是簡單舉例，因為我的時間也到了，但我必須再次提醒。阿湯哥拍的「不可能的任務」最新一集有沒有看過？"],["張副局長元斌：還沒看。"],["洪委員孟楷：片名是「致命清算」，你還沒看，其實它去年就上映了。「致命清算」講的其實就是深偽技術，而我們知道，好萊塢會把它拍出來，通常代表這個技術可能已經過時5年了，也就是出現在市面上可能已經5年了，才會被拍成電影。換言之，電影沒有拍的可能更先進，我建議國安單位人員一定要去看一下「致命清算」，並不是為了娛樂，更重要的是你們要瞭解，其中有一段是阿湯哥接受任務，突然間深偽技術AI直接把命令者跟被命令者之間的訊息砍斷，然後下達錯誤的資訊，讓阿湯哥跑錯地方。我覺得如果這個技術真的被運用，駭客的技術真的可以發展成這樣的話，那很危險，變成不管發生什麼意外狀況或緊急狀況的時候，我們的指揮中心跟前線部隊之間的訊息是不是有可能被入侵、被控制、被變造？"],["張副局長元斌：是，跟委員報告……"],["洪委員孟楷：對於這樣的技術，我覺得可能就要因應跟防制。"],["張副局長元斌：謝謝委員提醒，生成式AI出來以後是技術上一個很大的變革，它能夠產製出很多我們以前想像不到的，包括惡意程式碼都可以自動生成。所以對於委員講的這個部分，我們會持續關注這種AI演進、驅動的威脅樣態，適時地掌蒐以後，會提供給相關單位應處。"],["洪委員孟楷：這真的應該要適時掌蒐，好不好？"],["張副局長元斌：好，謝謝委員。"],["洪委員孟楷：謝謝。"],["主席：謝謝洪孟楷委員。請葛如鈞委員上台質詢。"],["段落：質詢：葛委員如鈞：11:51"],["葛委員如鈞：（11時51分）謝謝主席。有請數發部林次長跟內政部警政署的代表，謝謝。","次長好、副局長您好。"],["林次長宜敬：委員好。"],["林副局長信雄：委員好。"],["葛委員如鈞：前幾天大家真的很驚嚇，因為有非常多的粉專被下架，當你搜尋這些所謂的網紅，結果找到的都是像本席所示圖片右下角的詐騙訊息，反而是真的找不到，假的一大堆，包含我們的證交所也受到波及。","我首先還是要感謝次長週末加班發文，也許也有很多同仁加班，我想公務人員非常辛苦，最後大家都是要一起來努力的。對於次長臉書有提到「至於臉書有沒有接到其他單位的要求，我們並不是很清楚」，在這裡我想要先請教一下警政署副局長，你有沒有發現這很可能是在暗指你們啊？你有沒有發現？"],["林副局長信雄：我並沒有特別……"],["葛委員如鈞：沒感覺嘛！對不對？不知道副局長有沒有發現，林次長發文底下的留言就有網紅貼上去說，他們的粉專恢復之後，第一時間收到臉書的通知，說是來自Criminal Investigation Bureau的法律要求，這個是不是警政署？對吧？是內政部警政署的英文名稱，沒錯吧？"],["林副局長信雄：是刑事局的英文名稱。"],["葛委員如鈞：對，刑事局的英文名稱。是真的還是假的？"],["林副局長信雄：我們並沒有要求臉書去下架這些真實的粉專，沒有！"],["葛委員如鈞：對嘛！這是不是假的？是不是AI深偽的？是不是有人假造刑事局的身分去提出法律要求？有沒有可能？"],["林副局長信雄：據我們瞭解，是臉書他們內部在一個篩選機制上，公司之間的聯繫問題……"],["葛委員如鈞：沒有，我說這個通知它說是來自刑事局，你們又說沒有嘛！對不對？那有沒有要調查？如果有人偽造，嚴不嚴重？"],["林副局長信雄：當然，如果有人偽造，是嚴重的。"],["葛委員如鈞：那這是怎麼樣？他打錯字嗎？"],["林副局長信雄：這個跟委員報告……"],["葛委員如鈞：要不要要求Meta出來說明？"],["林副局長信雄：Meta他們本身我們是有提供一些黑名單，就是我們從網路服務平台發現很多偽造的，我們會請……"],["葛委員如鈞：不是，這是被錯下架的粉專說他們收到通知，是警政署這裡的資訊嘛！那這是不是有人偽造？還是真的？這到底是真的還是假的？"],["林副局長信雄：跟委員報告，就我們的瞭解，是臉書內部的篩選機制，他們有不同部門，他們有聯繫錯誤的問題。"],["葛委員如鈞：對不起，他們現在就說是Criminal Investigation Bureau（刑事局）嘛！那你們如果不背鍋，要不要調查啊？"],["林副局長信雄：我們會再跟他們反映，請他們更正，因為他們是內部不同單位聯繫發生問題。"],["葛委員如鈞：到底是不是警政署？你現在說不出來嘛！是不是有人偽造？你也答不出來嘛！次長在臉書上面po了，底下也有人留言，次長也按讚了。這邊有沒有通報警政署去了解？"],["林副局長信雄：這部分……"],["葛委員如鈞：有沒有？你只要說有還是沒有，數發部有沒有橫向通報，有還是沒有？國會殿堂，請說有或沒有。"],["林副局長信雄：是，跟委員報告，因為這不是我業管，所以細節我並不了解。"],["葛委員如鈞：那可以調查一下嗎？"],["林副局長信雄：是，我們會……"],["葛委員如鈞：我們待會會有具體要求。再來我想問一下數發部，數發部有沒有收集網紅白名單，有還是沒有？"],["林次長宜敬：跟委員報告，因為有一些網紅一直跟我們陳情，他們希望進入白名單……"],["葛委員如鈞：所以就是有嘛！"],["林次長宜敬：但是沒有蒐集，是他們主動要求我們做這件事情，但是我們……"],["葛委員如鈞：你確定喔？好。你沒有蒐集，那麼這封信是不是假的？是不是有人偽造你們提出蒐集？這不是你們嘛，對不對？"],["林次長宜敬：這個我要去確認一下，因為這個比較細節的部分……"],["葛委員如鈞：你沒辦法確認，你剛剛又說沒有？好，沒關係，我們今天就了解真相。這是不是你們？這是不是錯假訊息？這是不是AI，還是深偽？內容是「我們是數位發展部反詐騙工作小組」，這是網紅提出的截圖，是還是不是？"],["林次長宜敬：報告委員，我們在國會殿堂，因為我沒有看過這封信，我真的當下必須去了解。"],["葛委員如鈞：事情在禮拜五的深夜已經發生，您週末也發文，然後說同仁很辛苦……"],["林次長宜敬：是，非常辛苦。"],["葛委員如鈞：都是Meta的錯，都是其他單位的錯……"],["林次長宜敬：我沒有說都是Meta的錯，也沒有說是任何……"],["葛委員如鈞：數發部有沒有責任？"],["林次長宜敬：我們當然有責任，事實上我們不推諉責任，我們馬上加班去把這個事情給處理了……"],["葛委員如鈞：事發原因，你們有沒有責任嘛？"],["林次長宜敬：事發原因已經都說明了……"],["葛委員如鈞：沒關係，所以你們沒有蒐集白名單，我們之後再來了解。"],["林次長宜敬：是。"],["葛委員如鈞：我們非常有疑義，你蒐集的目的是什麼？如果你已經蒐集了，又沒有辦法保護他們，到底目的是什麼？你要收集個資嗎？系統誤判、錯假下架，數發部有沒有責？"],["林次長宜敬：如果發生錯假下架的話，當然有責。"],["葛委員如鈞：對嘛！"],["林次長宜敬：如果是責任在我們身上，當然是有責，如果事情是我們造成的，當然是我們有責任，但是……"],["葛委員如鈞：所以責任不在你們身上，你們就沒有責，是不是？"],["林次長宜敬：如果不是因為我們的作為，而發生了，當然我們就沒有責任。"],["葛委員如鈞：所以如果不是你們造成的，你就沒有責任嘛，對不對？"],["林次長宜敬：是啊！"],["葛委員如鈞：很好！你們數位產業發展部平臺經濟的業務，就在你們下轄的業務範圍之下，臉書是不是平臺經濟？"],["林次長宜敬：是。"],["葛委員如鈞：你們數發部有沒有一些單位、政府有沒有單位付它廣告費？"],["林次長宜敬：這方面當然有責任……"],["葛委員如鈞：我們有這麼多的預算做網路行銷……"],["林次長宜敬：抱歉、抱歉！我誤解委員的意思了……"],["葛委員如鈞：我們是不是都把它全部砍掉？"],["林次長宜敬：非常抱歉，誤解委員的意思了！"],["葛委員如鈞：再來，打詐專法通過了以後，詐欺有關的廣告業者的平臺，是不是在你們下轄之下，你們有沒有責任？"],["林次長宜敬：這方面當然有責任。"],["葛委員如鈞：對嘛！所以就算只是它犯的錯，數發部也有責任。"],["林次長宜敬：這方面絕對有責任。"],["葛委員如鈞：這寫得清清楚楚的啊！"],["林次長宜敬：是，委員講得完全沒錯。"],["葛委員如鈞：那您是不是現在打臉剛剛的你自己？"],["林次長宜敬：就算是吧！"],["葛委員如鈞：這個態度我們都錄下來了，沒有關係，大家自己公評。"],["林次長宜敬：是。"],["葛委員如鈞：這是您的美照。"],["林次長宜敬：謝謝。"],["葛委員如鈞：你們要宣傳打詐的時候，找平臺業者來，然後發生問題了，說是平臺業者的錯，數發部沒有責任，沒有關係，我們不要去講這些有的沒的。我們就只問一件事，11月15日深夜，從7點開始，大批網紅粉專下架，什麼時候恢復的，次長知道嗎？"],["林次長宜敬：請我們同仁向委員報告。"],["林組長青嶔：報告委員，大概12點陸陸續續，12點13分的時候，Meta有傳訊息給我，陸陸續續已經恢復了，我這邊陸續有監控，我這邊有LINE的訊息，也可以提供委員來看，謝謝。"],["葛委員如鈞：非常好，非常精準的回答。數發部什麼時候發布的回應？"],["林次長宜敬：哪一部分的回應？"],["葛委員如鈞：關於粉專已經恢復了，出了這個大問題，請民眾不要恐慌，我們數發部已經在努力了。你們什麼時候公開對這件事情發表回應的？什麼時候？"],["林次長宜敬：這個我要回去查一下，因為當初不是我自己回應的，所以可能要請同仁說明一下。"],["葛委員如鈞：什麼時候？"],["林組長青嶔：報告委員，其實我覺得很多事情就像火災一樣，發生了事情要趕快先處理、善後，所以目前來講，其實一直以來，我就一直在聯繫所有的粉專，直到所有的粉專能夠確定恢復之後，我們才來做適當的因應，所以也因為這樣子，到隔天的時候，我們有通報次長，然後報告次長這個到底目前情況怎樣，次長也在適當的時間在臉書跟大家講，所以才會有剛剛委員看的那一封信，請大家安心，如果還有什麼問題的話……當然我也知道，委員也很關心，我也有持續關注委員的臉書，所以我們一起來努力，這整個事情發生了，當然就是我們要救災，把它處理好，以上，謝謝委員。"],["葛委員如鈞：好。首先數發部的預算如果不夠，可以提出來，你們有很多的單位，不是你們在救災的時候，你們有沒有收發室？你們有沒有一些要上傳資訊的部門？不要講得好像整個數發部所有的人都在救災，當然不是嘛！到現在數發部也沒有做官方的提出，在事發的平臺上面，你們到現在都還沒有聲明。為什麼我要提這件事？跟次長說明，我在11月15日晚上11點9分，請大家關注這件事，也是希望平臺業者、希望我們的政府部會趕快來解決，不然民眾很恐慌，會不會還有下一波的問題等等。確實如您所說，凌晨12點13分左右就恢復了，我的這個更新，就是在那個時候po的，因為沒有拿到也沒有得到數發部的任何聲明，所以我們當然很抱歉，我們並不知道同仁在進行加班，所以我們在這裡是說感謝Meta，因為按下恢復按鈕的還是它嘛！因為那個平臺不是我們的，所以我感謝Meta在全力奔走聯繫，大家一起努力嘛，對不對？那恢復了，請問我這樣po有沒有問題？沒有問題吧？次長。"],["林次長宜敬：我沒有發表……","沒有什麼問題。"],["葛委員如鈞：對嘛！結果底下一批人都在講為什麼只感謝Meta，我今天也感謝數發部，為什麼？因為我們後來知道嘛，對不對？所以我想請問數發部，您剛剛說沒有直接責任，那我就請教數發部有沒有通報業者Meta做快速下架機制？你有沒有可能跟它連動？"],["林次長宜敬：是，有可能。"],["葛委員如鈞：有可能，對不對？這是你們數發部的官網寫的嘛！「快速下架由政府部門通報的詐騙」嘛！你們有沒有可能不小心通報錯了？"],["林次長宜敬：當然有可能，但是我們很小心避免這種狀況。"],["葛委員如鈞：但你的臉書上說沒有嘛！"],["林次長宜敬：對啊！這件事情的確沒有，這件事情的確不是我們錯誤通報。"],["葛委員如鈞：你們說沒有嘛！所以恕我確認一件事，因為網友都在講，數發部沒有權力也沒有能力去下架詐騙粉專。我就此請教你，你們有沒有能力通報，並且下架粉專？"],["林次長宜敬：我們有能力通報，那能不能直接命令它做下架，目前是不行的……"],["葛委員如鈞：對嘛！你可以通報，然後最後它可以下架，對不對？"],["林次長宜敬：一定要打詐專法，它已經通過了，但是還沒有正式施行，謝謝。"],["葛委員如鈞：所以如果有錯粉專下架，也有可能是通報錯了，對不對？你說對或不對就好了。"],["林次長宜敬：是啊！"],["葛委員如鈞：對嘛！沒錯！因為這就是你們的紀錄，一個小時之內去幫這些商業的業者去下架錯假粉專，你們也說跟44位名人建立通報管道，這個就是你們所謂的白名單，可能還有更多啦，這是你們官網上寫的，您剛剛說不清楚數量，沒有關係。今天其實我的要求非常簡單，謝謝主席給我時間講完這三個具體訴求，希望我們政府部會一起協助我們，讓我們不要打詐越打越憂心，讓大家可以有一個安心的資通安全環境。","首先，請內政部警政署一週內提供「Meta 收到警政署法律要求」之內容及調查報告，以確認是否有偽造警政單位之犯罪。可不可以一週內？"],["林副局長信雄：我們全力來達成。"],["葛委員如鈞：全力來達成？提供給本席。","另外第二點，請數發部一週內提供白名單，到底要了多少人數，資料的欄位到底要了哪些資訊，因為這可能有個資或同意權的問題，以及白名單跟這次波及的網紅的重疊比例，我都不需要知道是誰。"],["林次長宜敬：OK，這沒有問題。"],["葛委員如鈞：我們保護他們的隱私，但是相關的資訊，我們希望知道，確認有沒有程序或資安的漏洞，大家要一起來努力可以嗎？一週內？"],["林次長宜敬：我們會去掉那個個資的……"],["葛委員如鈞：當然！"],["林次長宜敬：去掉個資的訊息……"],["葛委員如鈞：當然！我的要求已經是不需要個資了。"],["林次長宜敬：可以，沒問題。"],["葛委員如鈞：最後一點，請數發部一週內提供關於次長發文「這段期間數發部並沒有發公文，也沒有用其他任何方式通知臉書」，請提供我資料，具體指出到底是哪段期間，以及調查哪些其他任何方式，提供給本席，有沒有問題？一週內？"],["林次長宜敬：這個我沒問題。事實上……"],["葛委員如鈞：沒有問題嘛？"],["林次長宜敬：我當場就可以說了，這個事情發生到我發文的那段時間，就是那一段時間。"],["葛委員如鈞：事情發生是什麼時候？"],["林次長宜敬：就是禮拜五晚上。"],["葛委員如鈞：所以你們通報到它下架不需要時間，是不是？"],["林次長宜敬：不是……"],["葛委員如鈞：所以前5分鐘、前一個小時都不需要提供嗎？"],["林次長宜敬：我不是講說那一段時間沒有……","委員，我在那段話後面還有，就是說沒有用其他任何方式通知臉書，我記得我是寫說通知臉書下架那些……"],["葛委員如鈞：我這一段是完全複製貼上的。"],["林次長宜敬：對，但後面還有一段。"],["葛委員如鈞：你要回去看也可以。"],["林次長宜敬：是。"],["葛委員如鈞：沒有關係，我們沒有要玩文字遊戲。"],["林次長宜敬：沒關係，反正沒有問題……"],["葛委員如鈞：大家一起來協同了解情況。"],["林次長宜敬：我的意思是我可以提供給委員……"],["葛委員如鈞：文字提供給我，您剛剛說這段期間是從發生的時候開始，所以您的意思是說很可能5分鐘前、事發前5分鐘，你們可能有提供下架通報囉，前一個小時你們可能有提供下架通報囉，有沒有這個可能？您要好好仔細地了解這個狀況，確認一下您的意思到底是什麼，請數發部具體地回文給我們，這樣可以嗎？"],["林次長宜敬：可以、沒有問題。"],["葛委員如鈞：謝謝次長，謝謝主席。"],["主席：謝謝葛如鈞委員，請各部門儘速提供資料給葛如鈞委員。","接下來我們請楊瓊瓔委員上臺質詢。"],["段落：質詢：楊委員瓊瓔：12:6"],["楊委員瓊瓔：（12時6分）謝謝主席，楊瓊瓔發言。首先還是請數發部。"],["主席：請次長。"],["林次長宜敬：委員好。"],["楊委員瓊瓔：我看你從幾位委員的詢答當中你很輕鬆，但是民眾都很緊張，所以我還是願意讓你講，到底是怎麼回事？因為從幾位委員的詢答當中還是沒有得到真正你要說明的內容，所以我願意讓你講清楚，到底怎麼回事？從禮拜五開始。"],["林次長宜敬：OK！非常謝謝委員，就是禮拜五晚上，我們數發部陸續接到一些民眾的通報……"],["楊委員瓊瓔：對，粉專被下架了，當然大家都會很緊張嘛！還會衍生到哪些位置呢？大家都很緊張。"],["林次長宜敬：是，沒錯。"],["楊委員瓊瓔：連公部門──證交所也影響到了，這怎麼辦？請做說明。"],["林次長宜敬：是，當下我們接到這些通報以後，我們就是馬上去處理，去聯絡臉書，把這些正牌的粉專讓它恢復。"],["楊委員瓊瓔：你們馬上去聯絡嘛？"],["林次長宜敬：對，我們去跟臉書還有這些財經網紅們聯絡，就是處理這件事情，當下其實我們也不知道發生了什麼事情，因為數發部在那段時間裡面並沒有發公文或者是用其他任何方式去通知臉書說要求要把那些財經粉專下架。"],["楊委員瓊瓔：所以這些下架跟你是沒有關係的？"],["林次長宜敬：是。"],["楊委員瓊瓔：你要說明的是這個？"],["林次長宜敬：是，沒錯、沒錯。"],["楊委員瓊瓔：請刑事局來。你請回座。"],["林副局長信雄：委員好。"],["楊委員瓊瓔：到目前為止大家還是有很多的質疑，到底有沒有故意的情節？有沒有？到目前為止就你們了解。"],["林副局長信雄：目前了解是沒有故意的。"],["楊委員瓊瓔：到目前為止了解是沒有故意的？"],["林副局長信雄：就我們了解是臉書公司有個內部篩選機制，他們單位之間聯繫的時候發生了問題，所以不小心……"],["楊委員瓊瓔：所以以警政單位你們的說法是臉書自己出的問題？"],["林副局長信雄：他們內部的聯繫機制有發生的……"],["楊委員瓊瓔：確定是他們內部機制出的問題？"],["林副局長信雄：目前了解是這樣。"],["楊委員瓊瓔：目前了解是這樣。好，你請回座。請國安局長。"],["張副局長元斌：委員好。"],["楊委員瓊瓔：你聽到現在，大家現在對於數發部的期待也很高，當然對我們警政單位的期待都很高，因為它是人民的保母，尤其有AI的情況之下，所以本席要來請教國安局，你面對AI可能帶來的資安外洩、資安危機，政府要怎麼去因應？你光是一個粉專下架，衍生的恐慌是這麼動盪，那你要怎麼做？"],["張副局長元斌：報告委員，針對AI帶來的風險，原則上我們的報告裡面提到兩塊：一個資安，一個可能是假訊息的威脅。我先從資安這個角度來看，面對這種生成式AI的發起，可能要從它會構成什麼樣的威脅來談我們怎麼來因應。首先它會快速的產製惡意程式；第二個，社交電郵會更加仿真，以前語文是障礙……"],["楊委員瓊瓔：幾乎要百分之百。"],["張副局長元斌：生成式已經不是障礙，而且它快速還可以持續學習優化。"],["楊委員瓊瓔：是、對。"],["張副局長元斌：面對這樣的攻擊，我們要從三個角度來看，第一個就是應該要先有機制面，有關機制面，我相信政府機關都已經有一個既有的機制，接下來是要落實強化。舉個例子，第一個，剛剛數發部次長也有提到，我們因應這種邊界設備可能遭受AI的漏洞攻擊，目前我們看到這是越來越常見，所以邊界設備應該要做好相關的防護，導入零信任，甚至機敏的資訊能夠做實體隔離，避免駭客能夠直接碰觸。","另外一個就是要加強人員的資安意識，包括剛剛講的社交工程的電郵越來越仿真、越來越精準，所以只要加強人員的資安意識，遇到來路不明的不要去點，甚至應該要落實單位的資安規範。另外……"],["楊委員瓊瓔：如果以你目前給本席所做的說明，你根本沒有辦法解決什麼問題，請你暫停。","我還是請數發部次長，你認為剛剛國安局的說法當中，在數發部，你可以扮演什麼樣的角色？"],["林次長宜敬：抱歉，委員請問是哪一個部分？"],["楊委員瓊瓔：而且在整個駭侵跟漏洩的部分是非常恐怖，你可以扮演什麼樣的角色？"],["林次長宜敬：OK！我們數發部在AI的方面，第一個當然就是說我們要提供各種工具給內政部警政署等或者是其他政府單位，來對抗這些不管是假訊息或者是AI的風險，當然在數位方面，數發部是主責單位，所有這些方面都是我們的責任。抱歉，請問委員您指的……"],["楊委員瓊瓔：都是你的責任，我請問你們的橫向聯繫目前執行的情況怎麼樣？OK嗎？"],["林次長宜敬：應該還可以。"],["楊委員瓊瓔：應該還可以，為什麼發生了這麼多事情？"],["林次長宜敬：您是說這件事情？指的是周末這件事情？"],["楊委員瓊瓔：而且瞬息萬變。"],["林次長宜敬：是、是。"],["楊委員瓊瓔：所以我在這邊，尤其剛剛國安局特別講到了，因為世界各國是無國界的。"],["林次長宜敬：是，沒錯。"],["楊委員瓊瓔：是無國界的，在這樣的情況之下，你要怎麼樣跟橫向所有相關單位聯繫？如何與各國加強這一些相關的情資？"],["林次長宜敬：是，事實上最近一直有一些友好國家包含一些先進國家，還有一些開發中的民主國家，他們都來臺灣跟我們在AI以及資安方面做很多的探討，因為現在很多的資安攻擊都是跨國的，而且會是跳轉的。"],["楊委員瓊瓔：對。"],["林次長宜敬：譬如說，它要攻擊臺灣的話，它可能先攻擊美國，從美國再跳轉來攻擊臺灣，也可能先攻擊菲律賓，然後再……"],["楊委員瓊瓔：當然，所以可以看到這個嚴重性。"],["林次長宜敬：是，這個是非常嚴重。"],["楊委員瓊瓔：非常嚴重。"],["林次長宜敬：所以我們有很多的橫向溝通，但是這方面的溝通通常是我們數發部下屬的資安院做這種溝通，這些溝通因為涉及到國安，所以並不是每一次的會面、每一次的討論都會公開，而且這個討論的細節更是不能隨意在媒體公開。"],["楊委員瓊瓔：次長，不用說每一次要公開，我們民眾要的是一個答案、是一個結果論，民眾得到安全、安心的生活，因為大家現在不安心。"],["林次長宜敬：是，謝謝。"],["楊委員瓊瓔：我再請教國安局，美國在10月份發布了「國家安全備忘錄」，對不對？它特別也把五角大廈跟情報單位增加了AI的技術應用跟部署，這是首次。基於維護整個美國與全球資訊網的安全，來防制這些利用AI進行的軍事情報活動，我剛才特別說了，這是首次針對AI技術的使用、管理跟相關的風險，它訂定了什麼呢？具體的因應措施，期望在加強AI技術於網路安全、反情報、軍事研發等這些國家安全領域應用當中，都能夠同時透過相關的風險控管規範，主要目的就是要確保公民的權利不受侵犯，但是我們現在感覺到臺灣人民的權利已經非常不安心，你可以感同身受嗎？"],["張副局長元斌：報告委員，國科會同樣在最近訂定了我們國家的人工智慧基本法案，這個法案結合鼓勵、創新，並兼顧民眾權益，裡面的一個精神就有針對民眾的隱私權，還有相關權益保障的應用，訂定指引的綱領，所以這部分是有在做。"],["楊委員瓊瓔：你目前所說的，就是國科會他們已經做了一個規範出來，但在國安局部分，美國都已經這麼做了，備忘錄也都出來了，我們國安局自己的備忘錄或指引，方向是什麼？"],["張副局長元斌：有，事實上，去年我們有依據行政院針對生成式人工智慧使用規範訂定了作業原則，提供給我們同仁來做指引，目的也是要第一，兼顧到AI的應用；第二，要合規的應用，即合乎現行規定，這個部分是目前我們在制度面上的作法。另外，剛剛委員提到的美國針對軍情單位，他們……"],["楊委員瓊瓔：你也可以看看他們有哪一些規定，既然已經公布了，那有什麼……"],["張副局長元斌：我們會參考。"],["楊委員瓊瓔：對，本席就要請問你這句話……"],["張副局長元斌：我們會參考，因為這個……"],["楊委員瓊瓔：你們應該滾動式的檢討，看看怎麼樣能夠讓我們的人民更加安全？"],["張副局長元斌：是，謝謝委員，這個我們內部已經有做過研究，我們會參考美國訂定出來這樣的精神，檢討我們內部的機制可以朝向更加穩健的方式發展。"],["楊委員瓊瓔：這個務必一定要達陣，我們也期勉相關單位，因為到目前為止，人民的生活就是離開不了這一環，但是人民離開不了又有很多不安心，這並不是一個民主國家應該要有的層次和感受……"],["張副局長元斌：是，我們會持續努力。"],["楊委員瓊瓔：一定要加油，好不好？謝謝。"],["張副局長元斌：好，謝謝委員。"],["主席：謝謝楊瓊瓔委員，副局長和次長請回。","羅明才、羅明才、羅明才委員不在。","鍾佳濱、鍾佳濱、鍾佳濱委員不在。","何欣純、何欣純、何欣純委員不在。","林德福、林德福、林德福委員不在。","鄭正鈐、鄭正鈐、鄭正鈐委員不在。","伍麗華、伍麗華、伍麗華委員不在。","接下來我們請黃國昌委員上臺質詢。"],["段落：質詢：黃委員國昌：12:17"],["黃委員國昌：（12時17分）謝謝召委。國安局局長走了嘛，對不對？"],["主席：是。"],["黃委員國昌：好，那麻煩請副局長、法務部調查局副局長，以及內政部警政署刑事警察局副局長。"],["張副局長元斌：委員好。"],["黃委員國昌：三位好，時間的關係，就不一一問候。今天我們在處理有關深偽以及錯假訊息對我們國家安全的影響及因應，這是一個非常嚴肅的課題，之前在2021年時，當時國安局就表示AI Deepfake危及國家安全，要訂定因應的SOP，那個時候應該是陳明通在立法院說的。到了今年，你們在10月31號的書面報告裡提到有大量的深偽製造的影片以及杜撰錯假訊息。今天我看到我們主要負責的單位，一個是調查局，一個是內政部警政署，首先先請教內政部警政署，你們的報告第2頁到第3頁提到2022年7月5號，在最高檢察署檢察總長召開的會議中，提到包括你們跟調查局是主要檢測機關，你們表示刑事警察局除了可以檢測真偽，也可以依照個案偵查其來源IP位置及溯源偵辦，是不是？"],["林副局長信雄：嗯，是的。"],["黃委員國昌：你們刑事警察局真的可以檢驗真偽嗎？"],["林副局長信雄：我們有一個檢測軟體可以做相關的檢驗。"],["黃委員國昌：能力如何？"],["林副局長信雄：當然沒有辦法百分之百，但我們可以再就它的實質內容……"],["黃委員國昌：沒辦法百分之百，那個軟體花多少錢？"],["林副局長信雄：兩個軟體大概1,000萬。"],["黃委員國昌：兩個軟體1,000萬？"],["林副局長信雄：是的。"],["黃委員國昌：花了1,000萬的軟體，辨別的能力現在到多少百分比？"],["林副局長信雄：我請科制中心回答。"],["林主任建隆：報告委員，AI檢測本來就有一定限制……"],["黃委員國昌：這我了解。"],["林主任建隆：我們跟調查局其實是有共同討論出檢測的流程和標準，根據這兩個軟體，還有一些開源軟體，以及我們做的一些事後判斷，訂定了一套檢測方式，我們不敢說百分之百能夠檢驗出來，但這一套檢驗是經過……"],["黃委員國昌：沒關係，大概百分之多少？"],["林主任建隆：我們有信心可以達到95%以上。"],["黃委員國昌：95%以上？"],["林主任建隆：是，但會有一些限制，譬如影像……"],["黃委員國昌：沒關係，我們等一下再就你們遇到的限制進一步討論，因為深偽對臺灣國家安全造成非常嚴重的影響，特別是如果老共拿來介入我們國家國內的事務，這會對我們國家安全造成非常嚴重的威脅，所以今天為什麼要排這樣的專案報告，就是要深入了解我們被滲透的情形有多嚴重、老共到底是怎麼搞的，以及具體的案子現在處理的狀況。你們在報告裡面提到從112年到113年10月，辦理檢測的案件11件，3件是總統副總統選舉罷免法相關案件，其他8件是刑事案件，請問這11個案件都偵結了嗎？"],["林主任建隆：有些案件是送鑑單位，我們沒有去了解地檢署偵結了沒有。"],["黃委員國昌：可以去追溯一下嗎？"],["林主任建隆：我們可以去了解這11個案件的偵查情形。"],["黃委員國昌：因為你們已經標的11個案件出來，針對這11個案件，我們有順利抓到這些為非作歹、可惡至極的歹徒，還是雷聲大雨點小，一點結果都沒有？這個國人會很關心，可能分散在各個地檢署，最後處理終結的情況怎麼樣，刑事警察局未必清楚，調查局也未必清楚，但我覺得總是要有個單位把這些資料彙整後跟大家說明，這樣可以嗎？"],["林主任建隆：報告委員，我們會清查偵查的情形。"],["黃委員國昌：對，偵查不公開的就不公開，還沒有偵結就還沒有偵結，如果偵結了後，最後結果怎麼樣，是簽結、不起訴，還是起訴，這牽涉到你們前面花了這麼多時間、這麼辛苦的工作，總要有個結果出來，要不然我們花這麼多錢買這些設備，你們也去檢測了，結果最後的結果是什麼大家都不知道，案件偵辦到哪裡大家也不知道，我相信我們在面對國家安全威脅這麼嚴肅的課題時，絕對不能虎頭蛇尾，贊不贊成？"],["林副局長信雄：是，有關後續偵結起訴或審判情形，我們會做個了解。"],["黃委員國昌：好，具體的請教，這個是深偽造假，還是中共介選？鑑定出來沒有？"],["吳副局長富梅：報告委員，這個案件當時是新北市調查處受理的，在新北地檢繫屬，我們鑑識的結果也移送到新北地檢，所以目前這個案子在新北地檢處理當中。"],["黃委員國昌：目前還在偵查當中？"],["吳副局長富梅：是的。"],["黃委員國昌：所以這是不是造假的？"],["吳副局長富梅：我們鑑定的結果已經送到地檢，所以要由地檢他們……"],["黃委員國昌：由地檢加以說明，現在還在繫屬，還沒有偵結？"],["吳副局長富梅：是，還沒有。"],["黃委員國昌：OK，當事人說這個是深偽造假，調查局說要尊重當事人的意願，所以不能公布結果，這我也尊重，但問題是這已經不是個人問題，這是國家安全的問題，如果是中共介選的話，可以辦到今天都沒有結果嗎？新北地檢還要辦多久，調查局知不知道？"],["吳副局長富梅：報告委員，我們會請新北市調查處和新北地檢先做一些溝通、協調，如果有進一步情形，再和委員報告。"],["黃委員國昌：這案子拖很久了，當事人都站出來控訴是中共介選，茲事體大，非常嚴重啊！絕對不能虎頭蛇尾。剛剛大家都贊成不能虎頭蛇尾，這麼嚴肅的事情，絕對要查清楚，是不是真的是中共介選、是不是真的是深偽偽造，這要給社會大眾一個交代，贊成嗎？"],["吳副局長富梅：贊成。"],["黃委員國昌：副局長，你贊成嗎？大家都等著啊！到底是哪個單位這麼可惡，不是只有影像的問題，還有錄音檔的問題，這位前立委說連錄音檔都被變造，他要求的是什麼？他要求的是這明顯是境外介選的作為，期待國安及司法單位迅速處理。來！先請國安單位，現在處理的進度如何？"],["張副局長元斌：報告委員，這個部分我們是交給司法機關在調查當中。"],["黃委員國昌：所以跟國安單位沒有關係？"],["張副局長元斌：只要影響國安跟社安，我們都會持續注蒐，而這個案子，因為在司法……"],["黃委員國昌：你說影響到國安的，你們都會怎麼樣？"],["張副局長元斌：我們會去了解案情，提供給相關單位偵處。"],["黃委員國昌：目前你們了解的狀況怎麼樣？"],["張副局長元斌：因為這個案子還在司法調查當中，所以我們要尊重司法機關的調查。"],["黃委員國昌：所以跟國安單位沒有關係？"],["張副局長元斌：我剛剛提到，只要會影響國安跟社安的……"],["黃委員國昌：這個案子，你覺得有沒有影響到國安？你覺得有沒有影響到國安？"],["張副局長元斌：對，這個部分我們還是要尊重司法檢察機關的調查。"],["黃委員國昌：我了解，所以國安單位的立場就是這個跟國安單位沒有關係，要尊重檢調嘛！是吧？所以呼籲國安單位是呼籲錯的對象，是不是這樣？"],["張副局長元斌：報告委員，我們不能就個案去做評估，因為它已經進到司法程序，但是我們的職責會去掌蒐這些偵訊，或者是影響國家安全跟社會安定的過程……"],["黃委員國昌：所以從國安單位的立場來講，就是要等司法檢調機關，是嗎？"],["張副局長元斌：因為它已經在進行當中，所以這個部分我們還是要尊重司法……"],["黃委員國昌：沒有關係啦！那你就講嘛！國安單位在司法檢調有結果出來以前，跟你們沒有關係，這樣一句話不就講完了！我有說錯嗎？"],["張副局長元斌：我不是說沒有關係。"],["黃委員國昌：那你覺得有關係？"],["張副局長元斌：不是，我們要尊重司法……"],["黃委員國昌：當然要尊重司法檢調嘛！來！刑事警察局。"],["林副局長信雄：委員好。"],["黃委員國昌：這個音檔刑事警察局有沒有鑑定？"],["林副局長信雄：報告委員，這不是我們負責鑑定的。"],["黃委員國昌：好，調查局。"],["吳副局長富梅：報告委員，這個案子是我們調查局做的鑑定……"],["黃委員國昌：鑑定結果出來了沒有？"],["吳副局長富梅：鑑定結果已經送到臺北地檢了。"],["黃委員國昌：這個案子是臺北地檢，上一個案子是新北地檢，現在兩個案子都還在繫屬嗎？"],["吳副局長富梅：是。"],["黃委員國昌：那可能要請調查局請新北地檢還有臺北地檢的同仁，大家都很辛苦，多努力一點，當事人都已經指控這是老共介選、介入我們的選舉，多嚴重的事情啊！這麼嚴重的事情，辦到現在都還辦不出來，是能力有問題，還是決心有問題？副局長，你覺得呢？"],["吳副局長富梅：案子在新北地檢跟臺北地檢，我個人……"],["黃委員國昌：你們該做的鑑定都做完了？"],["吳副局長富梅：是的。"],["黃委員國昌：希望也利用這個機會，調查局跟臺北地檢、新北地檢講，當事人指控這麼明確，表示這是中共介選，影像是偽造的，音檔也是偽造的，但是不是偽造，只有你們知道，但你們不方便講，那全體國人就只好等，等臺北地檢跟新北地檢給大家一個交代，否則這麼嚴重的事情，可以和稀泥嗎？和稀泥混一混就過去？這牽涉到國家安全的問題，剛剛大家都同意這很嚴重，不能虎頭蛇尾，一定要水落石出，但看起來今天來做專案報告的這三個單位，國安局說要尊重檢調，調查局說你們的結果跟臺北地檢講了，如果臺北地檢不說，你們也沒辦法說，所以到底是不是偽造、變造，到底是誰搞的，到目前為止，關心這件事情的全體國人都沒有一個答案，是嗎？是不是？你不要笑嘛！你憋著笑，這很嚴肅的問題……"],["吳副局長富梅：報告委員……"],["黃委員國昌：我是很嚴肅的態度在請教你啊！"],["吳副局長富梅：報告委員，我剛剛也回答了，這個案子有繫屬的地檢，當然要由地檢視最後查處的狀況，覺得有對國人說明的必要，由他們來出面說明，不應該由調查局出面，我們也是一個偵查的……"],["黃委員國昌：這牽涉到國家安全，你認為有沒有跟國人說明的必要？你覺得有沒有跟國人說明的必要？"],["吳副局長富梅：我個人認為如果案子告一段落，當然有需要對國人做個說明。"],["黃委員國昌：好，非常好，再麻煩調查局分別跟新北地檢，還有臺北地檢講，這件事情很重要，攸關國家安全，結果是什麼，大家都在等他們出來跟國人說明。好，謝謝。"],["主席：謝謝黃國昌委員。","葉元之、葉元之、葉元之委員不在。","林楚茵、林楚茵、林楚茵委員不在。","已登記質詢的委員除不在場外，均已發言完畢，報告及詢答結束。本日會議有王定宇委員、林楚茵委員提出書面質詢，列入紀錄，並刊登公報。請相關機關以書面於兩週內答復；委員口頭質詢未及答復部分，或要求補充資料者，亦請相關單位以書面兩週內提供，委員另約定期限者，從其所定。"],["委員王定宇書面質詢：","一、鑒於人工智慧（AI）技術被廣泛應用於各類投資詐騙案件，據微軟公司《保護公眾免受AI生成內容濫用》報告指出，2023年因深度偽造（Deepfake）技術所進行的冒名詐騙，造成全球損失高達27億美元，且詐騙金額的中位數達1,000美元。本席請數位發展部、法務部調查局、內政部警政署於兩周內提供以下資訊：","1.我國近三年AI技術相關詐騙案件之統計與分析：包括案件樣態、受害人數及受害金額等數據。","2.政府因應新興技術詐騙之具體措施：針對AI生成內容或深偽技術濫用等問題，目前所採行的防制對策與未來規劃（如：規範AI公司於其產品中內置識別深偽內容的工具，或建立獨立機構監管等）。","二、美國政府於今年10月簽署首個「人工智慧國家安全戰略備忘錄」，授權五角大廈和情報機構加強運用AI技術，這是美國首次制定專門策略來發揮AI的力量並管理其在國家安全領域的風險。鑑於此，本席請國家安全局於兩周內提供相關說明，我國相關情報機關是否針對AI技術在國家安全領域的應用進行全面盤點？包括應處AI應用的法規、預算編列及應對工具的規劃與建置？"],["委員林楚茵書面質詢：","AI技術的發展迅速，特別是在生成深偽影片、假新聞與錯假訊息的應用，此技術也已被中國作為認知作戰的新型利器，對我國國家安全與社會穩定構成重大威脅。","深偽假影片與假訊息的傳播途徑多元，既包括公開的社群媒體，也涵蓋封閉的通訊群組，特別是後者，由於具隱蔽性難以追蹤，對防範與查證工作帶來極大挑戰。根據2021年11月3日國家安全局在內政委員會的書面報告，國安局計劃採取三階段的因應機制：即時通報權責機關、迅速辨別真偽、依法查辦。對此，本席特別關注「是否有讓民眾可以主動通報的管道？」以及「如何辨識並反制這些假訊息？」等問題。","國家安全局與數位發展部是否已掌握這些傳播模式、威脅樣態及其應對策略？請國安局就「目前是否具備相關的技術工具來辨識並反制這些假訊息？」，以及「是否已建立快速有效的通報與應對機制」，於兩周內提交的書面報告。並請數位發展部就「多媒體鑑識系統」計畫及發展之進度，同於兩周內提交書面報告。","此外，數位發展部於本次提交的報告當中提及：「除了透過技術手段外，最重要且最有效地的是人員培訓，需要持續提升人民對AI相關威脅的認識，建立積極的安全意識文化，強化人民識讀能力，如同零信任機制，保持對任何訊息的警覺性。上述相關建議，皆已納入本部各項資安推動工作中持續執行。」","惟本席並未見到「持續提升人民對AI相關威脅的認識」之實際作為，目前一般民眾面對假訊息假影音，除了使用商用識別軟體外，僅能倚靠自身對本人的認識做出判斷。面對AI技術帶來的挑戰，數位發展部有義務建置通報機制及落實全民教育，建立防範AI威脅的堅實防線。","請數位發展部就「持續提升人民對AI相關威脅的認識」提出具體可行的計畫，於兩周內提交書面報告，確保我國不受AI技術應用之侵害。"],["主席：本日會議到此結束，散會。","散會（12時31分）"]],"block_lines":[1,19,20,23,53,55,55,57,59,62,63,67,72,75,76,109,109,112,113,114,115,119,120,121,122,123,124,125,126,127,128,129,130,131,132,133,134,135,136,137,138,139,140,141,142,143,144,145,146,147,148,149,150,150,152,153,154,155,156,157,158,159,160,161,162,163,164,165,166,167,168,169,170,171,173,174,175,176,177,178,179,180,181,182,183,184,185,186,187,188,189,190,191,192,192,194,195,196,197,198,200,201,202,203,204,205,206,207,208,209,210,211,212,213,214,215,216,217,218,219,220,221,223,224,225,226,227,228,229,230,231,232,233,234,235,236,237,238,239,240,241,242,243,244,245,246,247,248,249,250,251,252,253,254,255,256,257,258,259,260,261,262,263,264,265,266,267,268,269,270,271,271,273,274,275,276,277,278,279,280,281,282,283,284,285,286,287,288,289,290,291,292,293,294,295,296,297,298,299,300,301,302,303,304,305,306,307,307,309,310,311,312,313,314,315,316,317,318,319,320,321,322,323,324,326,327,328,328,330,331,332,333,334,335,338,340,341,342,343,344,345,346,347,348,348,349,350,351,352,354,356,358,359,360,362,363,364,365,366,367,368,369,370,371,372,373,374,375,376,377,378,379,380,381,382,383,384,385,385,386,387,388,389,390,391,392,394,395,396,397,398,399,400,401,402,403,404,405,406,407,408,409,410,411,412,413,417,418,419,420,421,422,422,424,425,426,427,428,429,430,431,432,433,434,435,436,437,438,439,440,441,442,443,444,445,446,448,449,451,452,453,454,455,456,457,458,459,460,463,464,467,467,469,470,471,473,475,476,477,478,479,480,481,482,483,484,485,486,487,488,489,490,492,493,494,495,496,497,498,499,500,501,502,503,504,505,506,507,508,509,510,511,512,513,514,515,516,517,518,519,520,520,522,523,524,525,526,527,528,529,530,531,532,533,534,535,536,537,538,539,540,541,542,543,544,545,546,547,548,549,550,551,552,553,554,555,556,557,558,559,560,561,562,563,564,565,566,567,568,569,570,571,572,573,574,576,577,578,579,580,581,582,583,584,585,586,587,588,589,590,591,592,593,594,595,596,597,598,599,600,601,601,603,604,605,606,607,608,609,610,611,612,613,614,615,616,617,618,619,620,621,622,623,624,625,626,627,628,629,630,631,632,633,634,636,637,638,639,640,641,642,643,644,645,646,647,648,649,650,651,652,653,654,655,656,657,658,659,660,660,661,663,664,665,667,668,669,670,671,672,673,674,675,676,677,678,679,680,681,682,683,684,685,686,687,688,689,690,691,692,693,694,695,696,697,698,699,700,701,702,703,704,705,706,707,708,709,710,711,712,713,714,715,716,717,718,719,720,721,722,723,724,725,726,727,728,729,730,731,732,733,734,735,736,737,738,739,740,741,742,743,744,745,746,748,749,750,751,752,753,754,755,756,757,758,759,760,762,763,765,766,767,768,769,770,771,772,773,774,775,776,777,778,779,780,781,783,784,785,786,787,788,789,790,791,792,793,794,794,796,797,798,799,800,801,802,803,804,805,806,807,808,809,810,811,812,813,814,815,816,817,818,819,820,821,822,823,824,825,826,827,828,830,832,833,834,835,836,837,838,839,840,841,842,843,844,845,846,847,848,849,850,851,852,853,854,855,856,857,858,859,860,861,862,863,864,865,866,867,867,875,876,877,878,879,880,881,882,883,884,885,886,887,888,889,890,891,892,893,894,895,896,897,898,899,900,901,902,903,904,905,906,907,908,909,910,911,912,913,914,915,916,917,918,919,920,921,922,923,924,925,926,927,928,929,930,931,932,933,934,935,936,937,938,939,940,941,942,943,944,945,946,947,948,949,950,951,952,953,954,955,956,957,958,959,963,968,975],"person_count":{"張主任秘書景舜":1,"主席":31,"蔡局長明彥":77,"林次長宜敬":137,"羅委員美玲":17,"趙組長由靖":5,"洪委員申翰":19,"徐委員巧芯":38,"吳副局長富梅":20,"黃委員仁":17,"林副局長信雄":51,"沈委員伯洋":9,"陳委員永康":7,"主席（陳委員永康代）":1,"林委員憶君":15,"陳委員冠廷":15,"主席（林委員憶君）":1,"張副局長元斌":74,"陳處長":6,"馬委員文君":18,"蔡處長妙慈":4,"王委員鴻薇":25,"賴委員士葆":39,"洪委員孟楷":28,"葛委員如鈞":63,"林組長青嶔":2,"楊委員瓊瓔":34,"黃委員國昌":42,"林主任建隆":7,"委員王定宇書面質詢":1,"委員林楚茵書面質詢":1},"persons":["張主任秘書景舜","主席","蔡局長明彥","林次長宜敬","羅委員美玲","趙組長由靖","洪委員申翰","徐委員巧芯","吳副局長富梅","黃委員仁","林副局長信雄","沈委員伯洋","陳委員永康","主席（陳委員永康代）","林委員憶君","陳委員冠廷","主席（林委員憶君）","張副局長元斌","陳處長","馬委員文君","蔡處長妙慈","王委員鴻薇","賴委員士葆","洪委員孟楷","葛委員如鈞","林組長青嶔","楊委員瓊瓔","黃委員國昌","林主任建隆","委員王定宇書面質詢","委員林楚茵書面質詢"],"type":"委員會紀錄","title":"立法院第11屆第2會期外交及國防委員會第14次全體委員會議紀錄","時間":"中華民國113年11月18日（星期一）9時1分至12時31分","地點":"本院紅樓301會議室","主席":"林委員憶君","date":"2024-11-18","votes":[]}