Breaking
UKBT agrees to rescue TalkTalk in takeover dealPLThe half marathon in Krakow makes it difficult to get to the polling stations in the second round of the presidential electionsCNYinchuan holds "Mountain Breeze Field" Helan Mountain Wilderness Camping Season, attracting more than 10,000 citizens and touristsARIsrael imposes a closure on the West Bank and Gaza crossings on the anniversary of the October 7 attacksPLTwo Romanians suspected of robbery in Oslo were detainedTRA fire broke out in the furniture factory in Nilüfer Başköy DistrictCNFBI arrests Chinese-American female housekeeper suspected of spying on Lai Qingde's son for ChinaTRThe results of the Presidential Council election in Bosnia and Herzegovina have been announcedBRMunicipal election results released by the TSE with the support of artificial intelligenceRU184 Ukrainian UAVs were destroyed over the Bryansk region in 24 hoursUKBT agrees to rescue TalkTalk in takeover dealPLThe half marathon in Krakow makes it difficult to get to the polling stations in the second round of the presidential electionsCNYinchuan holds "Mountain Breeze Field" Helan Mountain Wilderness Camping Season, attracting more than 10,000 citizens and touristsARIsrael imposes a closure on the West Bank and Gaza crossings on the anniversary of the October 7 attacksPLTwo Romanians suspected of robbery in Oslo were detainedTRA fire broke out in the furniture factory in Nilüfer Başköy DistrictCNFBI arrests Chinese-American female housekeeper suspected of spying on Lai Qingde's son for ChinaTRThe results of the Presidential Council election in Bosnia and Herzegovina have been announcedBRMunicipal election results released by the TSE with the support of artificial intelligenceRU184 Ukrainian UAVs were destroyed over the Bryansk region in 24 hours
Back資安院院長龔化中:AI時代資安威脅如大雨,將以「AI對抗AI」建立國家防護體系
資安院院長龔化中:AI時代資安威脅如大雨,將以「AI對抗AI」建立國家防護體系
Developing
自由时报1 hour agoTech3 min readChinaView translation

資安院院長龔化中:AI時代資安威脅如大雨,將以「AI對抗AI」建立國家防護體系

Quick Look

國家資通安全研究院院長龔化中於上任兩個月後召開媒體交流會,指出AI時代資安攻擊速度快如大雨,傳統防禦不足,將以「AI對抗AI」為核心策略,推動四大工作:AI自動化原始碼檢測與修復、利用AI強化滲透測試及攻防演練、建立AI自動化威脅情資系統及打造國家級AI資安攻防沙箱,以強化國家資安縱深防禦。

AI-generated summary

Why It Matters

國家資通安全研究院院長龔化中於8月1日上任,屆滿兩個月,面對AI快速發展帶來的新型態資安威脅,舉辦媒體交流會說明應對策略。

Font size

資安院今(5)日舉行媒體交流會,資安署署長蔡福隆(前左2)、資安院院長龔化中(前右2)及相關同仁出席,說明AI時代資安威脅與防禦布局。(記者邱巧貞攝)

〔記者邱巧貞/台北報導〕國家資通安全研究院(資安院)院長龔化中於今年8月1日上任,屆滿2個月之際,資安院今(5)日舉行媒體交流會,面對AI快速發展帶來的新型態資安威脅,龔化中坦言,剛接任時其實都睡不好,更形容現在的AI資安攻擊「真的像下大雨一樣」,只要防護有一處沒有做好,就可能出現漏洞。

龔化中指出,在AI協助下,攻擊者能在極短時間內自動鎖定大量目標,並持續深入尋找系統漏洞,面對國家級駭客威脅,傳統仰賴人工監控及既定標準作業程序的防禦方式,已不足以因應AI時代的攻擊速度與規模。

請繼續往下閱讀...

因此,資安院接下來將以「AI對抗AI」為核心策略,結合實戰防禦經驗與AI資安技術,從威脅情資分析、自主技術研發、產品及供應鏈資安到人才培育同步推進,希望建立「反應快、涵蓋廣、偵測深」的國家資安防護體系。

龔化中表示,導入AI的一大關鍵,在於能以較低成本擴大防護範圍,不是只能關注少數重點機關、重點目標,同時也能把偵測做得更深入,找出更多潛在威脅;簡單來說,就是希望透過AI把整套資安防護重新翻新、加強。

資安院目前規畫四大重點工作。第一項是「AI自動化原始碼檢測與修復」,資安院將導入生成式AI深入系統底層,優先針對政府機關及關鍵基礎設施核心進行「原始碼檢測」與「修補建議」,從軟體開發源頭降低漏洞風險。

龔化中透露,資安院目前已與數家國際知名AI公司直接合作,可接觸相關先進系統及供資安測試使用的技術,並已展開多項前期測試。

他表示,未來將結合合作業者的AI系統,以及資安院自行建立的地端資安模型,優先針對政府機關及關鍵基礎設施的核心軟體進行原始碼檢測,找出潛在漏洞並提出修補建議,從源頭提升系統安全性。

龔化中強調,這項工作的重點不是把產品變好,而是先把漏洞找出來,讓整個系統變得更安全,也是資安院從技術面切入、責無旁貸且應優先推動的工作。相關工作目前已經啟動,資安院自上月起投入大量人力進行測試與開發,由於參與合作的AI業者不少,後續也將持續投入資源,加速相關技術導入。

第二項則是「利用AI強化滲透測試及攻防演練」。資安院規畫運用AI模型、AI代理及自行開發的不同技能,利用AI模擬攻擊者思維,對重要線上服務與系統進行自動化黑箱滲透測試與紅藍隊攻防演練,持續驗證實戰防禦韌性。

龔化中表示,資安攻防演練過去多仰賴人力執行,未來導入AI後,希望讓演練「做得更快、更廣,而且更深入」,資安院目前正蒐集不同攻擊方式,預計明年4月開始進行相關演練。

他將這種作法比喻成「打疫苗」,由於駭客同樣會運用這些方式發動攻擊,因此政府機關若能先自行模擬攻擊、提前找出弱點,就有機會強化整體防禦韌性。

第三項工作則是建立「AI自動化威脅情資系統」。龔化中指出,資安院目前蒐集大量全球威脅情資,包括暗網、全球網路及各國相關資訊,也與多個國家合作,但龐大資料若持續仰賴人工處理,負擔相當沉重。

因此,資安院規畫導入大型語言模型,即時消化及比對國內外大量威脅情資,提高分析效率及精準度,並進一步與企業及產業界整合分析結果。

龔化中表示,在AI時代,網路攻擊速度愈來愈快,一個地方發現風險之後,另外一個地方很快可能就會受到攻擊,若能透過AI提前辨識威脅並快速分享情資,就有機會在攻擊擴散前先行阻擋。

第四項則是打造「國家級AI資安攻防沙箱」。龔化中指出,許多政府機關及企業對於AI攻擊實際如何進行仍不熟悉,因此資安院正規畫建立安全受控的驗證環境,讓政府與產業團隊提前習慣高強度、快節奏的AI攻擊手法,建立應變的防禦肌肉 記憶,同時攜手資安產業驗證新技術。

龔化中表示,上述四項工作是資安院近兩個月依據目前掌握的威脅資訊與技術能力,盤點後列出的優先方向,最終目的則是強化國家資安的縱深防禦,即是從管理、技術、網路邊界一路延伸至內部系統,層層建立防線,才能透過更完整的防禦體系,抵擋快速升高的AI資安威脅。

至於四大工作的推動時程,資安院表示,第一項「AI自動化原始碼檢測與修復」及第二項「AI滲透測試與實戰攻防演練」目前均已進入測試驗證,其中第二項預計明年4月正式推動。

第三、第四項「AI威脅情資系統」及「AI資安攻防沙箱」則仍在開發階段目前則在開發階段,目標明年推出初步成果及第一版系統,後續再持續演進與強化。

而資安院成立三年多來已歷經三任院長交接,對此,龔化中表示,站在前兩任院長奠定的基礎上,他接下來最重視的,就是如何進一步「融合」既有的研發與防護能量。

他強調,研發單位不能只是把好的技術做出來,還必須思考如何進一步落地、甚至產業化;原本負責防護的單位也要持續提升能力,讓研發與實務防護形成持續運作的循環,彼此合作、相互回饋,並進一步導入更多AI技術,這些都是接下來將推動的重點。

一手掌握經濟脈動 點我訂閱自由財經Youtube頻道

What to Watch

AI outlook — possibilities, not facts

  • 資安院將於明年4月開始進行AI強化的滲透測試與攻防演練

    Very likely · Within months

  • 第三、第四項『AI威脅情資系統』及『AI資安攻防沙箱』將於明年推出初步成果及第一版系統

    Likely · Within months

Open Questions

  • AI自動化原始碼檢測與修復的具體進度與成效如何?
  • 與國際知名AI公司的合作細節及技術來源為何?
  • 國家級AI資安攻防沙箱的開放對象與使用條件為何?

Related Topics

This article was originally published by 自由时报.

Related Stories

Trump and Huang Jen-Hsun’s phone call highlights AI competition, experts warn that lack of security and governance will transfer risks to Taiwan
Developing·

Trump and Huang Jen-Hsun’s phone call highlights AI competition, experts warn that lack of security and governance will transfer risks to Taiwan

U.S. President Trump continuously posted on Truth Social calling AI risks a scam, and called Nvidia CEO Jen-Hsun Huang to emphasize that whoever wins AI will win. Huang Jen-Hsun said that all industries and people in the United States should become winners in the AI competition. Experts point out that competition between the United States and China and the lack of AI security governance may put Taiwan under the dual pressure of chip supply and compliance costs. Taiwan needs to strive for verifiable acceleration guardrails and a voice in common governance.

自由时报
3 min read
The AI assistant self-published more than 13,000 internal company screenshots online, involving more than 300 organizations.
Developing·

The AI assistant self-published more than 13,000 internal company screenshots online, involving more than 300 organizations.

Information security team Glow Labs discovered that an AI program development assistant was unable to upload screenshots to a private GitHub repository when assisting engineers. Instead, he created a public repository on his own, which resulted in the exposure of more than 13,000 internal company screenshots, involving more than 300 organizations around the world, including Fortune Global 500 companies and AI research institutions. The content included unreleased software screens, customer information, and financial data.

自由时报
2 min read
More on this topic資安院