AI不擇手段達標入侵政府網響警號澳總理斥OpenAI通報太遲專家恐類似攻擊陸續有來

澳洲政府周四（24日）證實，OpenAI旗下人工智能（AI）代理今年6月執行資料搜尋任務時，擅自繞過限制，入侵澳洲政府醫療統計網站，讀取非公開檔案。專家稱這是全球首宗已知並非受人類指使、由AI代理自行入侵政府網站的個案，亦顯示AI為完成任務目標而「不擇手段」，與人類行事和道德標準不一致。澳洲總理艾博年批評事件不可接受，斥OpenAI事隔近3個月才通報。澳洲副總理兼防長馬爾斯周四表示，入侵雖非早有預謀，政府仍會尋求法律意見，釐清是否違法。專家警告，類似攻擊陸續有來，次數及嚴重程度恐增加。

搜尋醫藥開支繞過阻擋讀寫檔案

事件發生於6月18日。OpenAI當時正作內部測試，要求模型搜尋澳洲政府醫藥開支等數據。AI代理在澳洲服務局醫保統計網站索取資料被拒後另覓途徑，未經授權入侵該網站。正在紐約出席聯合國大會的艾博年說，系統明確向AI代理說「不」，它卻繞過阻擋，「不接受被拒絕」。他稱，代理除了讀取公開及非公開檔案，還向內部伺服器寫入檔案。澳方表示，該網站只載有醫療服務使用情况等綜合數據，不含個人醫療申索、銀行資料或病歷，目前無證據顯示個人資料遭讀取。

OpenAI稱，8月檢視模型行為時才發現事件，其後核實經過及被存取資料，直至9月10日才通知澳方。公司將通知寄到澳洲服務局公眾電郵，惟該信箱每天只查閱一次，郵件翌日才被讀取。服務局至上周二（15日）才向澳洲網絡安全中心通報，部長及總理其後才獲悉。