澳洲 eSafety：脫衣 AI 應用月載逾 20 萬
澳洲 eSafety 專員 Julie Inman Grant 10 月 20 日在國會聯合特別委員會作證，稱「脫衣」類 AI 應用每月被澳洲人下載逾 20 萬次，其辦公室已對 8 項此類服務採取法律執法行動。eSafety 研究稱每 5 名兒童就有 1 名曾與 AI 聊天機器人有潛在不當或有害互動。內容取自媒體報導。
澳洲 eSafety 專員 Julie Inman Grant 週二在國會人工智慧聯合特別委員會作證，表示會產生性化深偽影像的「脫衣」（nudify）AI 應用，每月被澳洲人下載逾 20 萬次，校園內的深偽影像性虐待通報增加。她的辦公室已對 8 項此類服務採取法律執法行動。
據 The Nightly 報導，Inman Grant 說 eSafety 的研究發現，每 5 名澳洲兒童就有 1 名曾與 AI 聊天機器人或陪伴服務發生潛在不當或有害的互動，每 3 名就有 1 名曾向這類技術分享個人或可能敏感的資訊。她並說，AI 正被用來製作兒少性剝削與虐待素材。
她表示，犯罪集團正以語音與臉部複製擴大對年輕男性與男孩的性勒索，並提到加拿大一項調查：有 AI 模型被指由戀童者製作，利用倖存者童年的影像生成合成虐待素材。她也說，若 Fortnite、Minecraft、Steam 與 Roblox 背後的公司未補上有害內容偵測的缺口，將面臨正式執法。
在政策面，Inman Grant 主張加強對 AI 公司的監管與獨立監督，擴大主管機關蒐集資訊與測試系統的權力（目前 eSafety 無權以刻意設計的提示詞測試 AI 系統是否會產出特定違法內容），並推動「數位注意義務」改革。她認為重大風險不該交由 AI 公司自行評估。
跟你的關係
家中有學童的人，可以留意孩子是否使用陪伴型聊天機器人，並提醒他們不要分享個資與照片。學校與家長若遇到被偽造的影像，應保存證據並向平台與主管機關通報。
重點
- 10 月 20 日澳洲 eSafety 專員在國會委員會作證
- 脫衣類 AI 應用每月被澳洲人下載逾 20 萬次
- 辦公室已對 8 項此類服務採取法律執法行動
- eSafety 研究：每 5 名兒童有 1 名曾有不當 AI 互動
- 主張擴大測試 AI 系統與數位注意義務等權力
來源
本站內文為依上列來源整理的摘要，未另外增加事實；細節請以原文為準。