MIT開發PhotoGuard保護圖像免受惡意AI編輯

隨著生成式AI系統的不斷發展,公司們努力將其產品與競爭對手區分開來,使聊天機器人等應用越來越具備編輯和創建圖像的能力。然而,這些新的AI增強功能也帶來了一系列問題,例如對現有在線藝術作品和圖像的未經授權操縱或直接盜竊。

MIT開發PhotoGuard保護圖像免受惡意AI編輯

發展起源

隨著生成式AI系統的不斷發展,公司們努力將其產品與競爭對手區分開來,使聊天機器人等應用越來越具備編輯和創建圖像的能力。然而,這些新的AI增強功能也帶來了一系列問題,例如對現有在線藝術作品和圖像的未經授權操縱或直接盜竊。為了解決這個問題,水印技術在一定程度上提供了保護,但在更深層次上,麻省理工學院計算機科學與人工智能實驗室(CSAIL)開發的新技術「PhotoGuard」可能成為更有效的解決方案。

干擾AI判讀的原理

PhotoGuard的工作原理是通過修改圖像中的某些像素,以混淆AI的理解能力。這些所謂的「干擾」對於人類來說是不可見的,但機器可以輕易讀取。這種「編碼器」攻擊方法是針對算法模型對目標圖像的潛在表示,即描述圖像中每個像素位置和顏色的複雜數學模型,從而基本上阻止了AI理解圖像。

另一種更高級且計算密集的「擴散」攻擊方法是將圖像偽裝成AI認為是不同圖像。它會定義一個目標圖像並優化圖像中的干擾,使其看起來類似於目標圖像。任何對這些「免疫」圖像的編輯都會應用到虛構的「目標」圖像上,從而生成一幅看起來不真實的圖像。

該研究論文的首席作者Hadi Salman指出PhotoGuard使用編碼器攻擊,使模型誤以為輸入圖像是另一個圖像,並透過擴散攻擊迫使模型編輯目標圖像。但該技術並非萬無一失,惡意行為者可以透過新增數字噪聲、裁剪或翻轉圖片來對受保護的圖檔進行反向工程。

保護數位藝術和數據隱私

Hadi Salman呼籲合作達擊未經授權的圖像的操縱,並指出需更多工作使保護技術變得實際可行,公司應投入工程建設,以抵抗AI工具的潛在威脅。PhotoGuard的出現在保護數位藝術和數據隱私方面提供了更多的選擇和保障。此外,PhotoGuard的出現也為AI技術在創意領域的應用提供了更多可能性。隨著科技的不斷進步,PhotoGuard有望成為確保圖像版權和創意保護的重要工具,為創作者提供更完整和全面的保護。這不僅對保護創作者的權益有益,也可以促進更多的創意和創新在數位領域中的發展。

(原文出自:https://www.engadget.com/mits-photoguard-protects-your-images-from-malicious-ai-edits-213036912.html)

Read more

Meta 收購語音新創 Play AI:加速佈局 AI 聲音技術與超級智慧計畫

Meta 收購語音新創 Play AI:加速佈局 AI 聲音技術與超級智慧計畫

Meta 正式收購語音 AI 新創公司 Play AI,進一步強化其在人工智慧領域的投資與佈局。根據 Bloomberg 報導,Meta 已向媒體證實這項收購,並透露 Play AI 的全體團隊將於下週加入 Meta。 Play AI 是一家專注於開發自然人聲合成技術的創業公司,透過 AI 模型生成逼真的語音,並打造一個簡便的語音創作平台。Meta 在內部備忘錄中指出,Play AI 的技術與平台非常契合 Meta 的未來發展藍圖,尤其是在 AI 虛擬角色(AI Characters)、Meta AI 助理、可穿戴裝置(Wearables)、以及音頻內容創作等應用上。 0:00 /0:34 1× 收購金額未公開,顯示 Meta