Gemini 遭Google暫停人物圖像生成功能

近期，Google的人工智慧聊天機器人Gemini在生成用戶要求的人類圖像時，因應族群多元化原則而改造歷史人物或名人長相，導致多起種族方面的錯誤。這一系列事件促使Google緊急修正，暫時關閉了Gemini的人物圖像生成功能。

Google透過X官方帳號表示，團隊正在解決Gemini圖像生成功能近日出現的問題，並將暫停該功能，預計不久後會推出改善版本。這次的爭議主要發生在用戶利用Gemini生成的一些歷史人物圖像中，例如生成的非裔美國開國元勛、看起來不像Google創辦人Larry Page及Sergey Brin的圖像，以及亞洲臉孔的納粹軍官、非裔天主教教宗等，顯示出用以設計Gemini生成內容的平等、多元化原則套用在歷史人物上並不完全適用。

Google坦承，Gemini的AI圖像生成功能確實產出了各種人物圖像，這通常是好事，因為使用者來自世界各地，但此次事件卻顯得尷尬。此外，這不是生成式AI首次出現圖片爭議。去年，Midjourney的免費版AI圖片生成服務和微軟的圖片AI生成工具也曾因類似問題引發爭議。

為了防止濫用並避免引發爭議或當局介入，從OpenAI到微軟、Google、Meta等主要業者在任何圖片或影片AI生成服務上線前，都會設下使用限制並找來專業團隊進行攻擊演練。