AI換臉欺騙大眾

AI換臉欺騙大眾
本片摘自：
https://t.me/FlatEarthAndMore

■這是”年輕的Simon Cowell”在美國達人秀中的表演。 在 Simon Cowell 面前通過了美國達人秀的認可，因為這是個深度造假的製作。

這是烏克蘭總統澤倫斯基 （Volodymyr Oleksandrovych Zelenskyy ）要求他的士兵投降的深度造假影片。

一個是娛樂性的，而另一個則是對深度造假的潛在危險提出警訊。 這是深度造假deep fake的兩張臉。

由於fake這個詞，deep fake這個詞給人一種負面的感覺。 像Metaphysic.ai
這樣的公司正在竭盡全力消除公眾對深度造假的誤解。
https://www.metaphysic.ai/
這就是Metaphysic.ai這家公司他們在美國達人秀中所做的。
https://www.youtube.com/watch?v=mPU0WNUzsBo

■深度造假在各個領域都有許多實際應用。 例如，新聞媒體可能每週 7 天、每天 24 小時發布新聞，而實際上記者卻不在現場。

通過使用自己記者的深度造假，他們可以降低工作室和人事開支成本，從而為企業節省大量時間和金錢。 來自韓國電視網絡 MBN(每日廣播，Maeil Broadcasting Network），簡稱MBN) 的新聞主播 Kim Ju-ha 向觀眾呈現的是深度偽造出來的。 新聞播報員是虛擬的，正如該頻道之前告知觀眾的那樣，Kim Ju-ha仍然受僱於南韓的每日廣播。
https://www.youtube.com/watch?v=k8X_Em-NQn0

然而，每日廣播MBN 表示，它打算繼續使用 深度造假deepfake 進行一些突發新聞報導。 而創造 deepfake 的韓國公司DeepBrain AI 表示，它正在尋找中國和美國的媒體買家。
https://www.deepbrain.io/

■這讓一些人憂慮新聞播報員可能會過時。 由於近年來深度偽造技術的發展，已經創建了一個專門用於湯姆克魯斯深度偽造技術的 TikTok 帳戶。裡面有克魯斯做任何事情的影片，包括洗手和打高爾夫球，以及變魔術，都可以在網上找到。 生產令人信服的美國達人秀的評審西蒙考威爾Simon Cowell在舞台上唱歌的呈現Metaphysic.ai這樣的公司的同一家公司做到了這一點。 Deepfakes 在電影行業有許多潛在用途。

■您可以帶回已故的男演員或女演員。 從倫理的角度來看，這是值得商榷的。 但是，如果我們不考慮道德，它在技術上完全可行。 而且，它可能比其他選項便宜得多。 Deepfakes 能將電影中的原初演員的特色加以重建。

因為他們可以修改鏡頭和複製聲音。 聲音與原初的演員相似，而且至關重要的是，嘴唇的動作甚至與所說的話相符。 借助正向深度造假，我們可以在全球範圍內更好地交流思想、電影和其他創意作品，即使是那些財政緊縮的國家。 這應該會增加我們娛樂性消費和內容的多樣性。換句話說，deepfakes 可以克服語言障礙並增加內容的可訪問性。

■Deepfakes 不僅僅出現在視頻中。 Deepfake 音頻是一個快速擴展並擁有大量用戶的領域。 深度學習算法現在可以創建逼真的音頻 deepfakes，只需幾個小時的聲音被複製的人的音頻。 一旦創建了聲音模型，就可以讓那個人說任何話。 由於deepfake 音頻程序員現在可以允許玩家角色在遊戲中說任何話，而不是依賴於遊戲發布前製作的少量台詞。

■有些人使用這項技術進行金融欺詐、數據洩露、網絡釣魚詐騙、自動錯誤信息攻擊以及從通常值得信賴的來源傳播誤導性信息。批評者還指出了利用深度造假來推進政治議程的風險，例如通過製造看似可信的假新聞。政客們也使用了深度偽造視頻。 2018 年，比利時一個政黨公開了一段視頻，顯示唐納德·川普在演講中敦促比利時人退出巴黎氣候協定。但川普從未發表過那次演講，因為這是一個深度造假出來的影片。

它可以通過使用受歡迎的人的身份來掃描人，社交媒體上有足夠的數據來識別某個有影響力的人或名人。 網上有數以千計的照片和視頻，可以用作訓練數據，以真實的人的名義製造欺詐。 這就是為什麼 AI 社群害怕像 AI 圖像生成器一樣向所有人提供深度偽造，無論他們的背景如何。 就像深度造假一樣，AI 圖像生成器可用於非法活動。 隨著像DALL·E 2 - OpenAI這樣的平台變得超現實並且在 GitHub Copilot上看起來很真實，可能會發現很多 deepfake 軟體。
https://openai.com/dall-e-2

https://github.com/features/copilot

■Deepfake 製作目前是合法的，因為其中一些應用程序僅用於純粹的娛樂，但其他應用程序更有可能被惡意使用。 許多專家預測，隨著技術的進步，deepfakes 將變得更加複雜，並以選舉干預、政治動盪和犯罪活動增加的形式對公眾構成更大的危害。 隨著技術的進步，深度造假只會隨著時間的推移變得更加真實，但在對抗它們時，我們並非毫無防備。幾家企業正在開發 Deepfake 檢測技術，其中一些是初創公司。

■例如，Sensity AI 已經創建了一個深度偽造識別平台，該平台的工作原理類似於防病毒軟件，並在用戶觀看包含人工智能虛假媒體跡象的內容時通過電子郵件通知他們。
https://sensity.ai/
Sensity AI用於檢測虛假視頻的深度學習技術與用於創建深度虛假視頻的技術相同。 某些知名品牌正在使用 Deepfake 來製作與眾不同的廣告，並可能吸引各種消費者。吉百利牛奶巧克力Cadbury Chocolate | Cadbury.co.uk 與寶萊塢明星 Shahrukh Khan 1965年11月2日—），合作，(他是印度寶萊塢當代最成功的男演員、節目主持人、製片人。)針對印度受 COVID-19 影響的小型企業開展營銷活動。 企業主提供有關其企業的信息，吉百利利用深度造假技術模擬 Khan 先生，在有針對性的廣告中為他們背書。

■樂事在 2021 年初採取了類似舉措，創建了一個名為 Messy Messages 的網站，球迷可以在該網站上輸入自己的姓名，以接收來自這位傳奇足球運動員的個性化信息。
樂事（Lay's，台灣、越南初使用波卡（POCA）品牌、於英國與愛爾蘭稱為Walkers、埃及稱為Chipsy、以色列稱為Tapuchips、墨西哥稱為Sabritas），是一種馬鈴薯片系列的商品名，也是一個創立於1938年的馬鈴薯片的品牌。自1965年起樂事洋芋片作為百事公司所擁有的菲多利的子品牌銷售。其他菲多利旗下的商品包含多力多滋、波樂、奇多等。

樂事這個品牌正在使用 Deepfake 來降低視頻廣告的成本。 Deepfake 活動使公司更容易進入國外市場，擴展營銷預算，並只需按一下按鈕即可為受眾提供高度個性化的內容。 在五到七年內，任何人，例如 YouTuber 或 TikTok Er 都將能夠製作出與目前只有資源最豐富的好萊塢工作室才能提供的相同質量的視覺效果。