Categories: 業界新聞

Facebook 推出TextStyleBrush,簡直Deepfake文字版,模仿你的筆跡只需1個詞

本文來自微信公眾號“量子位”(ID:QbitAI),作者:明敏、蕭簫

終於,我小學時的夢想有人實現了!

只需要我拍下自己的筆跡,AI就能幫我謄抄英語作業,畫風“完全一致”的那種:

甚至幫別人抄作業也沒問題……

簡直屌打一批只能仿手寫、價格還動輒幾百上千的“作業神器”。

咳咳,劃重點

雖然功能很強大,但這可不是給你們抄英語作業的。(作業就得認真做!)

這是Facebook AI最新出品的“文字風格刷”(TextStyleBrush)

它只需要一張筆蹟的照片,就能完美還原出一整套文字筆跡來。

不僅能移花接木,憑空將“醬油瓶”變成“茶壺”:

還能直接實現風格替換,讓超市店裡的所有印刷字都變成手寫體:

這樣看來,現在就連照片文字,也不一定是真實的了。

比格式刷還強:文本也能換

在實際使用過程中,TextStyleBrush真的就是個格式刷,哪裡需要刷哪裡。

它真正厲害的就是模擬手寫字體。

只需輸入一段文本內容,加上你的筆跡,1個單詞即可,它就能生成“手寫版”。

這個效果,用肉眼看真的是分辨不出真偽!

把菜場中價籤的印刷體都換成手寫體的過程中,它還能識別出不是印刷體的樣本,自動跳過轉換合成。

模擬特定字體格式時,TextStyleBrush表現也很不錯。

包括海報、垃圾桶、路牌、飲料瓶、店面裝飾……各種文字的風格都能handle:

除了直觀的效果,開發人員對合成圖片也做了數據上的分析。

TextStyleBrush生成的圖片在合成誤差(MSE)上大幅降低,峰值信噪比(PSNR)和結構相似性(SSIM)也提高不少。

在文字識別的準確性上,TextStyleBrush在三組數據集中的表現都不錯:

準確率都高達95%以上。

拿GAN改一改,真假文字難辨認

據Facebook介紹,“文字風格刷”TextStyleBrush是一個基於自監督方法訓練的模型,可以對相同文本內容的文字進行風格轉換,就像格式刷一樣。

當然,不只是Word的格式刷,它甚至能直接對照片中的文字進行替換,因此模型還需要學習文字識別圖像分割的方法。

為了同時實現圖像分割和文字風格轉換,TextStyleBrush模型基於StyleGAN2進行了設計,後者能生成非常逼真的圖像照片。

然而,StyleGAN2存在兩個問題:

首先,它生成圖像的方式是“隨便亂打”的,也就是沒辦法控制輸出圖像特徵。但TextStyleBrush必須要生成指定文本的圖像。

其次,StyleGAN2的整體風格不受控制,但TextStyleBrush中的風格涉及大量信息組合,包括顏色、尺度和風格轉換等特徵,甚至是帶有個人特色的筆跡細節差異。

為此,TextStyleBrush首先通過將文本信息和風格作為兩個“附加條件”控制模型輸出,來解決模型隨機生成圖像的問題。

然後,為了進一步更精細地控製文本的風格特徵,還會提取神經網絡層中的各種風格信息,並將這些信息注入文本生成器中,便於從各種尺度(顏色、整體風格、細節)上控製文字的風格。

除此之外,由於不同的圖片分辨率不同,生成器還必須生成和替換區域分辨率相似的文字。

為此,這一模型加入了能夠控制高低分辨率的結構,使得生成的文字圖像能匹配輸入圖像的分辨率。

就像這樣,替換前後也不會出現字體清晰度差異大的問題:

但不同於照片,文字的風格其實要更加自由,所以有時候畫風的真實性不好說。

為此,在訓練的時候,Facebook引入了一種創新的自監督訓練方法,結合風格分類、文本識別(OCR)和GAN三種模型來保留輸入的風格/文字內容,再決定要替換哪個。

例如,在文本識別上,讓TextStyleBrush生成文本圖像後,模型會用一個預訓練文本識別結構來“判斷”圖像的文字內容,並給它打分。

事實證明,這樣訓練出來的模型,確實很好用。

網友:以假亂真?我真有點擔心……

合成人臉已經玩太多了,合成筆跡還是頭一回。

而且它的效果真的還不錯!

所以,TextStyleBrush一經發布,就引來了很多人的圍觀。

已經有網友開始想像它的用途了:

歡迎來到花式簽名的世界!

LeCun也轉發了一波。

不過,能看不能玩實在是太難受了,有手癢的網友就跑來提問:

TextStyleBrush會對大眾開放使用嗎?

這自然也就引出來一個會引起爭議的點:

合成後的筆跡足以以假亂真,如果被濫用或惡意使用怎麼辦?

假設任何一個人的筆跡都能被非常輕鬆地合成,那許多需要簽字的場合該怎麼辦呢?

例如,有網友表示,要是連醫生們的“草書”處方都能模仿……

而除了安全隱私問題上的擔憂,這對字體設計師來說也不是個好消息。

畢竟各款字體其實都是有版權的,如果可以被輕鬆模擬出來,那豈不是盜版滿天飛,甚至連作者本尊都分辨不出來真偽。

有網友就表示:這離真假難辨的反烏托邦世界更近了一點……

對此,Facebook的CTO作出了回應:

因為可能會被用來偽造筆跡,所以我們只發布論文和數據集,源代碼並不會開源

分享研究和數據集,也更多是為了預防文本版Deepfakes。

你覺得呢?

TextStyleBrush數據集:

https://github.com/facebookresearch/IMGUR5K-Handwriting-Dataset

論文地址:

按一下以存取 10000000_944085403038430_3779849959048683283_n.pdf





喜歡這篇文章的話,請幫這篇文章點個讚,或者到 雲爸的3C學園按個讚,快速得到最新的文章喔


有任何疑問,歡迎加入《3C問題互助團》社團這裡可以讓大家互相討論手機、電腦問題

不定時我也會在這邊舉辦抽獎,歡迎一起來聊聊

雲爸

你好,我是雲爸 為了表示親切,叫我爸就可以了~ 專注於各式3C產品的開箱評測,不囉唆不贅字