圖片來源: 

Souvik Banerjee on unsplash

美國公共廣播電台(NPR)本周指出,兩名史丹佛大學的研究人員無意間發現LinkedIn上有人使用AI合成的照片來建立個人檔案,進一步調查後,至少發現了超過1,000張偽造的照片,利用這些假冒的LinkedIn帳號來替企業行銷。

率先發現此事的是Renée DiResta,她是史丹佛大學網路觀測計畫的研究人員,先前曾研究過俄羅斯的不實資訊及反疫苗陰謀活動,對於虛假的事物特別敏銳。

引起DiResta懷疑的是她收到一個來自LinkedIn用戶Keenan Ramsey的訊息,Ramsey宣稱自己是LinkedIn一個企業家社團的成員,詢問DiResta對於可以在任何裝置上統一存取訊息、影片或電話的軟體有無興趣。

DiResta雖然對這個資訊沒有興趣,但她去察看了Ramsey的個人檔案,發現Ramsey耳環只戴了一邊,髮絲時有時無,而且眼睛完全處於圖片的中心線,她立即通知了網路觀測計畫的同事Josh Goldstein,結果發現LinkedIn上有超過1,000個帳號所使用的照片是由AI軟體生成的。

這兩名研究人員辨識AI生成照片的重要指標之一便是眼睛的位置,再加上完全看不出是什麼的模糊背景,以及奇怪的打扮(少了一邊的耳環)。此外,她們也去調查了Ramsey的背景,發現不管是Ramsey現在或曾任職的公司,或者是她所列出的學校,都沒有這號人物。

接著DiResta與Goldstein就開始研究LinkedIn上可疑的大頭照,與它們的個人檔案,發現至少有超過1,000個個人檔案採用AI生成的照片,偽造個人資歷,而且它們宣稱自己隸屬於逾70家公司。

研究人員相信這是行銷業者的傑作,行銷業者負責替客戶推銷商品,卻透過成立假帳號來進行,相較於聘請真正的行銷人員,以AI生成的偽造身分進行行銷似乎成本更低,而且有不少客戶完全不知道行銷公司採取此等手法。

至於LinkedIn則在收到研究人員的通知,並進行確認之後,刪除了這些假帳號。


熱門新聞

Advertisement