生成式AI快速產出內容真假難辨，缺乏查核機制恐助長新一代內容農場

文：張瑞邦（Tucker Chang）

近幾個月來，生成式A速產生成式人工智慧（Generative AI）衝擊網路經濟模式及網路內容產出的出內跡象似乎越來越明顯，首先是假難購物平臺亞馬遜（Amazon）的「垃圾化」（junkification），再到社群網路服務公司TikTok的辨缺「狗屁化」（Enshittification），以及人工智慧（以下簡稱AI）產出不實訊息及內容農場（Content farm）的乏查數量大幅增加，連OpenAI開發的核機AI聊天機器人程式「ChatGPT」，都被部分人士用來生成假訊息。制恐助長

根據美國科技新聞平台《The新代 Verge》報導，2023年3月甚至還出現科技巨擘Google和微軟（Microsoft）的內容農場AI聊天機器人相互引用彼此錯誤訊息的窘況。

《The生成式A速產 Verge》資深記者文森（James Vincent）表示，網路曾長時間作為個人和企業創造、出內實踐各類想法的假難場域，人們靠著數位世界產出各式文字和圖像，辨缺部分人士更因為創建多樣且功能齊全的乏查平台而賺取豐厚利潤，一旦這些網站有足夠的核機流量，通常就有機會帶來商機，然而AI的出現卻逐漸改變現有的網路經濟模式。

文森對此便於《The Verge》撰文分享自身對於網路經濟模式及資訊生成改變的觀點，另亦解讀AI當前如何衝擊網路平台、未來數位世界的發展。

大型網路平台如何應對AI生成內容？

文森指出，全球社交娛樂及新聞網站「Reddit」、維基百科（Wikipedia）、Google以及程式設計領域問答網站「Stack Overflow」等受歡迎或普及性高的平台，近年來皆或多或少遭到AI帶來的衝擊。

Reddit近日便表示，公司已改變自身平台的應用程式介面（以下簡稱API）收費準則，從原本使用API完全免費改為大幅提高收費金額。《The Verge》對此披露，Reddit更改API收費標準起因在於Google Bard、OpenAI ChatGPT這類人工智慧聊天機器人程式，能蒐集Reddit累積的大量數據來學習人類溝通模式並生成聊天內容。