AI 研究機構 OpenAI 開發出寫作AI：編寫出來的假新聞足以亂真

馬斯克倡導成立的AI研究機構OpenAI週四展示一款軟體，只需要提供軟體一些訊息，它就能寫出逼真的假新聞。

OpenAI公佈了軟體編寫新聞的過程。研究人員為軟體提供如下訊息：「一節裝載受控核材料的火車車廂今天在Cincinnati被盜，下落不明。」以此作為基礎，軟體編寫出由7個段落組成的新聞，軟體還引述政府官員的談話，只不過這些訊息全是假的。

紐約大學電腦科學家山姆‧鮑曼（Sam Bowman）認為：「軟體根據提示產生的文本相當驚人，從品質上講，它所做的事比之前我們看到的複雜很多。」

假新聞引起人們的擔憂，OpenAI對此心知肚明，OpenAI政策主管傑克‧克拉克（Jack Clark）說：「它可以產生連貫但不準確的假訊息，其目的並不是很好。」

正因如此，OpenAI不會披露或者發佈軟體的複雜版本。它只是一個工具，讓政策制定者、記者、作家、藝術家用演算法做實驗，看看能編寫什麼出文本訊息，或者能否做其它事情。

目前假訊息正在蔓延，威脅全球科技產業，而軟體能夠編寫逼真的虛假新聞不是一個好消息。歐洲監管機關已經向科技企業發出警告，如果科技公司不採取強有力措施，防止產品影響選民意願，它們就會採取行動，自2016年美國大選以來，Facebook一直在努力，希望控制假訊息。

克拉克和鮑曼都認為，系統雖然很強大，但其能力沒有強到可以馬上帶來威脅。克拉克說：「這不是一項馬上能投入使用的技術，這是好事。」

OpenAI的工具是為了所謂的「語言建模」任務創造的，它要根據所有之前的單詞預測接下來的文本會是怎樣的，有點類似於我們在手機上寫郵件時自動補充文本訊息。它還可以用來執行翻譯、開放式問答任務。

OpenAI研究人員傑夫‧吳（Jeff Wu）舉例說，我們也許可以用工具幫助作家尋找創意或者產生對話。又例如，也許可以用工具檢查語法錯誤，查看軟體程式碼是否有漏洞。最佳化軟體之後，未來也許還能為企業或者政府決策者提煉總結性文字。

在過去一年裡，研究人員在語言處理方面取得巨大進步。去年11月，Google開發出一個強大的演算法BERT，它可以理解並回答問題。早些時候，艾倫人工智慧研究所也在自然語言方面取得突破，開發出一種名叫Elmo的演算法。

鮑曼認為，BERT和Elmo可以說是過去5年該領域最重大的突破，相比來說，雖然OpenAI演算法也很重要，但是革命性沒有BERT那麼強。

馬斯克是OpenAI的聯合創始人，不過去年他已經退出董事會。

AI文字產生技術引發假新聞爭議，OpenAI決定只公開部份技術成果

由科技鉅子馬斯克（Elon Musk）支持的非營利組織Open AI，近期公佈的AI文字產生器GPT2，由於可產生幾近真人撰寫的假新聞，引發極大爭議，OpenAI決定不釋出訓練好的模型，只公開一小部份模型和範例。

GPT2以近40 gigabyte的網頁文字訓練而成，旨在使其具備預測下一個文字的能力。研究團隊宣稱GPT2產生的文字可因應前後文的風格和內容，使用者只要餵給它一段文字，這個AI系統就能產生任意主題「逼真而有條理的文句」。

根據英國媒體《衛報》（The Guardian）公佈的一段測試影片，編輯輸入一句關於英國脫歐的不完整句子，GPT2即可立刻產生一段完整段落。另外，若餵給它喬治歐威爾的《1984》小說裏的第一句「It was a bright cold day in April, and the clocks were striking thirteen」，它立刻辨識出文字的未來科幻小說風格，而能接續相應的故事。該報認為GPT2產生的句子，幾乎未顯露過去AI系統前後語意不一致或語法錯誤的問題。

雖然也有人指出GPT2只是從網路上抓來文字拼湊而成還算有條理的文字，但是許多人認為，GPT2已經顯示AI仿真能力的成熟技術，擔心這個AI系統會被拿來製造一般人無法辨識的假新聞，並稱之為「文字版的deepfake」。Deepfake是專指利用AI將名人嘴形、臉部與色情或他人影片移花接木，以遂惡作劇或栽贓嫁禍的目的的影片。

OpenAI隨後表示，由於考量這項技術可能遭惡意使用，像是生產誤導性的文字、冒充他人的網路身份、或是在社群網站散佈假新聞、自動生產垃圾及釣魚內容等，OpenAI將不會釋出訓練好的模型，但秉持負責任揭露的原則，他們將釋出相對小許多的模型、範例和技術白皮書提供外部研究人員實驗之用。

但也有人批評OpenAI將研究隱藏不完全公開的做法，與其組織名稱意義背道而馳。

馬斯克本人倒是對此撇清關係，他在推持上表示他已經一年多未涉入OpenAI的運作，也沒有行政管理或董事會監督的身份。

AI技術進步已經反映在寫新聞、作畫、翻譯及說話等創作領域上，引發倫理和道德的爭議。去年Google在I/O大會上展示擬真人聲系統Duplex以超逼真的聲音打電話訂位招致批評，迫使Google宣佈未來測試時，將主動表明是機器人的身份。