(資料圖片)

周二，人工智能研究初創(chuàng)公司OpenAI推出了一款工具，可以弄清文本是由人類撰寫(xiě)的還是由計(jì)算機(jī)生成的。

兩個(gè)月前，OpenAI推出的聊天機(jī)器人ChatGPT吸引了公眾的注意，ChatGPT可以根據(jù)人的提示生成看起來(lái)似乎是由人撰寫(xiě)的文本。在引發(fā)了一波關(guān)注之后，微軟(MSFT.US)上周宣布，對(duì)OpenAI進(jìn)行數(shù)十億美元的投資，并表示將把這家初創(chuàng)公司的人工智能模型整合到其面向消費(fèi)者和企業(yè)的產(chǎn)品中。

學(xué)校很快就限制使用ChatGPT，擔(dān)心這一軟件會(huì)影響學(xué)生學(xué)習(xí)。OpenAI的CEO Sam Altman表示，過(guò)去，在計(jì)算器等技術(shù)出現(xiàn)后，教育也發(fā)生了變化，但他也表示，公司可能有辦法幫助教師識(shí)別人工智能撰寫(xiě)的文本。

該公司員工Jan Hendrik Kirchner、Lama Ahmad、Scott Aaronson和Jan Leike在一篇博文中寫(xiě)道，“OpenAI的新工具可能會(huì)出錯(cuò)，這是一項(xiàng)正在進(jìn)行中的工作，公司希望家長(zhǎng)和老師對(duì)分類器提出反饋”。

這些OpenAI員工寫(xiě)道，“在我們對(duì)英語(yǔ)文本的‘挑戰(zhàn)集’評(píng)估中，我們的分類器正確地將26%的人工智能撰寫(xiě)的文本(真陽(yáng)性)識(shí)別為‘可能是人工智能撰寫(xiě)的’，而將人類撰寫(xiě)的文本錯(cuò)誤地標(biāo)記為人工智能撰寫(xiě)的文本的比例為9%(假陽(yáng)性)”。

這并非是人們首次嘗試確定文本是否是由機(jī)器生成的。本月早些時(shí)候，普林斯頓大學(xué)學(xué)生Edward Tian發(fā)布了一個(gè)名為GPTZero的工具，并在發(fā)布工具的網(wǎng)站上指出，這是為教育工作者而制作的。OpenAI自己也在2019年發(fā)布過(guò)一個(gè)檢測(cè)器，但它沒(méi)有ChatGPT的核心內(nèi)容那么復(fù)雜。員工們寫(xiě)道，新版本更適合處理來(lái)自最新人工智能系統(tǒng)生成的文本。

新工具不擅長(zhǎng)分析少于1000個(gè)字符的文本，而且OpenAI不建議將其用于英語(yǔ)以外的其他語(yǔ)言。另外，員工們寫(xiě)道，可以對(duì)人工智能生成的文本稍作更新，使分類器無(wú)法正確判斷它是否主要是由人類撰寫(xiě)的。

即使早在2019年，OpenAI就明確表示，識(shí)別合成文本并非易事。公司打算繼續(xù)克服這方面的挑戰(zhàn)。員工們寫(xiě)道，“我們將繼續(xù)進(jìn)行檢測(cè)人工智能生成的文本方面的工作，我們希望在未來(lái)分享改進(jìn)的方法”。

關(guān)鍵詞： OpenAI 智通財(cái)經(jīng)網(wǎng)