2023年初,一款名為“GPTZero”的應(yīng)用悄然上線。這款應(yīng)用由普林斯頓大學(xué)一名名為愛(ài)德華.田(Edward Tian)的學(xué)生開發(fā),他創(chuàng)建這個(gè)應(yīng)用是為了回應(yīng)前段時(shí)間爆火的ChatGPT,幫助人們辨別文字內(nèi)容是人類書寫還是ChatGPT生成,后者已于本月被紐約教育部禁用。
愛(ài)德華.田今年22歲,是計(jì)算機(jī)科學(xué)專業(yè)大四的學(xué)生。去年在一次演講中,他的論文導(dǎo)師在全班面前展示了一組文本,并要求學(xué)生區(qū)分哪些是人類寫的,哪些是人工智能生成的。許多學(xué)生猜錯(cuò)了。因此,愛(ài)德華意識(shí)到有個(gè)問(wèn)題需要解決:幫助人們分辨文本的作者是機(jī)器還是人類。
【資料圖】
他利用寒假的時(shí)間開發(fā)了GPTZero,該應(yīng)用程序的工作原理是查看文本中的兩個(gè)變量——困惑度和突發(fā)性——并為每個(gè)變量打分。
首先,該應(yīng)用程序會(huì)根據(jù)需要測(cè)試的文本和其訓(xùn)練文本的相似度來(lái)做出初步判斷:如果需要測(cè)試的文本和數(shù)據(jù)庫(kù)中已有的文本越不相似,那么它就“更有可能是人類寫的”。
此后,GPTZero會(huì)統(tǒng)整文本中的變化程度,例如文本是更平整、統(tǒng)一還是有較多的長(zhǎng)短句混用?“一篇由人寫的文章會(huì)有很大的變化,”愛(ài)德華說(shuō)?!八?的統(tǒng)一度)會(huì)忽上忽下,會(huì)突然出現(xiàn)峰值。”
愛(ài)德華仍在致力于改進(jìn)GPTZero,但他已經(jīng)發(fā)布了一個(gè)測(cè)試版供公眾使用。1月3日,他發(fā)布了一條推文,演示了這款應(yīng)用如何成功地分辨出《紐約客》雜志發(fā)表的文章和ChatGPT寫的信。
后來(lái)愛(ài)德華還使用了BBC部分稿件的標(biāo)題,使用ChatGPT撰寫文章,并在GPTZero中進(jìn)行了測(cè)試。他說(shuō),GPTZero成功猜出了文本之間的差異,誤報(bào)率不到2%。
自推出以來(lái),GPTZero已經(jīng)被成千上萬(wàn)的人使用。愛(ài)德華表示自己已經(jīng)被世界各地的老師和大學(xué)招生官員都聯(lián)系,“他們對(duì)這種方法很感興趣?!?/p>
今年年初,由于ChatGPT帶來(lái)了越來(lái)越多的學(xué)術(shù)造假,美國(guó)紐約市教育部正式禁用ChatGPT,以保護(hù)學(xué)術(shù)誠(chéng)信。該教育部發(fā)言人Jenna Lyle出面解釋:“由于擔(dān)心對(duì)學(xué)生學(xué)習(xí)的負(fù)面影響,以及對(duì)內(nèi)容安全性和準(zhǔn)確性的擔(dān)憂,我們將限制在紐約市公立學(xué)校的網(wǎng)絡(luò)和設(shè)備上訪問(wèn)ChatGPT?!?/p>
此外,紐約市、巴爾的摩縣、弗吉尼亞州的勞登縣和阿拉巴馬州的蒙哥馬利縣也開始限制學(xué)生訪問(wèn)ChatGPT。
勞登縣發(fā)言人丹.亞當(dāng)斯(Dan Adams)表示,弗吉尼亞州學(xué)校的工作人員目前正在禁止學(xué)生從網(wǎng)絡(luò)或電子設(shè)備上訪問(wèn)ChatGPT,以“保持模范教育工作者的地位”,他們“期望學(xué)生被呈現(xiàn)的作品達(dá)到最高水平的誠(chéng)實(shí)”。
此外,還有人擔(dān)心ChatGPT會(huì)搶走作家和創(chuàng)意人員的工作,或者被黑客用于更邪惡的目的,編寫惡意軟件。也因此,雖然GPTZero是為了打擊學(xué)術(shù)抄襲而創(chuàng)建的,但愛(ài)德華表示,他認(rèn)為它也可以被用來(lái)解決人工智能日益普及所帶來(lái)的其他問(wèn)題,比如打擊謠言。
然而,盡管開發(fā)了“反制”ChatGPT的軟件,愛(ài)德華并不反對(duì)人工智能——事實(shí)上,他對(duì)人工智能的出現(xiàn)“感到非常興奮”,人工智能也幫助了他編寫計(jì)算機(jī)代碼和解決其他問(wèn)題。但他同樣表示,為任何新技術(shù)制定安全保障措施都很重要,這能讓新技術(shù)的推廣有更多的可信度。
綜合/編譯:南都記者胡耕碩
教育部學(xué)校大學(xué)
標(biāo)簽: 人工智能 弗吉尼亞州 應(yīng)用程序
熱門