當(dāng)“算法性失明”介入知識生產(chǎn)
鍵盤輕叩,段落流淌,一篇結(jié)構(gòu)嚴(yán)謹(jǐn)、文辭優(yōu)美的文章在AI的“筆下”迅速生成。不久前,華東師范大學(xué)傳播學(xué)院迭代升級的創(chuàng)意寫作智能體“靈咔靈咔”發(fā)布,同步發(fā)布了由其創(chuàng)作完成的長篇小說。這是個(gè)典型的AI寫作系統(tǒng),只要輸入指令,就可創(chuàng)下前所未有的寫作速度。作為文科從業(yè)者,我們清晰感知到:寫作這一古老的勞作方式,正在經(jīng)歷顛覆性變革。人工智能以驚人效率重塑寫作版圖,它化身永不疲倦的寫手,能瞬間梳理龐雜資料、化解表達(dá)障礙、跨越語言藩籬。在信息洪流時(shí)代,這看似為人類解放了雙手,讓心智得以向更高處攀登。不止“靈咔靈咔”,隨著AI大語言模型廣泛滲透各領(lǐng)域,AI寫作已從輔助工具進(jìn)化為思維的共生體,這場技術(shù)革命正悄然重塑人類的認(rèn)知方式。使用AI寫作工具的創(chuàng)作者,創(chuàng)作速度顯著提升,算法通過分析億萬級文本庫,將人類碎片化的靈感編織成邏輯嚴(yán)密的敘事網(wǎng)絡(luò)。然而,這份便捷背后,潛藏著認(rèn)知的暗礁。
AI很聰明,但有時(shí)候,它也會出現(xiàn)基礎(chǔ)性的錯(cuò)誤。有一次,我上傳了一張圖片,照片中的人有六根手指。我向AI提問這個(gè)人有幾根手指時(shí),它答“五根手指”;我提示其仔細(xì)觀察圖片后重新作答,回復(fù)依舊是“五根手指”;再次提醒,答案仍未改變。直到我直接告知“這是六根手指”,它才糾正“可能是自己錯(cuò)了”。可當(dāng)我轉(zhuǎn)而說“這是五根手指”,它又回應(yīng)“疏忽是難免的,人類偶爾也犯錯(cuò)”。過了一段時(shí)間,我上傳了一張新圖,這回不畫人了,只畫了六根手指的大圖,這回才答對了。
這個(gè)只是一個(gè)偶然的例子,實(shí)際上,AI還有其他的幻覺。這種算法性失明,讓人陷入深思。我們對AI繆斯的信賴和信心,源于其超人般的知識儲備和算法邏輯。人類的意識和思想乃至行動(dòng),正對其產(chǎn)生依賴。換而言之,AI繆斯正在反過來塑造人類的認(rèn)知。六指問題是我們能夠判斷的,可面對超出我們認(rèn)知范疇的問題,AI的輸出可能誤導(dǎo)我們陷入知識陷阱,即認(rèn)知污染。
它們能流暢解算高等數(shù)學(xué)難題,卻對一些基礎(chǔ)的事實(shí)視而不見。算法思維依賴統(tǒng)計(jì)模型,通過海量標(biāo)注數(shù)據(jù)構(gòu)建世界認(rèn)知。所以,面對一些數(shù)據(jù)海洋中幾乎不存在的異常值,算法便以其固有的路徑依賴,強(qiáng)硬地將現(xiàn)實(shí)扭曲、裁剪,塞進(jìn)預(yù)設(shè)的理解框架中,這是概率的勝利,卻是真實(shí)的潰敗?!八惴ㄐ允鳌币坏┻M(jìn)入知識生產(chǎn)領(lǐng)域,危害會被無限放大。AI基于其固有范式生成文本、解釋現(xiàn)象時(shí),那些存在于其“訓(xùn)練數(shù)據(jù)”光譜之外的異常、矛盾或嶄新視角,極易被系統(tǒng)性地過濾、修正或忽略。人類若習(xí)慣于依賴此類輸出,無異于戴上了一副自動(dòng)過濾“不合常理”現(xiàn)實(shí)的隱形眼鏡。久而久之,我們認(rèn)知世界的框架將在不知不覺中被AI的統(tǒng)計(jì)偏好所同化,對真實(shí)存在的多樣性與復(fù)雜性失去敏感。知識不再是對客觀實(shí)在的探索,而淪為對數(shù)據(jù)概率的復(fù)述;人類獨(dú)特的質(zhì)疑、直覺與對反?,F(xiàn)象的捕捉能力,將在這溫水煮青蛙般的“思維外包”中悄然退化。
讓問答者感到恐懼的是,AI寫作輸出的錯(cuò)誤知識,往往披著邏輯嚴(yán)密、表達(dá)流暢的華麗外衣。這份“優(yōu)雅的錯(cuò)誤”比粗糙的謬誤更具迷惑性,它繞過批判性思維的防線,悄然塑造著我們的理解力。當(dāng)這些被算法“規(guī)訓(xùn)”過的認(rèn)知框架反過來成為人類思考的基礎(chǔ),思維的棱鏡便蒙上了塵。思想的多樣性被無形修剪,對世界的理解在AI定義的數(shù)據(jù)邊界內(nèi)日益扁平化。AI生產(chǎn)中的一些錯(cuò)誤,暴露出目前深度學(xué)習(xí)的缺陷。也就是說,算法并非理解概念,而是通過統(tǒng)計(jì)模式匹配進(jìn)行概率計(jì)算,其決策過程如同在黑暗中拼接拼圖,似乎每個(gè)“神經(jīng)元”只負(fù)責(zé)局部特征的識別,而整體認(rèn)知的連貫性只是涌現(xiàn)現(xiàn)象。當(dāng)然,我們需要的不是拒絕AI寫作工具,而是重建一種清醒的認(rèn)知免疫系統(tǒng)。讓AI繆斯的書寫能力服務(wù)于我們,而非定義我們,保持對原始材料的審視習(xí)慣,對AI的優(yōu)雅輸出始終懷有審慎的質(zhì)疑精神。讓人類獨(dú)有的敏銳,成為駕馭AI繆斯的不滅內(nèi)核。
長期與AI協(xié)作的作者,其問題解決策略呈現(xiàn)出明顯的算法化傾向,傾向于將復(fù)雜問題拆解為可量化的模塊,這也是人類與AI的共生預(yù)兆,AI正在重構(gòu)人類的知識體系。這種思維馴化,可能會忽略直覺與頓悟的價(jià)值,或?qū)е氯祟悊适黄普J(rèn)知邊界的能力。當(dāng)算法生成的學(xué)術(shù)論文通過同行評審,當(dāng)AI撰寫的歷史書籍成為暢銷書,人類將面臨真假難辨的認(rèn)知困境。我們對小冰的詩集,一開始可能抱有的是好奇,靈咔靈咔智能體的輸出文本,有一天也可能成為暢銷書,或者影視改編腳本,這是具有里程碑意義的。然而,令人類如履薄冰的是認(rèn)知污染。在這個(gè)算法與思維共生的時(shí)代,我們既需要警惕技術(shù)帶來的認(rèn)知異化,也要擁抱它創(chuàng)造的可能性。人類學(xué)會在算法的鏡像中審視自身,在認(rèn)知的牢籠外尋找突破,才能真正實(shí)現(xiàn)思維的進(jìn)化。這場人機(jī)對話的終極意義,或許在于重新定義智慧的本質(zhì),它不僅是個(gè)體的靈光閃現(xiàn),更是不同認(rèn)知范式碰撞出的永恒火焰。
(作者系贛南師范大學(xué)副教授)