近日,美國斯坦福大學研究人員策劃了全球首個以人工智能(AI)為核心作者與論文評審的線上開放會議。主辦方稱,此次會議旨在創建一個“相對安全的試驗場”,探索AI是否及如何能獨立產生新穎的科學見解、假設與方法論等。
如今,AI已成為我們工作生活的好幫手,但它同時也在提供一種“認知捷徑”,讓人們不用費力思考便能得到想要的答案。一開始只是查詢信息、翻譯文字,慢慢開始利用AI輔助寫郵件、工作總結、研究論文,甚至進行重要決策……過度依賴AI,利用其進行“思維外包”,有可能讓我們日漸喪失思維的主導權。
人機共生時代,人類如何保持獨立思考呢?
AI“思維外包”藏隱憂
正如上述會議所探討的,大模型、智能體等AI應用已在包括科研在內的多領域廣泛賦能人類生產生活,促進學術研究和生產生活提質增效,但其帶來的技術紅利之下也暗藏隱憂。一些新研究顯示,過度依賴AI模型或可引發“AI腦霧”,削弱工作動力。
美國麻省理工學院研究顯示,長期使用AI會導致認知能力下降。研究人員對受試者展開腦電圖掃描后發現,與沒有使用AI工具的人相比,長期使用AI大語言模型的人大腦神經連接數降低,影響語言和行為等層面。微軟和卡內基-梅隆大學的研究也有類似發現,生成式AI會削弱批判性思維能力,導致過度依賴,可能削弱人們獨立解決問題的能力。
研究人員認為,開發者在設計生成式AI工具時,應有支持用戶提升批判性思維的意識,如提示需驗證的場景。特別是在設計法律文書、醫療建議等高風險任務時,應強制彈出驗證提醒(如“請核對AI引用的法規條款”)等,標注潛在風險,打破用戶對AI“全知全能”的認知偏差。
浙江大學管理學院吳蘇青團隊今年在英國《科學報告》雜志發表的研究還顯示,AI的應用帶來認知需求的“空心化”。當AI完成工作的“燒腦”部分,人類僅剩機械性執行,工作淪為“被動填空”,就可能會導致心理疏離,喪失工作動力。這就要求企業、政府部門等部署AI時要“慢下腳步”,可先小范圍試點、可控推進,邊用邊觀察對員工積極性和創造力的影響。
人們為何“輕信”AI
人們之所以愈加依賴AI,源自于近年來AI專業化能力和交互便捷性的飛躍:其生成內容的專業化程度,讓不少人把它奉為專家,而對話式的交互方式讓它好似一位學識淵博又無話不談的“好友”,更易讓人形成心理依賴和信任。
如今,AI大模型“開箱即用”的便捷性,進一步降低了使用門檻。由于缺乏基本的AI素養教育,使用者對AI本身的技術缺陷認知不足,更容易“輕信”。英國高等法院今年6月就要求律師采取緊急行動,防止AI被濫用,原因是數份可能由AI生成的虛假案例引用被提交至法庭。而今年由美國衛生與公眾服務部牽頭,“讓美國再次健康”委員會發布的兒童慢性病報告也因使用了生成式AI內容而出現重大引用錯誤。
荷蘭阿姆斯特丹大學研究人員詹姆斯·皮爾遜說,AI顯著推動了科研進程,如可用于繪制蛋白質結構、研發新型抗生素,還能加快文獻綜述等環節的進度等。但當AI產生的“幻覺”出現在論文評審或研究中時十分令人擔憂,AI還可能帶有其訓練數據中蘊含的偏見,進而加劇種族、性別等不平等問題。
“我們在使用AI的同時,把判斷力也一起外包了,不再去驗證AI給出的答案,不再去反思使用AI的過程。無條件接受AI給的任何信息,就會導致人的主觀能動性下降,深度的閱讀思考和表達能力也會隨之退化?!笨苹米骷?、中國作協科幻文學委員會副主任陳楸帆接受新華社記者采訪時說。
建立思維的“AI緩沖帶”
未來,AI一定會更加深度嵌入我們的工作生活。在這個人機共生的新時代,與AI共處需要更智慧。美國AI教育公司Section 4首席執行官格雷格·肖夫預測,未來10年,使用AI的知識型勞動者將分化為兩類群體:“AI乘客”與“AI駕馭者”。
“AI乘客”欣然將自身認知工作全權交由AI打理,短期內或因工作效率提升而獲得認可。但隨著AI能力的迭代,這些人終將被AI取代。而“AI駕馭者”則堅持主導AI的運作,把AI生成的內容當作初稿,對結果嚴格核查,有時還會關閉AI獨立思考。
“我們需要在不同的學習和工作場景里,學會分辨哪些場景適合用AI,哪些場景需要人來進行有利輔助,判斷和辨別AI給出的結果?!标愰狈滞瑯佑^點。在他看來,人們應對自己的心智、認知掌握主動權,有意識地建立一個“AI緩沖帶”,即面對新問題,先從自己的角度給出答案,再尋求AI的深化和擴充。
“我們甚至還可進行‘對抗性生成’,即當AI給出跟自己觀點十分契合的答案時,應有批判性思維去質疑,到底是我被AI所影響,還是AI在我的不斷訓練下,變得越來越趨同?我們是否能跳出思維慣性做出不一樣的選擇,給出AI沒想到的答案。”他說。
友情鏈接: 政府 高新園區合作媒體
Copyright 1999-2025 中國高新網chinahightech.com All Rights Reserved.京ICP備14033264號-5
電信與信息服務業務經營許可證060344號主辦單位:《中國高新技術產業導報》社有限責任公司