中投網(wǎng)2025-03-06 11:14 來源：中投顧問產(chǎn)業(yè)研究大腦
中投顧問重磅推出"產(chǎn)業(yè)大腦"系列產(chǎn)品，高效賦能產(chǎn)業(yè)投資及產(chǎn)業(yè)發(fā)展各種工作場(chǎng)景，歡迎試用體驗(yàn)！ | ||||
|---|---|---|---|---|
| 產(chǎn)品 | 核心功能定位 | 登陸使用 | 試用申請(qǐng) | |
| 產(chǎn)業(yè)投資大腦 | 新興產(chǎn)業(yè)投資機(jī)會(huì)的高效挖掘工具 | 登陸 > | 申請(qǐng) > | |
| 產(chǎn)業(yè)招商大腦 | 大數(shù)據(jù)精準(zhǔn)招商專業(yè)平臺(tái) | 登陸 > | 申請(qǐng) > | |
| 產(chǎn)業(yè)研究大腦 | 產(chǎn)業(yè)研究工作的一站式解決方案 | 登陸 > | 申請(qǐng) > | |
聯(lián)系電話： 400 008 0586; 0755-82571568
微信掃碼： 
最近，DeepSeek火了！它憑借強(qiáng)大的生成能力，讓無數(shù)用戶體驗(yàn)到了AI帶來的驚喜。然而，隨著大家紛紛上手嘗試，一個(gè)老生常談卻又令人頭疼的問題再次浮出水面——AI幻覺，真真是乍一看很驚喜，細(xì)一看要吐血。
這幾天和朋友討論最多的也是AI幻覺：
今天，咱們就來好好聊聊這個(gè)事兒。
一、AI幻覺是個(gè)啥？
清華出品的《DeepSeek：從入門到精通》中對(duì)AI幻覺的定義如下：
AI幻覺（AI Hallucinations）是指生成式人工智能模型在生成文本或回答問題時(shí)，盡管表面上呈現(xiàn)出邏輯性和語法正確的形式，但其輸出內(nèi)容可能包含完全虛構(gòu)、不準(zhǔn)確或與事實(shí)不符的信息。
資料來源：《DeepSeek：從入門到精通》
AI幻覺的表現(xiàn)形式多種多樣。事實(shí)不一致是常見的一種，比如詢問歷史事件的具體時(shí)間、人物的關(guān)鍵信息等，AI給出的答案卻與真實(shí)歷史有偏差。事實(shí)捏造則更為離譜，AI可能會(huì)無中生有地創(chuàng)造出一些根本不存在的數(shù)據(jù)、事件或概念。還有指令不一致，明明用戶清晰地給出了指令，AI卻像是誤解了意思，給出的回答與指令南轅北轍。
二、AI幻覺的利：創(chuàng)意的“翅膀”
先說說好的一面。對(duì)于創(chuàng)意工作者來說，AI幻覺有時(shí)候就像天馬行空的創(chuàng)意火花。它不受常規(guī)思維的束縛，能蹦出一些特別新穎、獨(dú)特的點(diǎn)子。比如，一個(gè)設(shè)計(jì)師在尋找靈感時(shí)，AI可能給出一些奇怪但奇妙的設(shè)計(jì)思路，雖然這些思路本身可能并不可行，但卻能激發(fā)設(shè)計(jì)師的靈感，從而創(chuàng)造出真正獨(dú)特且有價(jià)值的作品。作家們也能從中獲得一些新奇的劇情線索，為創(chuàng)作增添不一樣的色彩。
三、AI幻覺的弊：行研的“地雷”
接下來，我想重點(diǎn)談?wù)凙I幻覺帶來的弊端。作為一名行業(yè)研究從業(yè)者，我將結(jié)合在實(shí)際工作中運(yùn)用AI時(shí)遇到的一些情況，來詳細(xì)闡述這一問題。
在行業(yè)研究領(lǐng)域，AI幻覺簡(jiǎn)直就是個(gè)大麻煩。行研需要的是真實(shí)、準(zhǔn)確的數(shù)據(jù)和事件分析，可AI卻可能給你編造出一堆不存在的數(shù)據(jù)，或者把不同事件胡亂拼湊在一起，得出完全錯(cuò)誤的結(jié)論。這就像是在做建筑的地基時(shí)，用上了劣質(zhì)材料，整個(gè)建筑的安全性都得不到保障。如果研究人員輕信了這些錯(cuò)誤信息，不僅會(huì)誤導(dǎo)自己的研究方向，還可能給企業(yè)或機(jī)構(gòu)帶來巨大的損失。
AI幻覺不僅會(huì)編造數(shù)據(jù)、政策、時(shí)間，還可能在其他方面制造混亂，以下是一些具體的表現(xiàn)形式及例舉。
1、編造數(shù)據(jù)
2025年1月EAST首次實(shí)現(xiàn)“億度千秒”，AI寫的內(nèi)容就改編成“2024年，EAST實(shí)現(xiàn)1億度運(yùn)行近10秒的新突破”，“千秒”瞬間變“十秒”了。
2、編造政策
AI有時(shí)會(huì)生成不存在的政策條款。如下：
AI還可能會(huì)錯(cuò)誤地標(biāo)注政策發(fā)布時(shí)間。例如，它可能會(huì)說某項(xiàng)重要的環(huán)保政策是在2024年1月1日開始實(shí)施的，而實(shí)際上該政策是在2023年7月1日就已經(jīng)正式施行了。這種時(shí)間上的錯(cuò)誤會(huì)導(dǎo)致研究人員對(duì)政策的時(shí)效性和影響范圍產(chǎn)生誤解，影響對(duì)行業(yè)發(fā)展趨勢(shì)的準(zhǔn)確判斷。
3、編造時(shí)間
AI可能會(huì)將數(shù)據(jù)時(shí)間搞錯(cuò)。比如2024年4月月報(bào)中的規(guī)劃項(xiàng)目數(shù)量，秘塔生成的內(nèi)容里，該數(shù)據(jù)時(shí)間就寫成了截至2025年3月。
下面這個(gè)例子就是大模型把政策發(fā)布時(shí)間理解成了項(xiàng)目規(guī)模統(tǒng)計(jì)時(shí)間，導(dǎo)致它寫的內(nèi)容完全偏離事實(shí)了。
非全年的數(shù)據(jù)它會(huì)理解為全年數(shù)據(jù)，比如下面例子中“2024年1-11月”的數(shù)據(jù)就被改為“截至2024年底”。
此外，AI有時(shí)還會(huì)編造出不存在的人物、企業(yè)或機(jī)構(gòu)等。
當(dāng)然，除了行研領(lǐng)域，其他領(lǐng)域AI也能很自信地“胡說八道”。比如網(wǎng)上的小伙伴們也在各自領(lǐng)域遇到了很多令人啼笑皆非的AI幻覺：
AI在“很嚴(yán)謹(jǐn)”地忽悠，小伙伴們都后背一涼。
四、總結(jié)與展望
AI幻覺，就像一把雙刃劍，既為創(chuàng)意工作者帶來了無限的靈感與可能，為他們打開了通往創(chuàng)意新世界的大門；又在行研等領(lǐng)域埋下了隱患，一旦數(shù)據(jù)和事實(shí)被其“扭曲”，極有可能導(dǎo)致嚴(yán)重的決策失誤，給企業(yè)和投資者帶來巨大的損失。
在這個(gè)AI飛速發(fā)展的時(shí)代，我們既不能因噎廢食，因?yàn)锳I幻覺的存在就對(duì)AI敬而遠(yuǎn)之；也不能盲目樂觀，忽視AI幻覺帶來的風(fēng)險(xiǎn)。我們要以理性、客觀的態(tài)度去認(rèn)識(shí)它，用科學(xué)、有效的方法去應(yīng)對(duì)它。
作為AI的使用者，我們需要時(shí)刻保持警惕，提高自己的辨別能力。在享受AI帶來的高效與便利時(shí)，要多留個(gè)心眼，對(duì)AI生成的內(nèi)容進(jìn)行仔細(xì)的甄別和驗(yàn)證，切勿盲目輕信。同時(shí)，我們也期待AI開發(fā)者們能夠不斷優(yōu)化算法，提升模型的準(zhǔn)確性和可靠性，盡可能地降低AI幻覺出現(xiàn)的概率，讓AI更好地為人類服務(wù)。
另外，作為專業(yè)的研究人員，咱們得明確一點(diǎn)：AI只能是個(gè)輔助工具。它可以幫助我們快速整理資料、提供一些初步的思路，但絕對(duì)不能完全依賴它來獲取關(guān)鍵數(shù)據(jù)和核心結(jié)論。那些重要的數(shù)據(jù)，還得靠我們自己去實(shí)地調(diào)研、查閱權(quán)威文獻(xiàn)，踏踏實(shí)實(shí)地鉆研。畢竟，AI再厲害，也只是個(gè)機(jī)器，它沒有人類的判斷力和對(duì)真實(shí)世界的深刻理解。
未來，隨著AI技術(shù)的不斷進(jìn)步與完善，相信我們能夠在利用AI的強(qiáng)大功能與防范AI幻覺風(fēng)險(xiǎn)之間找到一個(gè)完美的平衡點(diǎn)，讓AI真正成為推動(dòng)社會(huì)進(jìn)步和發(fā)展的有力引擎。
產(chǎn)業(yè)投資與產(chǎn)業(yè)發(fā)展服務(wù)一體化解決方案專家。掃一掃立即關(guān)注。
多維度的產(chǎn)業(yè)研究和分析，把握未來發(fā)展機(jī)會(huì)。掃碼關(guān)注，獲取前沿行業(yè)報(bào)告。
產(chǎn)業(yè)研究
產(chǎn)業(yè)規(guī)劃
產(chǎn)業(yè)招商
產(chǎn)業(yè)圖譜
產(chǎn)業(yè)數(shù)據(jù)
產(chǎn)業(yè)大腦
湖南·汨羅循環(huán)經(jīng)濟(jì)產(chǎn)業(yè)園產(chǎn)業(yè)發(fā)展戰(zhàn)略規(guī)劃
黑龍江哈爾濱高新區(qū)3D打印產(chǎn)業(yè)規(guī)劃
湖北博景園生態(tài)農(nóng)業(yè)發(fā)展規(guī)劃
南通市通州區(qū)“十三五”服務(wù)業(yè)發(fā)展規(guī)劃
安徽蕪湖市循環(huán)經(jīng)濟(jì)園規(guī)劃
江蘇科德豐新能源年產(chǎn)1億安時(shí)鋰電池項(xiàng)目設(shè)計(jì)
嶺南文化主題公園項(xiàng)目
鶴山市裝備制造業(yè)產(chǎn)業(yè)定位與招商對(duì)象研究
