AI 做不到的,還
一直不想寫這話題,因為一週一個進化,寫了也跟不上。
但看到:
時,想到開學後新班學生這個問題也必然存在,那就還是寫吧。
AI 的幻覺問題,一如人類自己幻覺一直是基因級缺陷,迄今也沒真的解決。所以,在核查事實與否的層面上,開了檢索功能的 AI 和搜索引擎並無區別,能搜到就能相信嗎?顯然不能。
個人用法是,看到一些需要核查的說法我會固定扔給 Gemini 要求核查,Gemini 會有一個官方專門的核查功能被喚醒,Gemini 說可信我會要求其給信源自己再核查,Gemini 說不可信,基本就先視為不可信了。
國內高校的信息公開程度加之豆包模型的能力,問事實信息,現階段就基本等於玩兒。
這還只是說可量化的事實與否,一旦涉及價值判斷,一個事件即便現場人物也尚且各有視角,何況 AI 。
論壇之所以取消了 AI 和學生對話,這也是原因之一。
沒錯,聊天是這輪 AI 最初觸動人類的點,OpenAI 的 GPT 前那個 Chat 還在,但個人視角,較之此刻 Agent 幹活能力,聊天時代⋯⋯已經過去了。
除事實核查這類底線是否還有?AI 的底線,做不到的還有哪些?讓 AI 自己陳述吧:
AI 底線 上線:

AI 和我們自己的邊界會一直變,所以,也給了 Codex 一個定時任務:每月自動檢索最新模型進展之後更新題目。