课代表立正

What is 课代表立正?

课代表立正的官方Podcast
深度访谈，有用干货，亲身验证的「真本事」
Superlinear Academy创始人，Maven Top AI Instructor
前Statsig布道师（OpenAI收购），腾讯副总监，Meta，Amazon；康奈尔经济学博士

社区：Superlinear.Academy
课程：ai-builders.com
个人：lizheng.ai

難道不是希望做一個
比谷歌更好的嗎
不 我十分鐘做一個谷歌
所以降臨派到時候
到時候一旦降臨了
要記得我是降臨派的群組
另外一個就是說
那我們應該怎麼看待
House Nation這個問題
就沒有House Nation
就真的是更好嗎
我這有兩個問題
先說一下
要不先問吧
你說
第一個就是
Conversation是這樣的
Instruct
Instruction
為什麼需要強化學習
這一個
第二個就是
它的內部
它的alignment這一步
現在使用
Reinforcement learning的方式
但是是否可以用其他方式也行
我覺得第二個問題
稍微更好回答一點
就是你如果align的
只是這個format
或者說想法
其實並不需要
畢竟並不見得需要
所謂的強化學習
因為強化學習
更多的是你需要讓這個模型
去探索這些東西
如果你已經知道答案的話
你為什麼要讓它探索呢
對
對吧
所以
然後你第一個問題是
Instruct
Instruct GPT
使用reinforcement learning
但是為什麼呢
我覺得這個可能也是跟
就是它需要在conversation上
有behave有相關的
但這個我覺得我們可以再
再聊這個conversation
我記得之前那個stampard
出了一個paper是
就是HF
但是不用
但是不用AL的這種方式
其實業內官也有些討論
就是說HF是不是
就alignment是否
alignment是否一定要用
一定要用RL的方式去做alignment
對
是否一定要用RL的這個方式
我好奇就是你怎麼看待
這個話題的討論
我覺得alignment首先是個
比較brow的一個題目
就是到底是什麼叫alignment
對吧
叫和什麼東西align
或者說和一個東西align
是不是代表和另外一個東西
就不align了
對
然後這我覺得是有點哲學討論
那說我覺得RL更多的是
我們覺得現在大家發現的一個
能夠更像人的一種
比較有效的方法
但未來是不是這是唯一的方法
我覺得這也是不確定的
我更區分強化學習和普通的
我們所說的這種就是微調模型
或者這種
或者說single turn模型
就是最重要的一個
我覺得那幾個部分吧
一個是你需不需要讓模型
去做一個sequential decision
然後你才知道這個reward
如果你每一課都知道
準確的reward的話
就不一定
你不見得需要用強化學習
你只有需要做一個sequence的時候
你才需要reward
第二個這是我個人的觀點
我其實很少聽到別人去這麼說
我也非常想知道是不是正確的
但是我目前自是這麼理解的
就是你需要做強化學習的時候
你很有可能你得到這個reward
它到這個模型上而不differentiable
我舉個例子
比如說我們現在訓練一個模型
任何一個loss方式
它本身是differentiable
所以你可以根據這個loss
去把這個wasteupdate到
每一個parameter到多少是知道的
因為你就是forward pass過去
你獲得了這個loss
然後你整個模型和loss function
都是可導的
所以你才知道
模型應該update成什麼
而強化學習當中
你很多時候這個reward
它不是可導的
是的
這個東西0或者1
成功沒成功
或者甚至這個reward大小
都是一個我們所謂說
超參數hyperparameter
那我們就沒有辦法
如果你遇見了一個情況
你的reward是不可導的
你的loss方面是不可導的
對
那你是不是說
我覺得就更適合去用強化學習
去這個思路
但同理來說如果是可導的話
那你也不見得一定是要用
強化學習去完成這件事情
那我好奇一下
我不知道這個是不是相關
我理解
比如說你剛才講到
一系列的這個決策
就讓我很容易想到像autogbt
這樣的就是涉及一系列的這個行為
就我們所謂的這個agent
那現在我們看到一些agent的一些
一些時限
雖然說大家可以
當然有各種各樣的問題
但是它的確是在這個
一系列的這個action之間
在不斷地去做自我調整
這個屬不屬於
你剛才所說的這種情況
如果屬於的話
其實像什麼abgai
sorry
abgai什麼ogbt
其實它們也並沒有涉及到
RHF這個方向上的這種變動
所以我好奇你怎麼看待這一塊
首先我覺得你這個說得特別好
就是這些agent首先一定是
做一個sequence of decision
互相互depend
這個一定是一個很好的
用來做強化學習的一個環境場景
那你其實就要涉及一下這個
因為強化學有幾個必須要完成的條件
就比如說這個環境是什麼樣
它的狀態是什麼樣
它們的狀態之間是怎麼樣
變化了或者是它的reward應該什麼
如果你能把這些設計好
你其實真是可以把這些feedback
還到給模型的
那你就回到我們剛才那個話題
就如果你要還到這個模型
它是不是還是變得一個
更好的一個模型了
我認為你通過這個RHF的過程當中
你的模型發生了一些變化
那它就可以變得更好
比如像
但是可以這樣griff
就是模型不是必須要發生變化
模型在不發生變化的情況下
也能讓它通過這兩步
達到完成任務的能力變得更強
就是模型可以變化
但是它不是一個必要條件
我覺得可以這麼說
這個如果我們
你如果想聘一下
我們可以聊關於所謂不同種類的
fine tuning它們的做法不一樣
我覺得你說的這個東西
可能更適合某一類特類的
我其實同意你那天吃飯的時候
說的一個點就是
你如果說純餐數的update
就是和我們現在的做法
我們現在最多就能發揮60%的效果
我覺得讓模型發生變化
肯定最後是一個最optimal的方式
但是我會覺得
就是為了保證它現在的general
所以說模型不發生變化
而通過第二步去提高它的能力
是一個更general的方式
以及它已經遠遠超過之前的能力了
所以說這已經夠了
這是我的想法
其實你要完成你這個目標
你模型的參數可以變化
但是有可能每一個人
會得自己一部分可調參數
就是整個模型不變
但是模型的每一層當中
加一小塊是可以調整的
或者是最後一層加一小塊
是可以調整的
那其實就跟你的這個例子
是一樣的
雖然它是一個參數的形式存在
但是它並不影響
本身大模型的表現
我覺得這也是另外一個
也可以
我再把那個再說
就是或者說這樣
你剛剛說的是就是
我想三兩件事
我抽象理解的話
你剛剛說的是給模型做加法
就是或者說減了以後加
對吧
就是它的參數有改變
我說的是一個乘法
就是你這個layer沒有變
但是你又加了一層layer
然後乘以後
你的模型的performance
發生了變化
我大概是這個意思
我能再說一次
就是alignment overloaded這層
它是其實是一個
你可以把它理解成為
另外一個matrix
然後我通過alignment
乘了這個matrix
然後我得到了更好的效果
我不需要去改變模型本身的參數
大概是這個意思
你意思就是說
我說的這些東西
每一個都是說在特定任務上
加上了這個東西使得它成
但是你說的是可能
有一系列模型
和一系列的alignment的方法
然後它們可以互相就
對 或者只有一個GBT
因為GBT它本身的matrix太牛逼了
然後我不同的任務
我就去研究
我針對不同任務
最optimal的matrix
但是1乘n不就像是
和1加n沒什麼區別
不是一個模型
就是這模型裡邊的
1750一個參數不變
而這裡邊可能我有一個
10個億的參數
500萬的參數 whatever
然後就讓它的task的效果變好了
我只需要去focus在
改變這裡的參數就行了
而不需要去對那1750一個參數
做任何改變
對 那這個其實我們就是說
其實說到就是全參數微調
和部分參數微調
像你說這種更多的事情
就專門有一個部分
有一個area of work叫adapter
其實就是這個模型
它可以插入一部分參數進去
那你不用管它是插入在模型的中間
還是在最後還是前面
其實就是插入一部分
然後它是可以替換的
但其實你本身是一個基礎模型
或者一個底層模型
你可以不斷的插入不同的
這種adapter
但是就是和這差別
數字差異一樣的區別
什麼差
然後甚至是說你插入的是參數
還插入的是粒子
對
都是可以
這都是不同的這種思路
這個是在prechain階段嗎
還是
這是在應用階段的時候
應用階段
就是你可以訓練一個
插入的adapter參數
就相當於是
比如說我這個模型
本來有一個trillion的parameter
那我可能就插入了一個billion
或者half a billion的parameter
它分佈在這個模型不同的位置
但我模型知道
這些東西實際上它是可被替換的
那你可以拿走
你也可以換上另外一個
去不斷地去替換
那你可以說是我插入的是參數
但有可能我只在最前頭
插入了一段文字
那其實就有點像prompt
或者是我們所謂說的in context
或者再往前一點
就說叫prefix聽
就是說我能不能
在我說的這中間加一段
不管是文字
就是hard prefix
或者soud prefix
就增加一個vector
那在我的文字當中
那會不會有提高
其實這都是像你說的
就是不改變大模型的
本身的情況下
去再讓這個模型
應在不同的任務上
好 我先說觀點二
然後再打一個
正如你剛才說的這東西比方
觀點二就是
Auto GPT如果說我們說的
開放alignment
或者reinforcement learning
這層出現了以後
我覺得它們很快就沒了
就是因為這個sequence
其實你在alignment那一步
是更好被調節的
而且更可
就是我們現在是
如果大家去讀那個
Instract GPT或Chapel GPT的
那個paper
它們做的那個流程
其實是非常透明
和容易複製的
就是你去對話
然後人去打標
打完標了以後
去告訴他什麼好什麼不好
然後去train
然後人這個環節
完全可以被機器去替代
就是但是任務不一樣了
就是比如說我需要編出來
一個什麼樣的系統
比如說我要編Google的
一個ranker對吧
然後我要讓它的ranking
performance特別好
我是可以把這個任務
拆解成幾個重要的步驟
然後就直接用這個結果
去feedback給GPT
然後讓它去做就行了
那最後它應該
我覺得就是
假設它的能力是到位的話
它應該可以做出一個Google
不斷地調整自己
使得自己的ranking的效果
會越來越好
通過一些online的
一些feedback來講
對 問題是這兒
feedback明確的情況下
它的反饋效率
遠遠不是人給的提供
feedback能比的
它可能十分任務做出來了
那你這裡面
我想解釋一下
你覺得這個feedback是
機器怎麼提供這樣的feedback
就是你說的
就是你們當時做的
就是和其他
就是去對比
去benchmark其他的那個
就是我直接benchmarkGoogle
然後你什麼時候
達到Google performance
然後就行了
OK 那這個確實
但是你希望去做強化學習
你難道不是希望做一個
比Google更好的嗎
不 我十分鐘做一個Google
我十分鐘做一個Google
然後我也可以去想方設法
定義比Google更好
然後去給它提供feedback
但是問題是
我這十分鐘做一個Google
不是說我的模型
在已經人寫好的情況下去
去達到這樣performance
而是它從零開始
讓它重新開始寫代碼
對吧
你就給我寫代碼
寫出來一個Google
然後再十分鐘
可以做到這件事
我覺得未來是有可能的
這就是我覺得一件可怕之處
這就是為什麼我覺得
CHP OpenAI不敢隨便開放
reinforcement learning這一步
因為其實我剛說的
還是一個簡單的
十分鐘取代Google
大家覺得是可行的
但是如果說我是一個
更高的目標
如果我能想像出來
且我能給它提供
reward function的話
它也可以做到這件事
我覺得從理想上講
肯定是這樣的
對 這個讓我想到
Silicon Valley那個
對 電視劇裡面那個
對吧 就是從一個小的
你只optimize for small goal
but ultimately就是它發現你
其實你發現要optimize它
其實需要更大的時間
花了一天的時間
破解了世界上
新的Bitcoin加密算法
我當時在那個文章裡面有說
我就說SkyNet這種情況
應該不會出現
因為AGI它就是模型
它沒有一個自己的motivation
它沒有一個intrinsic function
它自己沒有目標
但是你讓它去破解
世界上加密算法
它有可能把它高效地破解出來了
這個是存在可能性的
其實這個是輸backed out
我一開始問你的問題
就是你覺得開放了RHF
可以使得我們做哪些
我們現在做不了的事情
而剛才之所以講到AutoGBT
其實也是
我們都知道它只是一個demo
但是它提供了一個
它讓更多人看到了一種可能性
其實在這個可能性中
其實大家就在講說
把它做到落地
有可能有哪一些bottleneck
其中一個就是怎麼樣能夠讓它去
自己知道怎麼去收
自己知道怎麼去收臉中的一個東西
其實就是剛才如意講到的
它的sequence裡面
就是sequence裡面
怎麼樣去幫它去優化
能夠幫它在每一個過程中
去提供reward
而似乎大家想說
要能夠幫它很好做到這一點
是要在可能在RHF這個環節去實現的
我去打那個比方
我先把那個比方打完
就是跟您說的這個東西的關係是什麼
就是Pretend那個大模型能力這麼多
我們通過alignment發揮了這麼多
然後通過不同的prompt
又發揮了這麼多
然後現在AutoGPT是在通過prompt
去探索這裡邊的天花板
然後最多就到這兒而已
但是你開放了reinforcement learning之後
你的天花板可能可以到這兒
對 大概就是這種感覺
我的比方就是說
你就把它比方成人
這個人你給他讀了十張所有書
請了最好的老師
教了一個特別聰明的人
這個時候如果用你的那個
改參數的方式
你可以給他再加點芯片
然後給他一些特定的知識
那他是可以變得更聰明更有效率
但是另外的做法就是
你給他一個很聰明的人
然後去讓他去研究一些任務
然後去因為他有特別強的算力
所以說他在這個任務上
通過不同的調教和反饋
第一手的反饋
他能在這個任務上變得特別牛逼
但是我們現在是說有一個人
你只教他怎麼跟人家對話
然後在之後說不同的人給你對話
你給他不同的反應
我們在這上面已經看到了
這個模型的這麼多潛力了
在開放前面的一層
我只想到開放前面的那一層
就很可怕了已經
所以降臨派到時候
到時候一旦降臨了
要記得我是降臨派的群組
你們是降臨派的
可以可以可以
好呀好呀
好的
我們跟他拼
我們聊到了就是
歡迎你回來
Opening的大水一漲
現在所有的人都要死
如果開放了這種強化學習
到底對這些應用上面
到底有什麼樣的影響
開放什麼樣的新的技術
對正好因為我想起來
之前我在腦子裡面
拼的一個地方就是
你提到這個
盧伊現在做的公司
你們是選擇自己
build一個自己的模型
所以我覺得可以講講這個
因為這個也是現在
大家經常會討論的一個東西
就是你們怎麼做
我到底是自己build一個模型
還是說用現有模型的一個決策
是因為你們看到現有的這個
模型哪一些限制
那Going forward
就好像我們剛才提到的
如果我們要準備好說
這個模型現在的能力
還有很多我們不知道的這個地方
你覺得我相信很多
聽眾也是創業公司的小夥伴
我一方面想要現在能夠盡快落地
另一方面我要為了
未來可能的這個
這個模型的變化
需要做哪一些準備
你的思考是怎麼樣
我覺得我先說一下
我們為什麼自己做
自己的這些模型
就是說當然了
就是一方面我們想說
就是如何讓這個模型中
獲得專門是這種客服方面的知識
就是這些agents的身份
是如何回答這些問題的
我們其實做了很多這種評估
就是說如果同樣這個問題
這個用戶提交了這麼一個問題
就是他們的用戶
提交了這麼一個問題
那模型應該是如何回答
那很多時候模型
就算我們提供了一些
比如說文章在其中
文章有可能是詳細
有可能就是缺少一些步驟
那麼它和agent
就是說那些真正客服的那些人
他們去完成的那些事情
是不一樣的
那更多的文章是讓客戶
自己去troubleshoot自己
或者怎麼去做
而並不是說
agent應該去完成什麼事情
而agent他會回答
我做了什麼什麼事
然後你應該去做XYZ
這件事情上本身是
模型沒有的這方面知識
那麼如何把這方面知識
放到模型當中
讓模型去生成的答案當中
更像是一個agent
去回答的東西
這更像是我們的一個目標吧
在做這方面的時候
其中還有一個就是說
我們希望因為XGP的回答的時候
更多有一些
就是如果控制它的format
去回答那個問題的方法
我覺得這也是
你當然也可以說
我們可以通過更多的prompt
去tuning去完成這些事情
但如果你想有一個
更加比較一致的體驗的話
我覺得訓練自己的模型
會提高一些更為一致體驗
當然做這件事情
肯定是有它的代價的
最明顯的
我目前看到幾個明顯的代價
就除去所謂的工程成本
或者說什麼其他的成本
包含這些都不提的話
最明顯的一個代價
我認為就是文字質量
這Chad GPT
或者說其他大模型
它們在大模型當中
體現出一個特別
和別人不一樣的就是
它們的文字質量特別的高
特別的像是一個人去說的東西
而一些小的模型
你去讓它去完成一些短的東西
或者說讓它去生成一些東西
它會比較容易
但是一旦生長得比較長的時候
它的文字質量
或者說用詞方法
就會沒有大模型用得那麼好
就是更大的模型用得那麼好
所以這是我發現的一個
比較大的一個挑戰
其中一些做法可能也就是說
像GPT模型學習
或者是訓練一個更大的模型
然後從大的模型
往小的模型去Distill
這些都是一些這方面的一些思路
需要用大模型
然後Distill到小模型
就是說明你的主要成本
不是在訓練模型上
而是在使用模型Inference上
對 主要成本將會是
叫hosting cost
因為這個大家可以算一算
就是說一個模型
它需要多條的GPU的RAM
然後你其實如果要讓這個模型
一直能夠available
並且比如說
你還要接受更長的sequence的話
那可能它本身就是一個需要
不是一個很便宜的機器
如果一個56bit和1bit
可能這個成本就差得非常多了
對
那這個也說起來也就是說
OpenAI它做得很聰明的一點
就是我現在也覺得很神奇的地方
就是他們能夠把他們的hosting cost
壓得這麼低
讓我覺得他們
我甚至懷疑他們
你用OpenAI
OpenAI要付給你錢去使用的
就是他們的
就是他們的host這些模型的成本
實際上是相當高的
但是對就兩方面
一方面它確實能壓到很低
比如說3.5就降價降了
降了10倍
對
然後但是4很明顯
大家看到包括各種performance的問題
肯定跟它的這個
對
這其實有些大家說法就是說
比如說用GPS4的時候
它雖然是一個大模型
但是它最後它是生成的部分的時候
它是用一些小模型
嘗試去做生成
然後如果它叫speculative decoding
這當然也是別人的一些猜測
就是用一些小模型去做
後面的幾個步驟去做
decoling的steps
去節省這個成本
然後有些人也認為
這個模型的效果變得更加的不好
也是因為它讓小的模型
去speculate了更多
而不是像原來那麼保守
都有
這當然還是那句話
就是大家都是猜測
不過非常讓人覺得震撼的就是
它能夠用這麼便宜的價格
就算是GPS4
我覺得也是一個非常便宜的價格
去完成這件事情
對 因為它NPI收費也不是那麼貴
那既然它那麼便宜
你們仍然選擇自己做
對 其實你剛才提到的這個
為什麼選擇自己做中的一個
其實你提到一個是consistency
然後另外一個我剛才想到
其實特別想跟大家討論的
其實就是大家經常詬病
大模型的holocination這個問題
當然我覺得支持者
我說支持這個holocination
是個硬商的人
總是能找出各種支持它的
在很多場景下它的不穩定
然後會多麼的mission critical
但是我就好奇
我相信柯代表在這方面
肯定很有自己的想法
因為我一直在想說
一個就是說
yes 就是首先這個
是不是模型的一個硬商
就是它在不論是模型層面
我現在應該怎麼說
首先一個假設吧
我們就不討論那個
假設這個就是個統計模型的
一個硬商
我們就是沒有辦法100%
來去消滅這個holocination
那麼一個說從應用角度
我們是否可以在應用的層面
其實可以把它降到
它所在的那個場景裡面
其實一個可執行
就是一個商用上
已經make sense的一個地步
然後另外一個就是說
那我們應該怎麼看待
holocination這個問題
就沒有holocination
就真的是更好嗎
因為如果從人的角度來說
我們覺得很多時候
可能holocination也是
首先人有holocination
甚至可能holocination
也是我們有creativity
就是創造力的
是不是它也是一個硬幣的兩面
那我們應該怎麼看待
holocination的這個問題
所以
有柯代表先講
你先說吧
就是我剛笑就是因為人
他覺得holocination太多了
我覺得99%說
GPTholocination很有問題的人
他們都在holocination
對 然後我自己還開玩笑說
我這個項鍊戴在身上了以後
可以prompting能力加5
但是holocination加10
但是因為過於自信
所以反而會顯得
就是流量也可以增加
因為holocination太多
包括我有一個很具體的例子
就是我當時膝蓋
踢球斷了嘛
其實第一次的時候
只是一個小的撕裂
然後去找醫生
醫生說拍個S光沒事兒
骨頭沒事兒
那你就休息兩個月就可以好
我休息兩個月
然後再去踢5分鐘又斷了
為什麼
因為你需要拍那個MCR
反而就是核子功正
你才能看到韌帶的情況
韌帶其實當時已經撕裂了
那我應該休息半年以上才行
這就是一個醫生holocinate
然後導致了問題
然後他也沒有任何的責任
就是人類說什麼mission critical
但是我覺得就是
你如果看這個mission critical
你能看到他們各種各樣的人
你能保證他們不holocination嗎
我覺得沒有
所以
那我覺得我們先不如說一下
你認為什麼是要holocination
就是他
OK 這是個好問題
好問題
holocination是我的答案是錯的
或者說不是最好的情況下
我自不 我不知道
我以為它是對的
或者說是最好的
那我們傳統的積極學習的模型
都會經常會出現
比如說我們給了一個
很高的confidence level
然後是錯的
你認為這個是holocination嗎
是
還是你認為這只是犯了一個錯誤
就是統計上的錯誤
比如說我們舉個例子
這個東西是一個student test
它的一個那p-value
達到這個東西
但是它實際上並不是
明白了
那你認為你做的這個決定
說他們倆你reject
或者accept這個non-hypothesis
是不是holocination
不是
因為它是帶著
就是它的p-value 對吧
p-value的意義就是說
就是代表著你
但你根據這個p-value
你很有信心
然後你做出了一個錯誤的決定
你認為你在holocinate嗎
不覺得
我覺得我的信心是帶probability的
就是我接受它出1%的錯誤
那模型也是這麼覺得的
對
模型在每一次
生成一個新的token的時候
它其實都會生成一個概率 對嗎
對
就是說我有多少個概率
生成的下一個token是這個token
對
然後它犯了錯誤
你為什麼稱它叫holocination
我覺得它是自信的
很一本正經的
很好的問題
我沒有這麼想過
但是我現在想的話就是說
模型知道但是人不知道
人很多
就是人為什麼我們會用holocination
去稱這件事情
因為它其實是一個人的行為
人為什麼會有這種行為呢
因為人很多時候
把opinion和facts給混淆起來
把自己錯誤的觀點
非常有自信的給說出來
然後它在用這個觀點
去說的時候
其實imply的是
我對這件事情的probability
非常之高
實際上可能非常之低
但是ChadGPT
在跟人進行alignment的時候
它在人學習人類說話的時候
它哪怕對這件事情
assigned的事實概率是30%
但是它的語氣給你的感受
是90%
那你覺得如果
它同樣說這句話
但是它說
我其實可能沒有那麼確定
我覺得加一個maybe
你會覺得這個
就不是holocination了嗎
我覺得從這個詞
我沒有精確定義的情況下
我覺得我可以接受
它不是holocination
明白你意思
以及我從頭到尾
我都覺得ChadGPT
表現出來holocination
比我見到的人真的是少太多了
就是這樣
就比如說李彥宏說什麼
我們兩個月可以做出來
我覺得還有兩個周
我覺得它是就人類的
或者我看網上的新聞
對吧 就這樣
對
我覺得我們可以舉幾個
關於這個所謂holocination的
幾個比較常見的例子
我覺得一個就是比如說
我們這樣
但是我是站在
就是holocination不是那麼重要
和這是一個可以被技術解決
就是你去適配不同的situation
去做不同的解決方案的這一派
所以你可能你跟我
我沒有
我其實沒有什麼特別的觀點
就是說holocination好還是不好
或者是能不能消滅
其實我並沒有一個
特別確切的觀點
我只是有一些
就是當然了我們討論是
就是探索這些想法
我自己看到就是說
我們認為為什麼說
holocination非常的明顯
舉個例子就是比如說
Auto-GPT或者Linechain
在完成這些適應的時候
它會去生成這個東西的
這個tool或者這個function
所需要的input對吧
它需要的輸入應該是什麼
很多時候
它有的時候不能說很多時候
就是有過 人們發現過
就是它會生成一些
完全不存在的東西
在裡面
比如說醫療的paper
根本就沒有這個paper
對 就是說什麼johndoe.com
它會就真的是
直接就說是johndoe.com
然後你就它不會說不是
這是一種類型
還有一種就是像你說的那種
我在描述一件事情的時候
不光我的觀點是錯的
我還說了一些論據
這些論據本身是不存在的
對
那這種也是holocination對吧
然後我覺得你說的第二種
更像是人也會發生了一些問題
就像記憶的時候
我記得好像有這麼一篇文章
去說這件事情
但實際上並沒有
我只是把兩篇文章混在一起了
對
然後我非常
那我就說
就因為這麼篇文
holocination這個詞
本來就是一個human behavior
然後behavior就是我看到的
是出現小人了 是吧
對 就是這樣
然後我
它這個詞就是
我看到的出現小人
對 就這個意思
這個東西到底是
我覺得可能
大家覺得它不好的原因就是
因為我們對機器的期待
並不希望他們去做一些
creativity task
我們對機器的期待和習慣都是
對 我們和他們的習慣
更多的是說機器就是有確定性的
他在做的一件事情
我用電腦去完成這件事情
就是因為人也可以做
但你做的效率更高
而且你不會犯錯
所以我才讓你用電腦去
這可能是我們之前使用一些
機器或者工具的習慣
這導致我發現
我現在用到這個工具
我有一定概率這個工具會失敗
變成了一件不是很好接受的事情