Skip to main content

細看模型

 人工智能的話題已是高考熱點,且會熱下去,所以之前給學生推薦了:

其實這個推薦還是偷了點懶的,所以這幾天重新梳理,祭出他老師:https://www.cs.toronto.edu/~hinton/



硅基生物的崛起,如其所說,很多科幻都已經不再是科幻,而就在目前。看機器彼此互通的學習效度,再看人類的知識傳承,何止絕望:)
本輪人工智能的C位是因為人類有了更大的數據和更強算力,神經網絡加持下,淘汰喬姆斯基,用向量和特徵多層級重新理解語言重新定義意義,最終有了我們自己也不能完全解釋的LLM,有了GPT的突破。按其理解,硅基生物本輪拆解語言的方式,本質上已經超越語言本身,而就是復現人類理解世界的方式了。畢竟,他學生用新發明的語言,LLM也完全展現了理解能力。

從具體而微的模型始祖,兩個家族樹,到此刻無數大模型家族,能用20分鐘講清楚的這些的,也就他了。

這幾天在吵9.11vs9.9,這類所謂胡說八道的幻覺問題,在他的向量和層級體系,確實自洽:
調整數據和更多特徵,自然就可以修正理解和錯誤的細節記憶。

辭職Google,是為天下蒼生預警,但看此刻的態勢,潘朵拉盒已開,未來已來,衹是來的是什麼,不可知而已。

面對這輪浪潮,全球每一所學校,都應該專門開設一門課,追蹤Geoffrey Hinton和其同事和弟子們,在做什麼,說了什麼。
這不現實吧?
當然不現實,但這不現實說明的,恰恰是學校這種人類文明文化的機制,已不能適應指數級別的人類智識進化而已。
而遙遙領先的大中國,因為牆,因為信息差可以賺錢,更早已迷失出進化之路途。

你們,能跟上的跟;其他,隨緣吧。

Comments