2024-03-22 insights
今天没有读什么新东西,总结一些之前阅读的东西作为今天的内容。 小脑的功能
“What does the Cerebellum Do Anyway? - by Sarah Constantin”
一篇曾经登上 HN 热榜的文章,介绍这个我们认为非常原始的器官 — 小脑…
2024-03-21 insights
LeCun 的观察 早上继续回顾 LeCun 和 Lex 的对话。LeCun 是一个坚定的 autoregressive model 唱衰者,认为这样的模型没有足够的智力。今天听到的最有 insight 的观察来自于算力 — LLM 对于任何问题都提供相同的算力,这是一种没有…
2024-03-20 insights
前言 这是一个新的系列,如果坚持下去我会将它单独列为一个 category。这是受到 叶弈宁 启发的一个系列,他在自己的博客里面每日更新 LLM 相关的论文 insights。他说他写 insights 的启发来自于谭院士的 博客,但谭院士的风格太过简练,我不太想效仿。
对于我来…
What is the purpose of blinking
It might be interesting to ask the question, why do we blink? Blink episode of the RadioLab dive into this question and the result is very…
信息瘾
这是 2022 年 2 月 4 日的旧文。现在迁移到新的博客上 今天,我想让自己接受现实生活的平淡。因为不知道什么时候开始,我意识到自己已经被来自网络时代的信息流驯化了。
每天醒来焦急的打开电脑,或者手机,调出一个信息源来满足我对于 “听见某种信息” 的渴望。有时候这是小说…
草台班子与普通的我
晚上学累了,又回顾了一下一段之前在 YouTube 上面看到的一段对话。总结下来的观点就是,大家都是普通人,大家都要接受是普通人。 在这件事情上我自己就颇有一点拧巴。知道自己是普通人,期待能够做出很好的事情。我期待自己能够在普通的进步中最后变得更不普通一点点…
Quote about Outer Wilds' music
Quote @themasterchao from their YouTube Comment: I love how Solanum's song has a syncopated rhythm compared to the other traveler's parts…
Is numpy array row or column vector
tldr: it is row vector, just automatically expanded/converted when doing matrix multiplication with the proper dimension. I was constantly…
Recursion, Tree and Culture
刚刚在放空大脑,盯着实验室外的树木看,注意到树上的枝桠一直不断的在做分形,大的分支产生小的分支,而小的分支本身又再重复着同样的事情。这种模式让我非常直接的联想到,这不就是一种递归么? 在计算机里面,递归(recursion)是指在一个函数或过程中调用自身的行为,是一种重复的过程…
我为什么会沉迷于 war 3 的解说视频
最近这两天我非常沉迷 YouTube 上面的魔兽争霸视频。每个可能都有一个小时的时长,但我每次看着都乐此不疲,可以看上一整天。虽然我已经有十几年都没有玩过 war3 了,我对它里面的机制从一开始也不了解,按理说它不应该有这么大的魔力让我可以如此长时间的被吸引到。 我很好奇这种成瘾…
What I’ve found out recently from writing my Thesis
Unsatisfaction I started my master's thesis last September. Four months have elapsed since then, and we've managed to produce some not bad…
Quoting bug 酱
补了一点 openai 的发布会 有一点小感慨,在模型规模拼命做 enlarge,冲大模型的今天,算法工程师这个职位正在变得越来越尴尬。
ML/DL 工种专业化程度越来越高,MLops 不需要算法工程师,模型推理加速 & 部署不需要算法工程师,推理引擎…
索拉里斯星:知觉之海,意识和生命的探讨
这是 2022 年发表在我的 wordpress 博客上的旧文,现搬运到新的博客上 I 正文
最近断断续续的看完了《索拉里斯星》这本上世纪的科幻巨著。在开始前我要先吐槽一下:其实完全没有必要花这么久,只是这本书的翻译实在是让我有些头疼。不知道是否是为了忠于原文,译文的语序处处透着…
Quoting 赵越胜
From this interview with 赵越胜 在这里要谈谈这位阿图瓦伯爵,也就是未来的查理十世。我们在历史中见过不少领导人,他的知识结构、文化水平、政治判断力和价值选择,会停留在青少年时期的某一个阶段。然后不管他活多久,也不管世界上发生多少变化…
Linked list in Rust
It is quite a hassle to learn the linked list in Rust, pure madness when you see expression like Option<Box<LinkedList>> for the first time.…
Composition over Inheritance
Why “Prefer Composition over Inheritance”? In a recent post, I shared my frustration with the complexity of my project's codebase. Basically…
Web Environment Integrity is gone, but the Android is more locked down than ever
Knowing this from brodie’s video. People from Google finally give up the WEI proposal and reverted all the changes in chromium. Instead…
The hype for a new language is not worthy
I recently learnt the basic of rust by using an interactive version of the rust book and rustling, a super helpful tutorial repo that helps…