好资源和短想法
最近几天都在读这篇文章，作者是大名鼎鼎的 Stephen Wolfram，就是创建数学软件 Wolfram 的那位。
此文从 GPT 开始谈起，实际上回溯了神经网络的主线发展历程，从最基础的权重计算，讲到 n-grams 最终到 transformer 的 attention 机制。
虽然我多年前就学习过神经网络，但是有很多细节更多的是知其然不知其所以然，这篇文章读来让我有醍醐灌顶的感觉，把关键的部分的意义都讲清楚了。
作者还很清晰地阐述了神经网络的几个天然局限，这是人脑能轻松做到而神经网络只能望洋兴叹的：
1. 神经网络不是图灵机，没有计算能力，无法准确地完成任何计算步骤
2. 世界是无穷复杂的（irreducible computation、NP 复杂度），而人类的理论都是简化的近似。AI 只能通过人类的简化理论来学习。
但是这些局限并不是不可逾越的，比如 function calling 就赋予了 AI 图灵机的能力。
关于第二点，涉及到 Polany's Paradox，人类无法描述世界的复杂性。这至少有两个理解方式：
1. 人类的语言没有客观标准，其意义由社会共识所决定
2. 世界的复杂性无法被理论描述
所以，GPT 的成功，实际上并不预示着计算能力的重大进步，而是人类能力的“巨大退步”。GPT 用事实证明了人类的语言能力并不是 irreducible computation，而是背后存在一些简单的规则，而且这个规则被 GPT 学会了。
然而作者也提到，GPT 的技术进步某种程度上只是无数人不断尝试的结果，人们发现通过一些设计能得到更好的结果。但是为什么要这么设计，GPT 是如何理解的？人们仍然一无所知。与其说人们发明了 GPT，也许说人类发现了 GPT 更为合适。
作者还试图构建一个大一统的计算语言，来抽象一切的事物，同时赋予 GPT 可解释性。我直观上觉得，这是否就是当年罗素的分析逻辑？
整理了一篇博客文章: https://blog.laisky.com/p/what-is-gpt/
原文笔记: https://laisky.notion.site/What-Is-ChatGPT-Doing-and-Why-Does-It-Work-6d390e2e44eb40498bd8b7add36bcc94?pvs=4
此文从 GPT 开始谈起，实际上回溯了神经网络的主线发展历程，从最基础的权重计算，讲到 n-grams 最终到 transformer 的 attention 机制。
虽然我多年前就学习过神经网络，但是有很多细节更多的是知其然不知其所以然，这篇文章读来让我有醍醐灌顶的感觉，把关键的部分的意义都讲清楚了。
作者还很清晰地阐述了神经网络的几个天然局限，这是人脑能轻松做到而神经网络只能望洋兴叹的：
1. 神经网络不是图灵机，没有计算能力，无法准确地完成任何计算步骤
2. 世界是无穷复杂的（irreducible computation、NP 复杂度），而人类的理论都是简化的近似。AI 只能通过人类的简化理论来学习。
但是这些局限并不是不可逾越的，比如 function calling 就赋予了 AI 图灵机的能力。
关于第二点，涉及到 Polany's Paradox，人类无法描述世界的复杂性。这至少有两个理解方式：
1. 人类的语言没有客观标准，其意义由社会共识所决定
2. 世界的复杂性无法被理论描述
所以，GPT 的成功，实际上并不预示着计算能力的重大进步，而是人类能力的“巨大退步”。GPT 用事实证明了人类的语言能力并不是 irreducible computation，而是背后存在一些简单的规则，而且这个规则被 GPT 学会了。
然而作者也提到，GPT 的技术进步某种程度上只是无数人不断尝试的结果，人们发现通过一些设计能得到更好的结果。但是为什么要这么设计，GPT 是如何理解的？人们仍然一无所知。与其说人们发明了 GPT，也许说人类发现了 GPT 更为合适。
作者还试图构建一个大一统的计算语言，来抽象一切的事物，同时赋予 GPT 可解释性。我直观上觉得，这是否就是当年罗素的分析逻辑？
整理了一篇博客文章: https://blog.laisky.com/p/what-is-gpt/
原文笔记: https://laisky.notion.site/What-Is-ChatGPT-Doing-and-Why-Does-It-Work-6d390e2e44eb40498bd8b7add36bcc94?pvs=4
Laisky
What is GPT and Why Does It Work?
Blog by Laisky - Exploring code, technology, and life
2024 年高峰期火车票购买指南 [by Xenogeneic]
https://sspai.com/post/86328
https://sspai.com/post/86328
早晚用得上的生活指南：我的第一次拔牙经历分享 [by Lars漫步]
https://sspai.com/post/86201
https://sspai.com/post/86201
人机交互的基石｜Apple 字体设计排版深度解析 [by 两颗皮蛋]
https://sspai.com/post/86214
https://sspai.com/post/86214
2023美团技术年货合集：http://dpurl.cn/RcpKNVfz
#数据库
我司小伙伴的文章最近频繁上Hacker news热门区，这一次是 https://news.ycombinator.com/item?id=39176797
中文版：《当我谈查询优化器时，我谈些什么 (1)—— IR 设计》
英文版：《What I Talk About When I Talk About Query Optimizer (Part 1): IR Design》
我司小伙伴的文章最近频繁上Hacker news热门区，这一次是 https://news.ycombinator.com/item?id=39176797
中文版：《当我谈查询优化器时，我谈些什么 (1)—— IR 设计》
英文版：《What I Talk About When I Talk About Query Optimizer (Part 1): IR Design》
#数据库
我司小伙伴的文章最近频繁上Hacker news热门区，这一次是 https://news.ycombinator.com/item?id=39176797
中文版：《当我谈查询优化器时，我谈些什么 (1)—— IR 设计》
英文版：《What I Talk About When I Talk About Query Optimizer (Part 1): IR Design》
我司小伙伴的文章最近频繁上Hacker news热门区，这一次是 https://news.ycombinator.com/item?id=39176797
中文版：《当我谈查询优化器时，我谈些什么 (1)—— IR 设计》
英文版：《What I Talk About When I Talk About Query Optimizer (Part 1): IR Design》
一日一技 | 达玛卡亚冥想法入门指南 [by 张奕源Nick]
https://sspai.com/post/86003
https://sspai.com/post/86003
新机械键盘结构漫谈（上） [by 车不能快]
https://sspai.com/prime/story/mechanic-keyboard-structures-01
https://sspai.com/prime/story/mechanic-keyboard-structures-01
城市漫步指南：冬天快要过去，夏季北欧行可以开始计划了 [by Miobowl]
https://sspai.com/post/85975
https://sspai.com/post/85975
#iOS #APP
🌐 Arc Search：让信息检索更高效
🔗 App Store
ℹ️ 关于 Arc Search
- 由 The Browser Company 推出的一款全新 App，将浏览器、搜索引擎和 AI 融为一体；
- 目前完全免费，「Arc Search 是你期待已久的一款现代、高速且内置 AI 的移动端浏览器」；
- 暂无中文支持，仅提供 iPhone 版，支持运行在 iOS 16.0 及更高版本上。
✨ 功能亮点
- 高效汇总信息：Arc Search 内置一个名为「Browse for Me」的功能，它能够整合多个信息源，在一个新标签页上呈现你需要的内容；
- 自动弹出键盘：大部分用户打开浏览器的用途都是搜索信息，但往往都需要先点击地址栏，Arc Search 则简化这一操作步骤，打开后即弹出键盘；
- 快捷切换网页：点击 Arc Search 右下角的窗口按钮便能够呼出标签页后台，快速在多个网页间切换，整个页面设计有些像 iOS 的多任务后台，上滑关闭网页，左右切换窗口；
- 除此之外，Arc Search 也支持屏蔽广告追踪、自动归档标签页、阅读模式等功能。
👀 我的看法
跟之前 Arc Browser for iOS 更偏向于桌面端的辅助不同，Arc Search 是在创始人 Josh Miller 要求「假设今天是公司成立的第一天，没有桌面端的存在」的前提下诞生的。——也是正是因为抛开包袱的做法，才让这款产品显得如此特别，它没有 waitlist，甚至无需登录，而是回归根本，先让产品落地，再与用户一起完成。
Miller 在分享 幕后故事 时也提到，他们发现移动端用户在使用浏览器时有 80% 的时间都是为了快速查找信息。基于这一点，Arc Search 默认弹出键盘，同时利用 AI 整合多个信息源，提供用户最需要的内容……
从几个月前 Arc Max 的推出到今天 Arc Search 的面世，不难看出 The Browser Company 对 AI 的思考，在他们看来，AI 不仅是一个 Chat Bot，更是一个能与浏览体验无缝结合、提高信息检索效率的工具。
📁 本文首发于 Humanitech 频道，图文版见 小红书。
频道：@NewlearnerChannel
🌐 Arc Search：让信息检索更高效
🔗 App Store
ℹ️ 关于 Arc Search
- 由 The Browser Company 推出的一款全新 App，将浏览器、搜索引擎和 AI 融为一体；
- 目前完全免费，「Arc Search 是你期待已久的一款现代、高速且内置 AI 的移动端浏览器」；
- 暂无中文支持，仅提供 iPhone 版，支持运行在 iOS 16.0 及更高版本上。
✨ 功能亮点
- 高效汇总信息：Arc Search 内置一个名为「Browse for Me」的功能，它能够整合多个信息源，在一个新标签页上呈现你需要的内容；
- 自动弹出键盘：大部分用户打开浏览器的用途都是搜索信息，但往往都需要先点击地址栏，Arc Search 则简化这一操作步骤，打开后即弹出键盘；
- 快捷切换网页：点击 Arc Search 右下角的窗口按钮便能够呼出标签页后台，快速在多个网页间切换，整个页面设计有些像 iOS 的多任务后台，上滑关闭网页，左右切换窗口；
- 除此之外，Arc Search 也支持屏蔽广告追踪、自动归档标签页、阅读模式等功能。
👀 我的看法
跟之前 Arc Browser for iOS 更偏向于桌面端的辅助不同，Arc Search 是在创始人 Josh Miller 要求「假设今天是公司成立的第一天，没有桌面端的存在」的前提下诞生的。——也是正是因为抛开包袱的做法，才让这款产品显得如此特别，它没有 waitlist，甚至无需登录，而是回归根本，先让产品落地，再与用户一起完成。
Miller 在分享 幕后故事 时也提到，他们发现移动端用户在使用浏览器时有 80% 的时间都是为了快速查找信息。基于这一点，Arc Search 默认弹出键盘，同时利用 AI 整合多个信息源，提供用户最需要的内容……
从几个月前 Arc Max 的推出到今天 Arc Search 的面世，不难看出 The Browser Company 对 AI 的思考，在他们看来，AI 不仅是一个 Chat Bot，更是一个能与浏览体验无缝结合、提高信息检索效率的工具。
📁 本文首发于 Humanitech 频道，图文版见 小红书。
频道：@NewlearnerChannel
#iOS #APP
👋 Catchup：提醒自己跟亲朋好友保持联系
🔗 Web | App Store
ℹ️ 关于 Catchup
- 由 Sprig 公司的设计主管 Chris Lee 推出，用于提醒自己与家人朋友保持联系；
- 免费下载，「朋友家人是我们生活中珍视的存在。然而有时我们可能需要一点提醒，让我们更积极地保持联系」；
- 暂无中文支持，大小仅 7.5 MB。提供 iPhone、iPad 及 Mac 版本，支持运行在 iOS / iPadOS 17.0、macOS 13.0 及更高版本上。
✨ 功能亮点
- 一键导入：在 Catchup 中，你不需要额外添加亲朋好友的个人信息，只需要点击右上角的 + 即可将 iOS 内置的联络人信息同步至 Catchup。点击好友头像，能够查看对方生日、上次联系的时间，并且设置联系的频率等等；
- 添加详情：在 Catchup 中，当超过设置的「联系频率」时间后没有联系朋友，在对方的名称下方将会用红色文字显示你们上次联系的时间。而当你点击「Check In」后也能够给你们这次联系添加详情：聊了什么？约定好下次去吃什么？等等。
👀 我的看法
在接受 TechCrunch 的 采访 中，开发者 Chris Lee 提到：「有的朋友和家人住在其他地方。我发现几个月甚至几年过去了，我们都没有任何交谈。并不是我不看重他们——他们对我来说非常重要——而是我意识到，我并不会自然而然地记得保持联系。在我认识的其他人中，这个看似细微的问题也导致了友情的疏远甚至冲突」——这大概也是每一个人在人际关系中的真实写照，我们似乎一直处在马不停蹄的状态，以至于无法停下片刻去跟久未联系的朋友寒暄几句。
📁 本内容首发于 Humanitech 频道，图文版见 小红书。
频道：@NewlearnerChannel
👋 Catchup：提醒自己跟亲朋好友保持联系
🔗 Web | App Store
ℹ️ 关于 Catchup
- 由 Sprig 公司的设计主管 Chris Lee 推出，用于提醒自己与家人朋友保持联系；
- 免费下载，「朋友家人是我们生活中珍视的存在。然而有时我们可能需要一点提醒，让我们更积极地保持联系」；
- 暂无中文支持，大小仅 7.5 MB。提供 iPhone、iPad 及 Mac 版本，支持运行在 iOS / iPadOS 17.0、macOS 13.0 及更高版本上。
✨ 功能亮点
- 一键导入：在 Catchup 中，你不需要额外添加亲朋好友的个人信息，只需要点击右上角的 + 即可将 iOS 内置的联络人信息同步至 Catchup。点击好友头像，能够查看对方生日、上次联系的时间，并且设置联系的频率等等；
- 添加详情：在 Catchup 中，当超过设置的「联系频率」时间后没有联系朋友，在对方的名称下方将会用红色文字显示你们上次联系的时间。而当你点击「Check In」后也能够给你们这次联系添加详情：聊了什么？约定好下次去吃什么？等等。
👀 我的看法
在接受 TechCrunch 的 采访 中，开发者 Chris Lee 提到：「有的朋友和家人住在其他地方。我发现几个月甚至几年过去了，我们都没有任何交谈。并不是我不看重他们——他们对我来说非常重要——而是我意识到，我并不会自然而然地记得保持联系。在我认识的其他人中，这个看似细微的问题也导致了友情的疏远甚至冲突」——这大概也是每一个人在人际关系中的真实写照，我们似乎一直处在马不停蹄的状态，以至于无法停下片刻去跟久未联系的朋友寒暄几句。
📁 本内容首发于 Humanitech 频道，图文版见 小红书。
频道：@NewlearnerChannel
#开源项目
XP可能是中国大陆最熟悉一致性算法（Paxos、Raft）的人之一，这次造了一个小玩具one_file_raft ，仅用300行Rust代码演示Raft原理。
XP可能是中国大陆最熟悉一致性算法（Paxos、Raft）的人之一，这次造了一个小玩具one_file_raft ，仅用300行Rust代码演示Raft原理。
GitHub
GitHub - drmingdrmer/one-file-raft
Contribute to drmingdrmer/one-file-raft development by creating an account on GitHub.
#技术科普文
#精美配图文章
《.NET async/await in a single picture》，以.NET来讲解异步编程机制的文章，配图非常精美，文章开篇第一句话“It is said that picture is worth a thousand words（一图胜千言）”。
#精美配图文章
《.NET async/await in a single picture》，以.NET来讲解异步编程机制的文章，配图非常精美，文章开篇第一句话“It is said that picture is worth a thousand words（一图胜千言）”。
#编程语言
Go语言设计者 Rob Pike的演讲，聊Go开源14周年的思考：
* 文字稿：《What We Got Right, What We Got Wrong》
* 视频：《What We Got Right, What We Got Wrong | GopherConAU 2023》
* 中文翻译：《Go语言之父的反思：我们做对了什么，做错了什么》
我看了一下，好像他认为的教训只是跟吉祥物有关而不是语言本身，看完之后我一头问号，另外在深入使用、学习Rust之后，觉得Go真是丑的不行。
Go语言设计者 Rob Pike的演讲，聊Go开源14周年的思考：
* 文字稿：《What We Got Right, What We Got Wrong》
* 视频：《What We Got Right, What We Got Wrong | GopherConAU 2023》
* 中文翻译：《Go语言之父的反思：我们做对了什么，做错了什么》
我看了一下，
#书
#精美配图文章
《How to Take Smart notes》的视觉笔记，有人帮忙翻译成了繁体中文版，堪称艺术品了，原贴见：https://twitter.com/zsviczian/status/1742875534416036174
《How to Take Smart notes》已经有简体中文版出版了，书名《卡片笔记写作法》。
像书这样的平面媒体，如果只有文字的话，提供的数据维度还是太少了，毕竟能做到文学里所谓“绘声绘色”的人还是少数，而在加了图之后，能提供以下的数据维度：
* 颜色：不同颜色用来区分不同的元素；
* 层次：不同层次（树状、网状、时间序等）让顺序、先后等一目了然；
* 联系：通过线条把不同的元素联系起来。
我在写博客、记笔记的时候也很喜欢画图，之前按照前面的这几条总结过一些规律，见《技术配图的一些心得》。
#精美配图文章
《How to Take Smart notes》的视觉笔记，有人帮忙翻译成了繁体中文版，堪称艺术品了，原贴见：https://twitter.com/zsviczian/status/1742875534416036174
《How to Take Smart notes》已经有简体中文版出版了，书名《卡片笔记写作法》。
像书这样的平面媒体，如果只有文字的话，提供的数据维度还是太少了，毕竟能做到文学里所谓“绘声绘色”的人还是少数，而在加了图之后，能提供以下的数据维度：
* 颜色：不同颜色用来区分不同的元素；
* 层次：不同层次（树状、网状、时间序等）让顺序、先后等一目了然；
* 联系：通过线条把不同的元素联系起来。
我在写博客、记笔记的时候也很喜欢画图，之前按照前面的这几条总结过一些规律，见《技术配图的一些心得》。