<?xml version="1.0" encoding="utf-8" standalone="yes"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom" xmlns:content="http://purl.org/rss/1.0/modules/content/">
  <channel>
    <title>一个错误百出的博客</title>
    <link>https://imalwayswrong.com/</link>
    <description>Recent content on 一个错误百出的博客</description>
    <generator>Hugo -- gohugo.io</generator>
    <lastBuildDate>Sat, 04 Feb 2023 04:53:53 -0500</lastBuildDate><atom:link href="https://imalwayswrong.com/index.xml" rel="self" type="application/rss+xml" />
    <item>
      <title>所谓的「写在前面的话」</title>
      <link>https://imalwayswrong.com/posts/my-first-post/</link>
      <pubDate>Sat, 04 Feb 2023 04:53:53 -0500</pubDate>
      
      <guid>https://imalwayswrong.com/posts/my-first-post/</guid>
      <description>我有一个很好的、认识大致有六七年的朋友。前两天打电话，他提到他的性格，说了（大致）是这样的一番话：
我其实已经算是挺浑的了，就是和你呆在一起的时候，我才（显得）不那么浑一点儿。我这么说你是不是也不知道这个「浑」是什么意思？那就对了。对于我呢，我是有意识的知道我什么时候要浑一点儿，我的正常状态还是挺和大家融得进去的。你呢，你是有意识的知道什么时候要表现出的「正常」是什么样子，正常状态还是挺浑的。
某种意义上来说，我觉得这个描述很贴切。我想从这里引申出几点，算是提供一些信息和我个人的思考给大家。
接下来的很多话在很多地方都能看到，简直被说烂了 —— 但我想提供一个不太一样的，讲这些东西的方式，这样也许能够帮助到和我比较像的人。补充一点背景：我所从事的工作领域中有一部分和所谓的「人工智能」这个大领域相关；这部分比喻所涉及到的专业知识，我会尽量确保精确程度，但是如果希望从事该领域的工作，希望你可以重新检查所有概念的定义。
首先，（我觉得大家应该已经明白这件事，）绝大多数人在使用不太一样的思维模式。
「绝大多数人」这个词多少有一点容易让人虚构出一个庞大的群体，所以我们不要说「绝大多数人」。
我们说各种各样的人，我们说身边的每一个人。
观察身边的人。当他们面对某种（生活中的）情境的刺激时，他们会如何反应？他们为什么会这样反应？
接下来，把他们放到群体中。当你已经对个体有一定程度的预估后，观察显性和隐性的群体内部的互动模式。当一个人产生反应了之后，其他人会如何对这个人的反应产生反应？
人们对于事物的态度是如何互相影响的？
但是，我们明明 “知道“ 我们的某种方式是更「对」的，为什么我们要去探究这种思维模式上的不同呢？
这种「更对」的后面其实缺少支撑，因为对错在我们这个世界上没有不可动摇的意义 —— 这就意味着这个「更对」其实只是你的个人观点而已。当然，这同时意味着，别人认为你「错了」，其实也只是他们的个人观点而已。这些对待事物的对错标准，在这个意义上同等正确，也同等错误。当然，我的这些观点也同等正确/错误 —— 来，抬头看一眼这个博客的标题！ 我们暂且不要把对方看作人，把对方看作是一个黑盒系统 —— 我们不知道这个系统里有什么，但我们知道某种输入（信息输入、外部刺激之类的其他东西）一定对应某种输出（信息输出，行为，态度，想法，情感）。更加了解这个系统（包括了解这个系统是如何与其他系统互相作用的）可以进一步帮助你对现实进行建模来预测「当我进行 x 举动时，接下来最有可能会发生什么」这件事。 我们把对方看作人，站在人对人的角度上，更好的理解对方 —— 我们的同类，但是又是和我们不同的特定个体 —— 有助于我们更好的理解我们自己。 GPT-3 (ChatGPT) 是通过海量的数据（在这里，海量的人类个体）加上海量的用户反馈（在这里，海量的你与其他人的交流的反馈）来达到一个「通用的文字模型」这样的效果的；人类的学习能力，尤其是举一反三的能力要强得多，所以你甚至不需要那么多的数据，就能达到远超过 GPT-3 的效果。那为什么不试试呢？ 当然，我也可以轻易的随便说出一些反对我自己的论点。比如：
我们身边的大多数人已经是经过我们选择的。 而且很难与我们有足够有意义的交流。 同时这个行为会耗费大量的时间，潜在来看成本实在是太高。 这些当然都是有意义的论点！但，论点不搭配上一个效用函数毫无意义。
换句话来说，你得先决定你在乎什么，这些论点才有用。在这个例子里，如果「去和别人交流来理解他人」这个行为对你的消耗就是很大，你觉得它的回报并不够多，你觉得你并不很在乎理解他人和外界的行为逻辑，那你自然会选择不去做。这些是你觉得的。
再换句话来说，压根就不存在「仅仅通过事实做出判断」这件事情，事实本身并不能导向判断，判断一定来自于某种偏好。这种偏好常常是「个人」的。
更极端一点的情况，就算是计算机来做决定，这种偏好也需要人为引入：
在深度学习之前的人工智能系统中，存在所谓的「启发式搜索」(Heuristic Search)。搜索，可以被简单的理解为计算机试图穷尽所有可能性来找到最优解的过程。就算不计入「启发式」这个部分，计算机需要靠某种效用函数 (Utility function) 来决定两个解哪一个解最优；引入所谓的「启发式」之后，计算机就有了「不需要运算到解的最后一步」的能力，可以在解中途的某一步，根据这个人定义的偏好函数，来计算出当前的这一个步骤所属的状态是否是比较好的状态（以及具体有多好）。 到今天，深度学习模型都需要定义一个损失函数 (Loss Function)。这个损失函数的设计，一般来源于人对于现实世界的理解（典型案例：Cross Entropy Loss），人对于目标优化过程的理解（典型案例：Contrastive Loss），或者是人对于最后希望目标的预估（典型案例：Reconstruction Loss）。定义损失函数常常能决定一个模型结构的表现；但有些损失函数可以被用在多个任务上，有些损失函数只能用在某个特定任务上才有好的表现，且大多数情况下损失函数定义是多种损失函数的结合。 所以，请不要认为自己身上主观的那部分是不好的。 我们最好保有客观分析事物的能力 —— 这可以帮助我们更好的获取客观的信息；但如果没有一组主观的偏好（可以是观念、道德准则、情感等），我们会失去做决策的能力。</description>
      <content:encoded><![CDATA[<p>我有一个很好的、认识大致有六七年的朋友。前两天打电话，他提到他的性格，说了（大致）是这样的一番话：</p>
<blockquote>
<p>我其实已经算是挺浑的了，就是和你呆在一起的时候，我才（显得）不那么浑一点儿。我这么说你是不是也不知道这个「浑」是什么意思？那就对了。对于我呢，我是有意识的知道我什么时候要浑一点儿，我的正常状态还是挺和大家融得进去的。你呢，你是有意识的知道什么时候要表现出的「正常」是什么样子，正常状态还是挺浑的。</p>
</blockquote>
<p>某种意义上来说，我觉得这个描述很贴切。我想从这里引申出几点，算是提供一些信息和我个人的思考给大家。</p>
<p>接下来的很多话在很多地方都能看到，简直被说烂了 —— 但我想提供一个不太一样的，讲这些东西的方式，这样也许能够帮助到和我比较像的人。补充一点背景：我所从事的工作领域中有一部分和所谓的「人工智能」这个大领域相关；这部分比喻所涉及到的专业知识，我会尽量确保精确程度，但是如果希望从事该领域的工作，希望你可以重新检查所有概念的定义。</p>
<p>首先，（我觉得大家应该已经明白这件事，）绝大多数人在使用不太一样的思维模式。</p>
<p>「绝大多数人」这个词多少有一点容易让人虚构出一个庞大的群体，所以我们不要说「绝大多数人」。</p>
<p>我们说各种各样的人，我们说身边的每一个人。</p>
<p>观察身边的人。当他们面对某种（生活中的）情境的刺激时，他们会如何反应？他们为什么会这样反应？</p>
<p>接下来，把他们放到群体中。当你已经对个体有一定程度的预估后，观察显性和隐性的群体内部的互动模式。当一个人产生反应了之后，其他人会如何对这个人的反应产生反应？</p>
<p>人们对于事物的态度是如何<strong>互相</strong>影响的？</p>
<p>但是，我们明明 “知道“ 我们的某种方式是更「对」的，为什么我们要去探究这种思维模式上的不同呢？</p>
<ol>
<li>这种「更对」的后面其实缺少支撑，因为对错在我们这个世界上没有不可动摇的意义 —— 这就意味着这个「更对」其实只是你的个人观点而已。当然，这同时意味着，别人认为你「错了」，其实也只是他们的个人观点而已。这些对待事物的对错标准，在这个意义上同等正确，也同等错误。当然，我的这些观点也同等正确/错误 —— 来，抬头看一眼这个博客的标题！</li>
<li>我们暂且不要把对方看作人，把对方看作是一个黑盒系统 —— 我们不知道这个系统里有什么，但我们知道某种输入（信息输入、外部刺激之类的其他东西）一定对应某种输出（信息输出，行为，态度，想法，情感）。更加了解这个系统（包括了解这个系统是如何与其他系统互相作用的）可以进一步帮助你对现实进行建模来预测「当我进行 x 举动时，接下来最有可能会发生什么」这件事。</li>
<li>我们把对方看作人，站在人对人的角度上，更好的理解对方 —— 我们的同类，但是又是和我们不同的特定个体 —— 有助于我们更好的理解我们自己。 GPT-3 (ChatGPT) 是通过海量的数据（在这里，海量的人类个体）加上海量的用户反馈（在这里，海量的你与其他人的交流的反馈）来达到一个「通用的文字模型」这样的效果的；人类的学习能力，尤其是举一反三的能力要强得多，所以你甚至不需要那么多的数据，就能达到远超过 GPT-3 的效果。那为什么不试试呢？</li>
</ol>
<p>当然，我也可以轻易的随便说出一些反对我自己的论点。比如：</p>
<ol>
<li>我们身边的大多数人已经是经过我们选择的。</li>
<li>而且很难与我们有足够有意义的交流。</li>
<li>同时这个行为会耗费大量的时间，潜在来看成本实在是太高。</li>
</ol>
<p>这些当然都是有意义的论点！但，论点不搭配上一个效用函数毫无意义。</p>
<p>换句话来说，你得先决定你在乎什么，这些论点才有用。在这个例子里，如果「去和别人交流来理解他人」这个行为<strong>对你的</strong>消耗就是很大，<strong>你觉得</strong>它的回报并不够多，<strong>你觉得</strong>你并不很在乎理解他人和外界的行为逻辑，那你自然会选择不去做。这些是<strong>你觉得</strong>的。</p>
<p>再换句话来说，压根就不存在「仅仅通过事实做出判断」这件事情，事实本身并不能导向判断，判断一定来自于某种偏好。这种偏好常常是「个人」的。</p>
<p>更极端一点的情况，就算是计算机来做决定，这种偏好也需要人为引入：</p>
<ol>
<li>在深度学习之前的人工智能系统中，存在所谓的「启发式搜索」(<a href="https://inst.eecs.berkeley.edu/~cs188/fa19/assets/slides/archive/SP18-CS188%20Lecture%203-informed-search.pdf">Heuristic Search</a>)。搜索，可以被简单的理解为计算机试图穷尽所有可能性来找到最优解的过程。就算不计入「启发式」这个部分，计算机需要靠某种效用函数 (Utility function) 来决定两个解哪一个解最优；引入所谓的「启发式」之后，计算机就有了「不需要运算到解的最后一步」的能力，可以在解中途的某一步，根据这个<strong>人定义的</strong>偏好函数，来计算出当前的这一个步骤所属的状态是否是比较好的状态（以及具体有多好）。</li>
<li>到今天，深度学习模型都需要定义一个损失函数 (<a href="https://www.zhihu.com/question/52398145">Loss Function</a>)。这个损失函数的设计，一般来源于<strong>人对于</strong>现实世界的理解（典型案例：<a href="https://zhuanlan.zhihu.com/p/54066141">Cross Entropy Loss</a>），<strong>人对于</strong>目标优化过程的理解（典型案例：<a href="https://zhuanlan.zhihu.com/p/103278453">Contrastive Loss</a>），或者是<strong>人对于</strong>最后希望目标的预估（典型案例：<a href="https://zhuanlan.zhihu.com/p/345360992">Reconstruction Loss</a>）。定义损失函数常常能决定一个模型结构的表现；但有些损失函数可以被用在多个任务上，有些损失函数只能用在某个特定任务上才有好的表现，且大多数情况下损失函数定义是多种损失函数的结合。</li>
</ol>
<p>所以，<strong>请不要认为自己身上主观的那部分是不好的。</strong> 我们最好保有客观分析事物的能力 —— 这可以帮助我们更好的获取客观的信息；但如果没有一组主观的偏好（可以是观念、道德准则、情感等），我们会<strong>失去做决策的能力</strong>。</p>
<p>同时，正如同你有「你自己的部分」，他人也有「他们自己的部分」。这种个体性，这种人与人的不同，一定会导致存在一些不可预见的冲突。</p>
<p>所以，为了避免这些冲突，我们需要掌握一种<strong>双方都在的当前社交情境下鼓励的</strong>，而且<strong>既不容易让我们的效用函数产生很低的值</strong>（既不让我们自己太难受），<strong>也不容易让一个未知的对方的效用体系产生很低的值</strong>（也不容易让对方太难受）的与他人交流的方式。</p>
<p>这个问题里面有两部分：我们自己的效用函数（算是比较简单的部分）和未知的、对方的效用体系（算是比较难的部分）。</p>
<p>我们自己的效用函数很简单，因为我们和自己相处的时间更长；但你要确保这段时间确实导致了<strong>你比较了解自己的效用函数</strong>。</p>
<p>通过把你自己放进更多的情境里，你可以更容易的获取「自己与自己相处」这个过程的训练样本，从而更加了解你自己，从而获取<strong>相对更精确的</strong>你自己的效用函数 —— 也就是所谓的：</p>
<blockquote>
<p>认识你自己！</p>
</blockquote>
<p>哈哈哈哈哈哈不是&hellip; 当然这句话也可以这么理解。扯远了，赶快来说比较难的部分 —— 你压根就不够了解对方，怎么才能知道对方的效用体系是什么样子呢？</p>
<p>来看一下 <a href="https://zhuanlan.zhihu.com/p/61215293">Few-Shot Learning</a>（抱歉，这个词没有好的中文翻译 —— 直译过来是“几个样本的学习“？有人会翻译成「小样本学习」、「少样本学习」）这个概念了。Few-Shot 的意思是，一个模型训练好之后，只需要给它几个某种新问题的样本，它就可以比较好的完成这个新问题。这是怎么做到的呢？</p>
<p>答案是，这个模型学到了「各种问题的共性」，以及该从新的问题里「抽取什么来把共性的解决方案迁移过来」。我们也可以采用类似的解决方案。</p>
<p>首先，通过对大量社交行为和情境的学习，你可以开始尝试对于「人的共性」进行建模。早期，你的数据量不够大的时候，你也许只能对某一部分人进行建模（比如，住在某市的+年龄在 xx 岁上下的+在 xx 学校的+成绩在 xx 范围内的人 的 某一种行为的 一般模型）。</p>
<p>接下来，为了用到新的样本上，你可以：</p>
<ol>
<li>强行互动一波，拿到一些样本，根据新的样本进一步拓展模型；</li>
<li>在获取新样本前，先观察新环境内是否存在可以拿来做示例样本的资料来学习。如果存在，先学过来，再获取新的样本来检验/调整你的模型。</li>
</ol>
<p>你模型训练中见过的样本越多、越多样，你对新样本的兼容能力就越强，你对于新情况的学习速度就越快。</p>
<p>最后，你会更容易建立「问题的共性」的模型，同时也知道该怎么从几个示例样本中「尝试抽取」一个情境的新信息。</p>
<p>最开始，「绝大多数人」会是一个模糊的，不精确的影子；随着我们训练样本的增多，我们会对于「绝大多数人」有更明确的建模。我们能看到某种特定类型的人，更容易因为某些特定因素的影响，产生某种特定的思维、情绪或行为模式；同时，对于新类型的人，我们可以先靠短时间内的观察顶上去，之后再通过新产生的训练样本，把这些新类型的人纳入我们对「绝大多数人」的模型中。最后，我们就从身边的每一个人，归纳出了「绝大多数人」。</p>
<p>说到这里，你可能已经发现了：「绝大多数人」就是<strong>除我以外的世界</strong>。这个建模过程，其实你已经在生活中不自觉的使用了（要不然你肯定活不到这么大）。现在，当我把它显式的提出并扔到你面前时，你会意识到一个还挺有意思的事情：</p>
<p>你已经熟练掌握了我刚刚说的这个过程；</p>
<p>而且，你可以把它用到<strong>任何</strong>你希望你的能力提高的领域。</p>
<p>为什么绝大多数人不这么做呢？因为这个过程对于「建模」能力要求是非常高的。它假设了「模型」是你思考所必经之路，但对于很多人来说，这样的建模过程非常耗费<em>额外的</em>精力。大多数人会采用一种基于样本点或标签的算法，根据过往经验和当前情境的相似度来复制（或基于某些简单的方式修改）当时的举措。</p>
<p>你也许也有过这样的体验。</p>
<p>同时，（你应该也发现了，）这个迭代的前几步还是挺难的。要求一个<strong>明知道自己其实几乎啥也不懂</strong>的人，去鼓起勇气<strong>在知道自己大概率会失败的情况下</strong>愿意去承担情感、现实等一系列后果，来不停的获取现实世界中的经验，这件事情本身非常需要勇气，需要一个坚强、勇敢、自信的人才能完成。我相信正在阅读这篇文章的你是这样的人。</p>
<p>所以，请你<strong>盲目的</strong>相信你可以。请相信我：<strong>不论是什么样的结果，都是同等重要（而且同等好的）训练样本。</strong> 做事情就会有结果，只要做了，就会有。这个过程的妙处就在于，你每一次重复这个循环，你的模型都会变得更准确。</p>
<p>我还有很多想说的，但以上内容是我觉得最重要的事情 —— 如果你再也不打开这个博客，我希望你至少明白了这个学习过程的运转原理。</p>
<h3 id="题外话们">题外话们</h3>
<p>我想了很久，第一篇博文到底应该写什么？我想写一些解决问题的方法，我想写该怎么查找资料，我想写该怎么获取钱、知识、人脉等各种各样的资源 —— 想来想去，还是觉得，这一切归根结底都是两个问题：如何获取更好的模型，以及如何处理在获取这个模型中出现的各种问题。现在，你已经（大致）（原理上）明白了如何获取更好的模型。</p>
<p>接下来，我会写一些获取模型中出现的各种各样的问题，希望这些问题的信息也能对你有帮助。</p>
<p>在我的人生中，有无数次其他人告诉我某件事不行，我总是将信将疑。很多时候，我听他们的意见，之后很后悔。我建议你先评估这件事情有多大程度是你的<strong>责任</strong>（指：如果这件事情出现很严重的问题，你会受到多大的影响？如果它最后结果出人意料的好，你会获得多少回报？）。如果你的责任挺大的，你应该相信自己对于事物的理解，并自己做决定。当然，可以拖到最后一刻做决定，在那之前，尽可能的收集信息并更新模型。你应该对于自己的模型有多值得相信有直觉，也请你相信这个直觉。</p>
]]></content:encoded>
    </item>
    
    <item>
      <title>关于网站</title>
      <link>https://imalwayswrong.com/why-this-site/</link>
      <pubDate>Mon, 01 Jan 0001 00:00:00 +0000</pubDate>
      
      <guid>https://imalwayswrong.com/why-this-site/</guid>
      <description>我时常感觉到自己的人生中，有无数关口能够通过都仅仅是因为幸运。我很难拥有充足的来自身边人的帮助和支持系统，因为我的性格和思考方式和主流大众的方式偏离非常严重。我非常希望在我更年轻的时候，我身边的人可以用更加清晰的方式讲明白一些事情；但同时，这些话如果不匿名，其实很难在公开场合讲出来 —— 因为会误伤到更多的、无关的人。我很在乎这些话、经历和想法可能可以帮助到的那一小部分人，所以，就有了这个博客。我希望可以分享一些也许平常很难听到的想法、建议和意见，以及一些我个人认为有趣的事情。
这个博客可能会对于经常使用内向直觉 (Ni) 和外向思考 (Te) 这两项信息元素的人更有帮助。我删除了相当多的传统意义上的博客应该有的功能，因为我希望提供一个纯粹的「仅仅是阅读」的体验。我也不是在试图建立一个社交媒体平台，所以你会发现本站不仅没有提供读者互相交流的渠道，甚至也没有提供向我提供反馈的功能。如果本站的内容对你有帮助，我鼓励你用和我相似的方式把你的思考总结下来并分享出去。
本站的 RSS Feed 所提供的内容和在本站上浏览几乎完全相同，建议你订阅，而不是定期查看这个网站。
技术栈 本站闭源，但是非常容易使用开源工具复现。这个网站的整体架构非常类似于 GitHub Pages，一旦设置好一次之后，可以一直免费使用（只要流量不超过 Netlify 的免费限制）。所以，如果你也想要搭建一个类似的网站，可以参考这样的技术栈：使用 Hugo 作为模版引擎，并使用经过大量修改的 PaperMod 作为主题，托管在 Netlify 上。把你注册的域名的 NS 记录们指向 Netlify DNS，然后 Netlify 会自动提供 Let&amp;rsquo;s Encrypt 的证书来解决 HTTPS 的问题。</description>
      <content:encoded><![CDATA[<p>我时常感觉到自己的人生中，有无数关口能够通过都仅仅是因为幸运。我很难拥有充足的来自身边人的帮助和支持系统，因为我的性格和思考方式和主流大众的方式偏离非常严重。我非常希望在我更年轻的时候，我身边的人可以用更加清晰的方式讲明白一些事情；但同时，这些话如果不匿名，其实很难在公开场合讲出来 —— 因为会误伤到更多的、无关的人。我很在乎这些话、经历和想法可能可以帮助到的那一小部分人，所以，就有了这个博客。我希望可以分享一些也许平常很难听到的想法、建议和意见，以及一些我个人认为有趣的事情。</p>
<p>这个博客可能会对于经常使用内向直觉 (Ni) 和外向思考 (Te) 这两项信息元素的人更有帮助。我删除了相当多的传统意义上的博客应该有的功能，因为我希望提供一个纯粹的「仅仅是阅读」的体验。我也不是在试图建立一个社交媒体平台，所以你会发现本站不仅没有提供读者互相交流的渠道，甚至也没有提供向我提供反馈的功能。如果本站的内容对你有帮助，我鼓励你用和我相似的方式把你的思考总结下来并分享出去。</p>
<p>本站的 RSS Feed 所提供的内容和在本站上浏览几乎完全相同，建议你订阅，而不是定期查看这个网站。</p>
<h3 id="技术栈">技术栈</h3>
<p>本站闭源，但是非常容易使用开源工具复现。这个网站的整体架构非常类似于 GitHub Pages，一旦设置好一次之后，可以一直免费使用（只要流量不超过 Netlify 的免费限制）。所以，如果你也想要搭建一个类似的网站，可以参考这样的技术栈：使用 <a href="https://gohugo.io/">Hugo</a> 作为模版引擎，并使用经过大量修改的 <a href="https://github.com/adityatelange/hugo-PaperMod">PaperMod</a> 作为主题，托管在 <a href="https://www.netlify.com/">Netlify</a> 上。把你注册的域名的 NS 记录们指向 Netlify DNS，然后 Netlify 会自动提供 Let&rsquo;s Encrypt 的证书来解决 HTTPS 的问题。</p>
]]></content:encoded>
    </item>
    
    
  </channel>
</rss>
